Dario Amodei et l’IA : les dilemmes moraux d’un entrepreneur prophète

Automation of workflow with artificial intelligence AI. Intelligent process automation IA or robotic process automation RPA technology. Businessman touching AI icon on flowchart. Par tadamichiInternational À San Francisco, Dario Amodei dirige Anthropic. L’entreprise est un géant de l’IA valorisé 380 milliards. Entre éthique, politique et révolution technologique, son refus de certaines applications militaires place l’entrepreneur au cœur d’un affrontement stratégique.Oscar TessonneauTout commence par une absence à la Maison Blanche. Tous les patrons de la tech s’y rendent pour rencontrer Donald Trump. Mark Zuckerberg, Tim Cook, Sam Altman, Bill Gates. La Silicon Valley au complet. Sauf un : le fondateur d’Anthropic. Journalistes au Monde, Arnaud Leparmentier et Alexandre Piquard indiquent que Dario Amodei préfère rester à San Francisco. Quelques mois plus tôt, durant la campagne, il avait même qualifié le président américain de « seigneur de la guerre féodal », écrivent les journalistes.Ce refus de s’aligner ne s’arrête pas à la politique. Il a refusé d’ouvrir l’accès complet à son intelligence artificielle Claude au Pentagone pour deux usages précis : la surveillance de masse et l’autonomie d’armes létales. Pourtant, Anthropic vient de signer un contrat militaire de 200 millions de dollars avec l’armée américaine. Malgré la pression, Amodei tient bon. « Ces menaces ne modifient pas notre position : nous ne pouvons, en conscience, accéder à leur demande », affirme-t-il, rapportent les journalistes.La réaction à Washington est immédiate. Le conseiller présidentiel David Sacks accuse les scientifiques de l’IA d’être des opposants politiques. « Ce sont des gauchistes convaincus. Ils détestent Trump », déclare-t-il. Le sous-secrétaire au ministère de la guerre Emil Michael se montre encore plus brutal : « Amodei se prend pour Dieu », affirme-t-il.Pour comprendre son fonctionnement, il faut revenir à l’origine d’Anthropic. Dans un portrait publié par Time Magazine, Amodei explique que la direction de l’entreprise repose sur un duo familial rare dans la Silicon Valley. « Depuis que nous sommes enfants, nous nous sommes toujours sentis très alignés », raconte-t-elle. Ce mot — alignment — est central dans leur projet. Dans le langage de l’intelligence artificielle, il signifie que les systèmes doivent rester alignés sur les valeurs humaines.Cette idée structure toute la stratégie de l’entreprise. La rédaction de Time Magazine explique que les fondateurs d’Anthropic ont développé une méthode appelée « interprétabilité mécanistique ». Elle permet progressivement d’observer ce qui se passe réellement à l’intérieur d’un modèle d’intelligence artificielle, un peu comme le ferait un scanner du cerveau d’un algorithme. Leur chatbot Claude est le résultat de ces recherches.Daniela Amodei confiait à Time Magazine que l’entreprise a aussi développé une méthode baptisée « Constitutional AI ». Elle est destinée à guider les comportements de l’IA à partir de principes éthiques inscrits dans les modèles d’apprentissage de l’outil. « Nous espérons que notre existence dans cet écosystème poussera les autres organisations à devenir davantage comme nous », explique Amodei.Cette ambition morale se heurte pourtant à une réalité économique gigantesque.35 % des tâches de bureau réalisées par IATime Magazine note que, pour se développer commercialement, Anthropic doit construire des modèles d’IA parmi les plus puissants au monde. Ces choix exigent une puissance de calcul colossale et donc des investissements massifs. L’entreprise doit vendre l’accès à ses modèles d’apprentissage automatique et accompagner les révolutions transformant le marché du travail.Auteurs d’un essai intitulé Ne faites plus d’études ! Apprendre autrement à l’ère de l’IA, Olivier Babeau et Laurent Alexandre indiquent que l’IA transforme le marché du travail. Ils rappellent que le professeur à Harvard Christopher Stanton estime que 35 % des tâches de bureau peuvent déjà être réalisées par l’IA.La compétition entre géants de la tech devient alors une démonstration de puissance dans de nombreuses entreprises comme Microsoft. Son directeur, Satya Nadella, affirme que « l’IA écrit maintenant 30 % du code », tandis que Mark Zuckerberg promet que « bientôt, ce sera 50 % chez Meta ».Dario Amodei lui-même ne cache pas son inquiétude face aux capacités des IA à générer des programmes informatiques dans différents langages ou du texte. « Nous devons tirer la sonnette d’alarme. On peut encore l’éviter, mais certainement pas en répétant que tout ira bien. »Cette transformation bouleverse un système entier, puisque l’IA remet en cause le rôle traditionnel du savoir et des diplômes dans l’économie moderne. « L’IA détruit la rente du savoir en supprimant le coût d’accès à la compétence elle-même », fulminent-ils.Dans ce contexte, la position d’Amodei apparaît comme un équilibre fragile. Patron d’une entreprise valorisée à 380 milliards de dollars, partenaire de l’armée américaine et en même temps critique de certains usages militaires de l’IA, Anthropic incarne les contradictions d’une industrie devenue centrale dans la puissance mondiale.Et c’est précisément ce paradoxe qui place aujourd’hui Dario Amodei au cœur d’un débat bien plus large : celui du pouvoir politique, économique et moral des nouvelles intelligences artificielles.Un patron-prophèteL’histoire de l’entreprise démarre en 2021, quand Dario Amodei et sa sœur Daniela quittent OpenAI pour des raisons éthiques. Le geste a tout du schisme fondateur, presque religieux : partir parce qu’on estime que la machine file trop vite, que les garde-fous sont trop fragiles, que l’avenir ne peut pas être laissé aux seuls ingénieurs pressés.Depuis, expliquent-ils, Anthropic s’est imposée face à son ancien employeur, pendant qu’OpenAI peine à tenir certaines promesses d’investissement.Dario Amodei, démocrate assumé, s’installe dans ce rôle très américain du patron-prophète, à mi-chemin entre Bill Gates, Steve Jobs et Elon Musk. Sauf qu’ici, sa promesse n’est pas simplement de changer le monde, mais d’empêcher qu’il déraille.Pour bâtir des modèles d’IA de pointe, Amodei démontre qu’il faut d’immenses quantités de puissance de calcul, donc énormément d’argent. Cela oblige son entreprise à agir non comme une organisation à but non lucratif, mais comme une société qui vend l’accès à ses modèles et lève des fonds auprès d’investisseurs.1,6 milliard de dollars ont déjà été levés, dont 500 millions issus de FTX, la plateforme crypto aujourd’hui en faillite.Les fondateurs, souligne Time Magazine, reconnaissent les tensions inhérentes à cette approche commerciale, admettant qu’ils peuvent contribuer au problème même qu’ils prétendent contenir, mais estiment que c’est le seul moyen de mener une recherche sérieuse sur la sécurité, avec des salariés connaissant parfaitement leurs modèles et l’évolution de nombreux métiers impactés par l’intelligence artificielle. Plusieurs prophéties d’Amodei sur le monde du travail irritent profondément une partie de la tech. Au printemps 2025, il résume l’avenir des mutations probables du monde du travail : « Le cancer est guéri, l’économie croît de 10 % par an, le budget est équilibré et 20 % de la population est sans emploi ».

Votre panier est vide

Votre panier

Total estimé

Dario Amodei et l’IA : les dilemmes moraux d’un entrepreneur prophète

Automation of workflow with artificial intelligence AI. Intelligent process automation IA or robotic process automation RPA technology. Businessman touching AI icon on flowchart.

Je souscris

⚖️ Mentions Légales Interactives