Le patron d'Anthropic appelle à ralentir la vitesse de développement de l'intelligence artificielle

Outre son appel, Dario Amodei formule plusieurs propositions, afin de "ralentir ou suspendre temporairement le développement" de cette technologie. Elon Musk lui a répondu en disant qu'il "avait raison".

France Télévisions

Publié le 12/09/2026 19:06

Mis à jour le 12/09/2026 20:44

Temps de lecture : 2min

Le patron d'Anthropic, Dario Amodei, à Davos, le 23 janvier 2025. (FABRICE COFFRINI / AFP)

Il met le holà. Le patron d'Anthropic, Dario Amodei, a appelé, samedi 12 septembre, à ralentir la vitesse de développement de l'intelligence artificielle (IA), citant la nécessité de mieux contrôler ses évolutions et l'incident survenu en juillet chez OpenAI. La proposition de Dario Amodei fait écho à plusieurs autres de même nature lancées depuis début juin, d'abord par lui-même, puis par Sam Altman, le patron d'OpenIA.

Le message publié samedi sur son site personnel intervient quelques jours après qu'un chercheur d'Anthropic, Jacob Coxon, a annoncé quitter la start-up californienne, l'accusant de minimiser le risque existentiel que présente l'IA pour l'humanité. Dario Amodei fait écho à un autre appel, lancé début juin par Anthropic, à donner la possibilité aux grands acteurs de l'IA de "ralentir ou suspendre temporairement le développement" de cette technologie.

Dario Amodei s'inquiète de l'arrivée de l'amélioration récursive autonome (RSI), un processus qui voit l'IA s'améliorer elle-même sans intervention humaine. "Sans supervision, [cette méthode] pourrait dépasser nos capacités de compréhension et de contrôle de ces systèmes", explique le patron d'Anthropic. Elle doit être appliquée "avec beaucoup de prudence", "si tant est qu'il faille l'utiliser".

Vu l'accélération actuelle du développement de l'IA, "je redoute que d'ici 6 à 12 mois, un groupe [d'agents] soit capable de prendre le contrôle de l'intégralité d'internet", prévient aussi Dario Amodei, ce qui "pourrait entraîner des centaines de milliards de dollars de dégâts".

Outre son appel, Dario Amodei formule plusieurs propositions, en premier lieu, l'intégration par les fleurons de l'IA d'observateurs indépendants. S'il la recommande à toute l'industrie, le dirigeant s'engage à la mettre en place unilatéralement chez Anthropic. Les observateurs auront les mêmes accès que les employés de l'entreprise et pourront vérifier que la start-up se tient bien à ses engagements, faire état d'éventuels nouveaux incidents et surveiller l'encadrement des modèles pour éviter leurs dérives.

Dario Amodei prône aussi la collaboration entre les entreprises les plus avancées pour définir des normes de sécurité communes. Il se dit aussi favorable à une forme de coordination politique entre toutes les grandes nations de l'IA.

"Dario a raison", a réagi, quelques heures plus tard, Elon Musk, sur X. "Je suis d'accord avec Dario", a aussi écrit le patron d'OpenAI Sam Altman, également sur X. "C'est un des principaux sujets de discussions chez OpenAI ces dernières semaines."

Si Elon Musk a régulièrement eu des commentaires positifs sur Anthropic et son approche de l'IA, il est très rare de voir le patron d'OpenAI soutenir une initiative de celui d'Anthropic, les deux entreprises étant les deux grandes rivales du secteur. Dario Amodei a, par ailleurs, quitté OpenAI en 2020 pour partie parce qu'il considérait que la start-up californienne se montrait trop laxiste sur la question de la sécurité de l'IA, avant de fonder Anthropic en 2021.

Related Posts