"Aucune entreprise n'agit de manière responsable" : un ancien employé d'OpenAI et d'Anthropic dénonce le danger que l'IA fait peser sur l'humanité

Dans son message, Jacob Coxon parle aussi bien d'OpenAI que d'Anthropic, deux laboratoires IA où il a travaillé. Bref, un signal d'alarme de la part du chercheur qui déclare même que "ces laboratoires pensent que l'IA pourrait nous tuer d'ici la fin de la décennie."

Un ancien d'OpenAI et d'Anthropic alerte sur l'IA

C'est sur X que Jacob Coxon a annoncé sa démission. "Aucune des deux entreprises n'agit de façon responsable", écrit-il à propos d'OpenAI et d'Anthropic. Le chercheur explique qu'il a passé trois ans dans la recherche sur le pré-entraînement dans les deux laboratoires. Et son passage chez OpenAI n'a rien d'anecdotique puisqu'il figure parmi les contributeurs de GPT-4o sur la page officielle du modèle.

Pour Jacob Coxon, la concurrence effrénée pousse chaque laboratoire à aller plus vite par peur qu'un rival n'arrive le premier. "Aucune autre activité humaine ne présente ce niveau de danger", affirme Jacob Coxon.

Et pourtant, alors qu'OpenAI et Anthropic reconnaissent elles-mêmes les risques de leurs modèles, la course effrénée est loin de ralentir. Le chercheur demande que les laboratoires IA se coordonnent. Pour lui, il faudrait même une interdiction temporaire pour bloquer les progrès sur les capacités des modèles si la course mondiale ne ralentit pas.

Selon Jacob Coxon, la concurrence qui bat son plein actuellement empêche une entreprise de ralentir seule. Il y a toujours la crainte qu'un rival ne prenne de l'avance alors tout le monde avance ses pions sans vraiment penser au danger.

Une course à l'IA qui fait oublier les risques

Le fait que Jacob Coxon dénonce Anthropic est un peu ironique pour ce laboratoire IA. En 2020, Dario Amodei, PDG de l'entreprise à qui l'on doit Claude, a quitté OpenAI après presque cinq ans dans l'entreprise. C'est en 2021 que l'homme et sa sœur Daniela Amodei ont créé Anthropic avec plusieurs anciens d'OpenAI.

Les raisons de leur départ du laboratoire à qui l'on doit ChatGPT ? Justement : des désaccords autour de la sécurité, de l'alignement et de la direction prise par OpenAI, notamment. En 2023, Dario Amodei expliquait qu'Anthropic avait notamment pour but d'ajouter "de l'alignement et de la sécurité". Quelques années plus tard, son modèle Mythos inquiète.

Anthropic a pourtant bâti tout son marketing autour de cette différence. L'entreprise a créé une Responsible Scaling Policy pour encadrer les risques que provoqueraient ses modèles. En août 2026, sa dernière évaluation publique partageait les risques que pourraient faire courir ses modèles mais aussi les solutions prévues. Anthropic écrit aussi s'autoriser une pause de développement si nécessaire.

Bref, une entreprise peut dire qu'elle prend la sécurité très au sérieux, mais malgré tout subir la pression pour accélérer et donc suivre la cadence du marché malgré les risques. Jacob Coxon tourne totalement le dos à l'IA. Exit ce secteur pour le chercheur, il n'ira pas bosser dans un autre laboratoire IA.

Suivez toute l'actualité des Numériques sur Google Actualités et sur la chaîne WhatsApp des Numériques

Envie de faire encore plus d'économies ? Découvrez nos codes promo sélectionnés pour vous.