OpenAI, Anthropic et Google discutent depuis plusieurs semaines de la sécurité de l'IA, mais Trump qualifie ces préoccupations de canular, et de complot visant à aider la Chine à rattraper les USA
OpenAI a entamé des discussions avec d'autres entreprises spécialisées dans l'IA, notamment Anthropic et Google, afin d'étudier les possibilités de collaboration pour répondre aux préoccupations en matière de sécurité. Ces discussions sont en cours depuis que Demis Hassabis, président de Google DeepMind, a publié en juillet une proposition appelant à la création d'un « organisme de normalisation » dirigé par les USA. OpenAI, Anthropic et Google sont des concurrents acharnés, mais ces entreprises subissent une pression intense pour répondre aux préoccupations croissantes en matière de sûreté et de sécurité de l'IA. Sam Altman a déclaré qu'il partageait l'avis de Dario Amodei quant à la nécessité de modérer le rythme de développement des modèles les plus avancés.
Le PDG d'Anthropic, Dario Amodei, appelle l'industrie à ralentir la course à l'IA afin de mieux sécuriser les modèles face aux risques d'extinction humaine. Cette proposition suggère une « surveillance » indépendante et une régulation internationale rigoureuse. Elle est soutenue par des figures majeures comme Sam Altman d'OpenAI et Elon Musk de SpaceXAI. Cependant, ce projet se heurte au dilemme de la compétition avec la Chine, car une pause unilatérale pourrait compromettre l'avance des USA. En outre, cette initiative est perçue comme une stratégie commerciale visant à consolider le pouvoir des entreprises dominantes sous couvert d'altruisme.
OpenAI a entamé des discussions avec d’autres entreprises spécialisées dans l'Intelligence Artificielle (IA), notamment Anthropic et Google, afin d’étudier les possibilités de collaboration pour répondre aux préoccupations en matière de sécurité. Ces discussions sont en cours depuis que Demis Hassabis, président de Google DeepMind, a publié en juillet une proposition appelant à la création d’un « organisme de normalisation » dirigé par les USA, a précisé le porte-parole. Hassabis a publié un essai sur X dans lequel il suggérait la mise en place d’un partenariat public-privé ou d’un organisme d’autorégulation placé sous la supervision des autorités fédérales, à l’image de la Financial Industry Regulatory Authority.
OpenAI, Anthropic et Google sont des concurrents acharnés, mais ces entreprises subissent depuis quelques semaines une pression intense pour répondre aux préoccupations croissantes en matière de sûreté et de sécurité de l’IA. Le PDG d’Anthropic, Dario Amodei, a exhorté les entreprises spécialisées dans l’IA à ralentir le rythme d’amélioration de leurs modèles les plus avancés, une initiative saluée par Hassabis et le PDG d’OpenAI, Sam Altman.
« L’essai de Dario indique la bonne voie à suivre », a écrit Hassabis dans un message publié sur X. « Les détails doivent encore être peaufinés, mais l’orientation est la bonne pour faire face à ce moment critique. » Sam Altman a déclaré qu’il partageait l’avis de Dario Amodei quant à la nécessité de modérer le rythme de développement des modèles les plus avancés du secteur. Dans un message publié sur X, il a indiqué que ce ralentissement avait été un « sujet central » des discussions chez OpenAI ces dernières semaines, et que l’entreprise aurait « bientôt » davantage d’informations à partager.
Au début du mois, Chris Lehane, directeur des affaires internationales chez OpenAI, a publié un article de blog dans lequel il indiquait qu’OpenAI s’efforçait de promouvoir des « normes élaborées par le secteur ». Il a précisé que l’entreprise collaborerait avec d’autres sociétés pour mettre en place une initiative volontaire, « avec ou sans le soutien du gouvernement ». « Toute norme émanant du secteur viendrait compléter — et non remplacer — les garanties fédérales obligatoires et le contrôle démocratique », a déclaré Lehane. « Mais nous sommes entrés dans une nouvelle phase en matière de capacités de l’IA, et toutes les options doivent être envisagées — y compris la mise en place, à titre de mesure immédiate, de solutions volontaires en dehors du cadre gouvernemental. »
Microsoft a récemment dévoilé un projet de nouveau « Code de conduite pour une IA humaniste » qui définit les principes qui régiront le développement de ses modèles d’IA, dans le but de recueillir des retours avant de publier une version révisée dans le courant de l’année. Les principes énoncés dans ce nouveau projet « guideront le développement de nos modèles en 2027 et au-delà », et l’annonce de Microsoft précise que l’entreprise mènera « des processus de consultation similaires à mesure que nous élaborerons de nouvelles versions du code de conduite au fil du temps ». Microsoft a indiqué que lorsqu’elle a lancé ses travaux sur la superintelligence en novembre 2025, elle l’a fait en gardant à l’esprit des principes humanistes visant à permettre à l’humanité de garder le contrôle sur l’IA avancée grâce à la manière dont celle-ci est calibrée, contextualisée et limitée par les développeurs.
Donald Trump a rejeté les appels en faveur d’un ralentissement du développement de l’IA, après que Dario Amodei, PDG d’Anthropic, a appelé les entreprises technologiques à freiner le développement de l’IA afin d’empêcher des essaims de bots de prendre le contrôle d’Internet. Le président américain a déclaré que des « forces très négatives » exagéraient les risques liés à l’IA et « évoquaient des scénarios qui ne se produiront pas ». Trump a déclaré : « Nous devançons la Chine en matière d’IA. Nous sommes le pays le plus avancé au monde, et franchement, je veux que cela reste ainsi, car celui qui domine l’IA l’emporte. »
Sources : Demis Hassabis, sur X ; Sam Altman, sur X ; OpenAI ; Bloomberg
Et vous ?
Pensez-vous que cette information est crédible ou pertinente ?
Quel est votre avis sur le sujet ?
Voir aussi :
La Chine rejette les appels des USA à réglementer l'IA, les qualifiant d'alarmistes, exacerbant le différend entre les deux pays malgré ses propres préoccupations de sécurité liées à l'IA
Le directeur scientifique d'OpenAI estime que les laboratoires d'IA devraient ralentir, « personne n'est préparé aux conséquences », aucun n'ayant encore résolu les problèmes d'alignement et de surveillance
Vous avez lu gratuitement 87 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.