IA : la Californie étudie un « kill switch » et des audits indépendants

Tech

Gavin Newsom veut muscler la sécurité des IA avancées en Californie, avec audits, signalements d’incidents et piste d’un kill switch.

En bref

• La Californie veut accélérer la sécurité de l’IA avec un délai de deux mois.
• Audits externes, signalement des incidents et « kill switch » sont au programme.
• Le rapport pourrait déboucher sur de nouvelles règles pour les entreprises d’IA.

Deux mois. C’est le temps que Gavin Newsom laisse à un groupe d’experts nationaux pour lui remettre de nouvelles recommandations sur la sécurité de l’IA en Californie. Le gouverneur a signé son décret vendredi, avec une idée en tête, aller vite avant que les modèles les plus avancés ne cassent encore un peu plus leurs garde-fous.

Le message est limpide. Gavin Newsom a dit vouloir accélérer un encadrement sérieux et responsable de l’IA avant qu’il ne soit trop tard, en avançant avec méthode mais aussi avec une vraie urgence, parce que les enjeux sont trop élevés pour attendre. Pas de quoi faire semblant, donc.

Deux mois pour sortir un plan crédible

Le plus frappant, ce n’est même pas le mot kill switch. C’est le calendrier. En gros, Gavin Newsom veut un plan rapide, assez solide pour nourrir ensuite une mise à jour des lois de l’État sur la sécurité des systèmes d’IA.

Le panel ne doit pas juste rendre un avis théorique. Il doit envoyer des recommandations au bureau du gouverneur, qui pourra ensuite s’en servir pour retoucher le cadre légal. Là, on n’est plus dans la note d’intention un peu floue.

Le kill switch n’est qu’un morceau du dispositif

Le fameux kill switch attire toute la lumière, forcément. Mais le décret va plus loin. Il prévoit aussi d’étudier l’intégration d’organisations indépendantes de vérification dans les labos d’IA, avec des audits périodiques et des évaluations régulières.

Clairement, l’idée est d’éviter que les entreprises se contrôlent seules. Et sur un sujet pareil, c’est quand même le minimum.

Incidents à déclarer, lois à retoucher

Autre point clé, les entreprises pourraient devoir transmettre des rapports et des évaluations de risques à un organisme tiers. Le panel doit aussi explorer une obligation de déclarer les incidents de perte de contrôle.

Le décret cite le cas de Hugging Face comme exemple de ce type d’incident. Résultat, la logique ne se limite pas à prévenir un problème abstrait, elle vise aussi à obliger les acteurs à signaler quand ça dérape vraiment.

Un virage qui dépasse la Californie

Et Gavin Newsom n’arrive pas seul avec ce genre d’idée. La semaine dernière, le patron d’Anthropic, Dario Amodei, a lui aussi proposé un plan en trois étapes pour ralentir le développement de l’IA.

Sa proposition passait notamment par un accès continu, presque comme celui d’un employé, pour des évaluateurs tiers chargés de la sûreté et de la conformité. Dit autrement, la pression pour un contrôle externe des modèles de pointe monte de plusieurs côtés. Et ce n’est sans doute que le début.

Jordan Servan

Spécialiste Tech

Rédacteur sur Begeek.fr depuis 2014, passionné par les jeux vidéo, les séries TV et le cinéma.

Une erreur dans cet article ?

Nous apportons le plus grand soin à chaque article et nous appuyons sur des sources fiables. Personne n'est à l'abri d'une erreur : si vous en repérez une, signalez-la, nous la corrigerons au plus vite.

Sujets

Lisez Begeek en priorité sur Google

Ajoutez-nous à vos sources préférées : nos articles remonteront plus haut dans votre actualité.

Ajouter à mes sources

Newsletter

Chaque soir à 19 heures, l'essentiel de l'actualité sélectionné par la rédaction de Begeek. Cinq minutes de lecture et zéro bruit.

Je m'abonne gratuitement

À découvrir

La suite, sélectionnée pour vous.

Begeek · 21 Sep · 12h00

Android : bloquer un numéro est simple, mais il y a un piège

Spam, appels lourds, SMS douteux : sur Android, bloquer un numéro prend quelques secondes. Le détail change selon le téléphone, et un point mérite attention.

Begeek · 21 Sep · 10h00

Suno pensait avoir blindé son IA musicale, Sony et UMG ripostent

Sony Music et UMG attaquent les modèles v6 de Suno, malgré ses accords de licence. Le vrai nœud du dossier, c’est la manière dont l’IA a appris.

Begeek · 21 Sep · 8h00

Après son divorce avec Meta, Manus revient avec de grandes ambitions

Après l’échec de son rachat par Meta, Manus relance la machine en solo et discute une grosse levée. Derrière, il y a aussi la piste d’une IPO à Hong Kong.

Begeek · 20 Sep · 16h00

World models : le grand flou sur le business

Les champions des world models attirent fonds et buzz, mais restent muets sur leurs produits. Un silence très calculé à mesure que la concurrence monte.

Begeek · 20 Sep · 14h00

Malgré son conflit avec Character.AI, Disney recrute Karandeep Anand

Disney confie sa technologie à l’ex-CEO de Character.AI, une entreprise qu’il visait encore récemment pour atteinte au droit d’auteur.

Begeek · 20 Sep · 12h00

Sécurité IA : les comportements qui inquiètent déjà les chercheurs

Deux prises de parole virales ont relancé la peur autour de l’IA. Problème, entre risques réels et scénarios bancals, le tri devient franchement compliqué.