Le nouveau modèle d'IA Astra d'OpenAI, utilisant une technique de raisonnement appelée « profondeur récurrente », inquiète les experts en sécurité IA
La « profondeur récurrente » d’OpenAI effectue des boucles de raisonnement en interne, générant ainsi moins de traces lisibles que les chercheurs en sécurité utilisent pour surveiller le comportement du modèle avant qu’il n’agisse. Ce qui inquiète les concurrents d’OpenAI et les chercheurs en sécurité, ce n’est pas la capacité d’Astra à détecter et à exploiter des vulnérabilités « zero-day ». C’est la perte de visibilité qui a alarmé une partie de la communauté chargée de la sécurité de l’IA.