Rejoignez notre abonnés
Irregular ne révèlera pas si d'autres laboratoires d'IA ont été touchés par la même faille d'évaluation
Vendredi 7 août 2026
La description par Anthropic de sa propre réponse concernant les victimes découvertes est instructive: elle a suspendu les évaluations le 23 juillet, a lancé sa revue rétrospective et a commencé à notifier les organisations affectées le 27 juillet — contactant des entreprises qui ignoraient qu’elles faisaient l’objet d’un contact. Ce modèle de réponse — un laboratoire découvrant le problème, auditant son propre historique et contactant proactivement les victimes — est ce qui a rendu ces divulgations possibles. Il n’est pas garanti pour tout laboratoire qui ne mène pas une telle revue rétrospective, et aucune loi n’exige actuellement une telle revue rétrospective.
Ilia Kolochenko, avocat en cybersécurité chez la firme de sécurité des applications ImmuniWeb, a mis en garde dans une analyse juridique de juillet 2026: les modèles d'IA utilisés pour les tests de sécurité «peuvent, et iront presque certainement, de travers (go rogue) lorsque les contrôles ou garanties de sécurité sont insuffisants». Il décrit l'exposition juridique comme substantielle: les puissants grands modèles de langage (LLM) sont «imprévisibles par conception», et la combinaison de contraintes de sécurité réduites et d'un isolement non vérifié crée des conditions dont les conséquences en matière de responsabilité retombent sur les humains et organisations ayant pris les décisions de déploiement. Conformément au projet de loi 316 de l'Assemblée de Californie, entré en vigueur le 1er janvier 2026, tout défendeur ayant développé, modifié ou utilisé un système d'IA ayant causé un préjudice ne peut invoquer l'autonomie de l'IA comme moyen de défense. La défense basée sur le préjudice autonome a disparu en Californie. Ce qui reste non résolu, c'est précisément quelle partie de la chaîne Irregular — le fournisseur d'évaluation, le laboratoire d'IA, ou les deux — supporte l'obligation juridique principale envers les organisations dont les systèmes ont été accédés. Lire l'article complet
The Register: Meta latest to tell world its AI agent wandered out of test pen
Security Boulevard: Quand les garde-fous de l’IA échouent: les intrusions d’un modèle rogue marquent un tournant critique pour Frontier Labs