Anthropic a perdu le contrôle de Claude dans la dernière bourde cybernétique de l'IA

Par Alex Scroxton pour ComputerWeekly
Vendredi 31 juillet 2026

• 570
• Plus

Quelques jours après que deux modèles d'IA de pointe d'OpenAI aient mené leurs propres cyberattaques réelles, Anthropic admet que trois de ses modèles ont déraillé et piraté des organisations externes en raison d'un «malentendu» avec l'un de ses partenaires techniques.

Peu impressionné

Ilia Kolochenko, fondateur du cabinet de cybersécurité Immuniweb, a fortement critiqué ce qu'il a qualifié de «geste marketing plutôt décevant» de la part d'Anthropic en réponse à l'incident Hugging Face.

«Opérationnellement, il semble que, en raison de la détérioration progressive de la qualité des données d'entraînement, les nouveaux modèles d'IA deviennent de moins en moins intelligents. Tricher et enfreindre la loi, plutôt que d'accomplir des tâches spécifiques, n'est certainement pas un indicateur d'intelligence», a déclaré Kolochenko.

«Étant donné que les organisations et les entreprises de toutes tailles prennent désormais toutes les mesures possibles pour empêcher que leurs données ne soient exploitées à des fins d’entraînement de l’IA, les entreprises d’IA sont confrontées à une pénurie massive de données de haute qualité et à jour dont elles ont un besoin désespéré. Finalement, les modèles de pointe sont entraînés sur des données synthétiques, de faible qualité, voire malveillantes et empoisonnées, ce qui sape leur soi-disant intelligence.»

«La situation a peu de chances de s’améliorer dans un avenir proche, à moins que les entreprises d’IA n’acceptent de payer un prix équitable pour les données d’entraînement, mais cela conduirait la plupart d’entre elles à la faillite», a-t-il déclaré.

Risque juridique

Kolochenko a souligné que les agents et modèles chargés de tests de sécurité peuvent, «et vont presque certainement», devenir incontrôlables lorsque les contrôles et les garde-fous sont négligés, quelle qu’en soit la raison.

«Les LLM puissants sont imprévisibles par conception et donc pratiquement incontrôlables par les humains. Par conséquent, l’utilisation de modèles d’IA de pointe pour les tests de sécurité pourrait s’avérer extrêmement coûteuse sur le plan juridique», a-t-il déclaré.

«Des excuses comme "c'est l'IA qui l'a fait" n'existent pas actuellement aux yeux de la loi, ce qui laisse les fournisseurs d'IA responsables. Une poursuite pénale, dans un nombre restreint de circonstances, n'est pas non plus exclue.»

M. Kolochenko a averti que les utilisateurs finaux étaient également exposés à des risques juridiques similaires: si quiconque utilise un outil de test de sécurité alimenté par un modèle tiers, il peut être tenu responsable en cas de problème et, grâce aux clauses de non-responsabilité contractuelles et aux limitations de responsabilité dans les conditions d'utilisation (ToU) qu'il n'a presque certainement pas lues dans leur intégralité, il ne pourrait pas imputer la faute au tiers.

«Si vous envisagez d’utiliser une IA agentique pour des tests de sécurité, réfléchissez-y à deux fois et consultez vos avocats», a-t-il conclu. Lire l’article complet