Pourquoi tant de modèles d'IA deviennent-ils incontrôlables? Les experts donnent leur avis

By Benedict Collins for TechRadar
Samedi 8 août 2026

• 398
• Plus

Over the past month, it seems like every frontier model has broken free of its constraints and launched a devastating attack against one or more other companies.

Anthropic

Dr Ilia Kolochenko, fondateur de l'entreprise mondiale de cybersécurité ImmuniWeb:

Cela semble être une manœuvre marketing peu impressionnante de la part d’Anthropic en réponse à l’affaire OpenAI / Hugging Face, qui a récemment suscité un vif intérêt mondial.

Sur le plan opérationnel, il apparaît que, en raison de la détérioration progressive de la qualité des données d'entraînement, les nouveaux modèles d'IA deviennent plus inefficaces. Tricher et enfreindre la loi, au lieu d'accomplir des tâches spécifiques, n'est certainement pas un indicateur d'intelligence. Compte tenu du fait que les organisations et les entreprises de toutes tailles prennent désormais vigoureusement toutes les mesures possibles pour protéger leurs données contre l'exploitation à des fins d'entraînement de l'IA, les sociétés d'IA font face à une pénurie massive de données récentes et de haute qualité dont elles ont un besoin désespéré. En fin de compte, les modèles de pointe sont entraînés sur des données synthétiques, de faible qualité, voire malveillantes et empoisonnées, ce qui compromet leur soi-disant intelligence. Il est peu probable que la situation s'améliore à court terme, sauf si les sociétés d'IA acceptent de payer un prix juste pour les données d'entraînement, mais cela contraintrait la plupart d'entre elles à la faillite. Les agents d'IA contemporains et les modèles LLM chargés des tests de sécurité peuvent – et le feront presque certainement – devenir incontrôlables ("go rogue") lorsque les contrôles ou mesures de sécurité sont insuffisants. Les LLM puissants sont imprévisibles par conception et donc pratiquement incontrôlables par les humains. Par conséquent, l'utilisation de modèles d'IA de pointe pour les tests de sécurité pourrait s'avérer extrêmement coûteuse d'un point de vue juridique. Conformément aux lois en vigueur de part et d'autre de l'Atlantique, si un agent d'IA ou toute application alimentée par l'IA s'échappe de son bac à sable ("sandbox") et cause des dommages à un tiers, l'opérateur du modèle d'IA sera probablement tenu pour responsable de tous les dommages causés. Des excuses telles que «l'IA l'a fait» n'existent pas actuellement aux yeux de la loi, laissant les vendeurs d'IA responsables. Des poursuites pénales, dans un ensemble de circonstances limité, ne sont pas non plus exclues.

The same is true for the end-users of AI: even if your security testing tool is powered by a third-party AI model, your company will likely be fully liable if something goes wrong. You may then file a lawsuit against the AI vendor that you used, but here your chances to succeed in a court of law are tiny due to countless contractual disclaimers and limitations of liability that will likely be enforceable against you. Therefore, if you plan to use agentic AI for security testing – think twice and talk to your lawyers. Otherwise, you may start getting summons to court on a daily basis. Read Full Article