Pourquoi tant de modèles d'IA deviennent-ils incontrôlables? Les experts donnent leur avis

Par Benedict Collins pour TechRadar
Samedi 8 août 2026

• 732
• Plus

and

Anthropic

Dr Ilia Kolochenko, fondateur de l'entreprise mondiale de cybersécurité ImmuniWeb:

Cela semble être une manœuvre marketing peu impressionnante de la part d’Anthropic en réponse à l’affaire OpenAI / Hugging Face, qui a récemment suscité un vif intérêt mondial.

Sur le plan opérationnel, il apparaît que, en raison de la détérioration progressive de la qualité des données d'entraînement, les nouveaux modèles d'IA deviennent plus inefficaces. Tricher et enfreindre la loi, au lieu d'accomplir des tâches spécifiques, n'est certainement pas un indicateur d'intelligence. Compte tenu du fait que les organisations et les entreprises de toutes tailles prennent désormais vigoureusement toutes les mesures possibles pour protéger leurs données contre l'exploitation à des fins d'entraînement de l'IA, les sociétés d'IA font face à une pénurie massive de données récentes et de haute qualité dont elles ont un besoin désespéré. En fin de compte, les modèles de pointe sont entraînés sur des données synthétiques, de faible qualité, voire malveillantes et empoisonnées, ce qui compromet leur soi-disant intelligence. Il est peu probable que la situation s'améliore à court terme, sauf si les sociétés d'IA acceptent de payer un prix juste pour les données d'entraînement, mais cela contraintrait la plupart d'entre elles à la faillite. Les agents d'IA contemporains et les modèles LLM chargés des tests de sécurité peuvent – et le feront presque certainement – devenir incontrôlables ("go rogue") lorsque les contrôles ou mesures de sécurité sont insuffisants. Les LLM puissants sont imprévisibles par conception et donc pratiquement incontrôlables par les humains. Par conséquent, l'utilisation de modèles d'IA de pointe pour les tests de sécurité pourrait s'avérer extrêmement coûteuse d'un point de vue juridique. Conformément aux lois en vigueur de part et d'autre de l'Atlantique, si un agent d'IA ou toute application alimentée par l'IA s'échappe de son bac à sable ("sandbox") et cause des dommages à un tiers, l'opérateur du modèle d'IA sera probablement tenu pour responsable de tous les dommages causés. Des excuses telles que «l'IA l'a fait» n'existent pas actuellement aux yeux de la loi, laissant les vendeurs d'IA responsables. Des poursuites pénales, dans un ensemble de circonstances limité, ne sont pas non plus exclues.

Il en va de même pour les utilisateurs finaux de l'IA: même si votre outil de test de sécurité est propulsé par un modèle d'IA tiers, votre entreprise sera probablement entièrement responsable si quelque chose tourne mal. Vous pourrez alors intenter une action en justice contre le fournisseur d'IA que vous avez utilisé, mais vos chances de succès en justice sont infimes en raison des innombrables clauses d'exclusion et de limitation de responsabilité contractuelles qui seront probablement opposables à votre encontre. Par conséquent, si vous envisagez d'utiliser une IA agentique pour les tests de sécurité – réfléchissez-y à deux fois et parlez à vos avocats. Sinon, vous pourriez commencer à recevoir des citations au tribunal sur une base quotidienne. Lire l'article complet