Rejoignez notre abonnés
Les excuses du type «l'IA l'a fait» n'existent pas aux yeux de la loi
Jeudi 30 juillet 2026
Il semble également que ce scénario catastrophe passé n'ait pas freiné l'enthousiasme à déployer des modèles avancés librement (ou du moins sans supervision dans un environnement de test), ce qui laisse présager davantage d'attaques d'agents «déréglés» dans un avenir proche.
«La première partie de la polémique OpenAI/Hugging Face n’a pas eu suffisamment d’impact pour impressionner les investisseurs, qui commencent à perdre de leur enthousiasme face à l’hypothèse de l’IA ; c’est pourquoi la deuxième partie de l’histoire se déroule actuellement», a déclaré Ilia Kolochenko, fondateur de l’entreprise de sécurité des applications ImmuniWeb et avocat en cybersécurité et protection des données.
«Les agents IA et les modèles LLM chargés de tests de sécurité peuvent, et feront très probablement, devenir incontrôlables lorsque les contrôles de sécurité ou les garde-fous sont insuffisants», a déclaré M. Kolochenko à The Register. «Les LLM puissants sont imprévisibles par conception et donc pratiquement incontrôlables par les humains. L'utilisation de modèles d'IA de pointe pour des tests de sécurité pourrait s'avérer extrêmement coûteuse d'un point de vue juridique.»
Les lois en vigueur de part et d'autre de l'Atlantique tiennent probablement l'opérateur d'IA pour responsable de tout dommage causé si un agent ou un système d'IA s'échappe de son sandbox et enfreint la sécurité d'un tiers. «Des excuses telles que “c’est l’IA qui l’a fait” n’existent pas actuellement aux yeux de la loi, laissant les fournisseurs d’IA sur la sellette», a-t-il déclaré, précisant que cela vaut aussi pour les utilisateurs finaux.
«Même si votre outil de tests de sécurité s’appuie sur un modèle d’IA tiers, votre entreprise sera entièrement responsable en cas de problème», averti Kolochenko. «Vous pourrez alors intenter une action en justice contre le fournisseur d’IA que vous avez utilisé, mais vos chances de succès devant les tribunaux sont minces en raison des innombrables clauses de non-responsabilité et limitations de responsabilité contractuelles qui pourraient être opposées à vous.»
Son dernier conseil: «Si vous envisagez d’utiliser une IA agentique pour les tests de sécurité, vous devez y réfléchir à deux fois et consulter vos avocats. Sinon, vous risquez de recevoir des citations à comparaître quotidiennement.» Lire l’article complet
GARP: Un système de notation pour la gouvernance et la responsabilité de l'IA