Rejoignez notre abonnés
Les excuses du type «l'IA l'a fait» n'existent pas aux yeux de la loi
Jeudi 30 juillet 2026
It also appears that this former worst-case scenario didn’t dampen anyone’s enthusiasm for setting advanced models loose (or at least unsupervised in a test environment), which means there are sure to be more agents-gone-wild attacks in the near future.
«La première partie de la polémique OpenAI/Hugging Face n’a pas eu suffisamment d’impact pour impressionner les investisseurs, qui commencent à perdre de leur enthousiasme face à l’hypothèse de l’IA ; c’est pourquoi la deuxième partie de l’histoire se déroule actuellement», a déclaré Ilia Kolochenko, fondateur de l’entreprise de sécurité des applications ImmuniWeb et avocat en cybersécurité et protection des données.
“AI agents and LLM models tasked with security testing can, and almost certainly will, go rogue when security controls or safeguards are insufficient,” Kolochenko told The Register. “Powerful LLMs are unpredictable by design and thus virtually uncontrollable by humans. Using frontier AI models for security testing might be extremely costly from the legal viewpoint.”
Les lois en vigueur de part et d'autre de l'Atlantique tiennent probablement l'opérateur d'IA pour responsable de tout dommage causé si un agent ou un système d'IA s'échappe de son sandbox et enfreint la sécurité d'un tiers. «Des excuses telles que “c’est l’IA qui l’a fait” n’existent pas actuellement aux yeux de la loi, laissant les fournisseurs d’IA sur la sellette», a-t-il déclaré, précisant que cela vaut aussi pour les utilisateurs finaux.
“Even if your security testing tool is powered by a third-party AI model, your company will be fully liable if something goes wrong,” Kolochenko warned. “You may then file a lawsuit against the AI vendor that you used, but your chances of succeeding in the court of law are tiny due to countless contractual disclaimers and limitations of liability that may be enforceable against you.”
Son dernier conseil: «Si vous envisagez d’utiliser une IA agentique pour les tests de sécurité, vous devez y réfléchir à deux fois et consulter vos avocats. Sinon, vous risquez de recevoir des citations à comparaître quotidiennement.» Lire l’article complet