Las excusas como 'lo hizo la IA' no existen ante la ley.

By Jessica Lyons for The Register
Jueves, 30 de julio de 2026

• 405
• Más

También parece que este anterior peor escenario no ha frenado el entusiasmo de nadie por dar rienda suelta a modelos avanzados (o, al menos, sin supervisión en un entorno de pruebas), lo que significa que seguramente habrá más ataques de «agentes descontrolados» en un futuro próximo.

«La primera parte de la polémica entre OpenAI y Hugging Face no tuvo el efecto suficiente para impactar a los inversores, que empiezan a perder el entusiasmo por el hype de la IA, por lo que ahora se está desarrollando la segunda parte de la historia», afirmó Ilia Kolochenko, fundador de la empresa de seguridad de aplicaciones ImmuniWeb y abogado especializado en ciberseguridad y protección de datos.

«Los agentes de IA y los modelos LLM encargados de pruebas de seguridad pueden, y casi seguramente lo harán, actuar de forma descontrolada cuando los controles de seguridad o salvaguardas sean insuficientes», declaró Kolochenko a The Register. «Los potentes modelos LLM son impredecibles por diseño y, por tanto, prácticamente incontrolables por los humanos. El uso de modelos de IA de vanguardia para pruebas de seguridad podría resultar extremadamente costoso desde el punto de vista legal».

Es probable que las leyes vigentes a ambos lados del Atlántico consideren al operador de IA responsable de cualquier daño causado si un agente o un sistema de IA se escapa de su sandbox y vulnera un tercero. "Las excusas como 'la IA lo hizo' no existen actualmente ante los ojos de la ley, dejando a los proveedores de IA en el ajo", afirmó, añadiendo que esto también es válido para los usuarios finales.

«Incluso si su herramienta de pruebas de seguridad utiliza un modelo de IA de terceros, su empresa será plenamente responsable si algo sale mal», advirtió Kolochenko. «Podría interponer una demanda contra el proveedor de IA que utilizó, pero sus posibilidades de éxito en la corte son mínimas debido a las innumerables cláusulas de exoneración de responsabilidad y limitaciones de responsabilidad contractuales que podrían aplicársele».

Su último consejo: «Si planea utilizar agentic AI para security testing, debe pensarlo dos veces y consultar con sus abogados. De lo contrario, podría empezar a recibir citaciones judiciales a diario». Read Full Article