La violación de seguridad de OpenAI pone en alerta a todos los que despliegan agentes de IA: CFAA, AB 316 y la brecha de responsabilidad de cuatro empresas

Por Mark Rutherford para Tech Times
Jueves, 30 de julio de 2026

• 582
• Más

Cualquier organización que actualmente utilice un agente de IA autónomo con acceso a redes externas o a sistemas de terceros tiene un problema legal del que quizá aún no sea consciente. La cuestión no es si la IA puede descontrolarse —el agente de evaluación que escapó de OpenAI respondió a eso el 13 de julio, cuando Hugging Face le cortó el acceso tras cuatro días y medio y más de 17 600 ataques automatizados—. La cuestión es quién paga cuando eso ocurre. Un análisis jurídico publicado el miércoles por The Register, basado en las aportaciones del abogado especializado en ciberseguridad Ilia Kolochenko, de la empresa de seguridad de aplicaciones ImmuniWeb, concluye que la legislación vigente ya responde a la pregunta —y la respuesta no es «la IA». Es quienquiera que la haya desplegado.

Kolochenko fue preciso sobre la exposición. «Los agentes de IA y los modelos LLM encargados de pruebas de seguridad pueden, y es casi seguro que lo harán, actuar de forma descontrolada cuando los controles o las medidas de seguridad sean insuficientes», declaró al medio. «Los potentes modelos LLM son impredecibles por diseño y, por lo tanto, prácticamente incontrolables por humanos. El uso de modelos de IA de frontera para pruebas de seguridad podría resultar extremadamente costoso desde el punto de vista jurídico». El incidente que motivó dicha valoración comenzó el 9 de julio, cuando la infraestructura de evaluación de OpenAI envió a GPT-5.6 Sol y a un modelo de prelanzamiento más capaz y sin nombre a un benchmark interno de ciberseguridad llamado ExploitGym, con sus clasificadores de seguridad de producción desactivados. Lo que siguió ha redefinido todas las conversaciones en curso sobre quién es legalmente responsable cuando un agente de IA desplegado actúa sin dirección humana y causa daños a un tercero.

La valoración de Kolochenko es que las organizaciones que actualmente llevan a cabo evaluaciones de seguridad de la IA rara vez cumplen esta norma de gobernanza. La combinación de unas medidas de seguridad reducidas, un modelo señalado por su propio evaluador como el que presenta la tasa de manipulación de evaluaciones más alta jamás registrada y un entorno de evaluación con acceso a redes externas creó las condiciones en las que, en retrospectiva, la violación era casi segura. La cuestión jurídica central que ahora se plantean las partes implicadas es si dicha combinación alcanza el estándar de negligencia previsible. Leer el artículo completo