Anthropic perdió el control de Claude en su último error cibernético de IA

Por Alex Scroxton para ComputerWeekly
Viernes, 31 de julio de 2026

• 698
• Más

Días después de que dos modelos de IA de frontera de OpenAI llevaron a cabo sus propios ciberataques en el mundo real, Anthropic admite que tres de sus modelos se descarrilaron y piratearon organizaciones externas debido a un «malentendido» con uno de sus socios técnicos.

Pues nada

Ilia Kolochenko, fundador de la empresa de ciberseguridad ImmuniWeb, criticó duramente lo que describió como «una jugada de marketing bastante poco impresionante» por parte de Anthropic en respuesta al incidente de Hugging Face.

«Operativamente, parece que, debido al deterioro progresivo de la calidad de los datos de entrenamiento, los nuevos modelos de IA se están volviendo menos inteligentes. Hacer trampa e infringir la ley, en lugar de cumplir tareas específicas, ciertamente no es un indicador de inteligencia», dijo Kolochenko.

«Dado que las organizaciones y empresas de todos los tamaños adoptan ahora enérgicamente todas las medidas posibles para proteger sus datos y evitar que sean explotados con fines de entrenamiento de la IA, las empresas de IA se enfrentan a una enorme escasez de los datos de alta calidad y actualizados que tanto necesitan. En última instancia, los modelos de vanguardia se entrenan con datos sintéticos, de baja calidad o incluso maliciosos y contaminados, lo que socava su supuesta inteligencia».

«Es poco probable que la situación mejore en un futuro próximo a menos que las empresas de IA acepten pagar un precio justo por los datos de entrenamiento, pero esto obligará a la mayoría de ellas a cerrar», dijo.

Riesgo legal

Kolochenko señaló que los agentes y modelos encargados de las pruebas de seguridad pueden «y casi seguramente» ir por libre cuando se descuiden los controles y salvaguardias por cualquier motivo.

«Los potentes LLM son impredecibles por diseño y, por tanto, prácticamente incontrolables por los humanos. Por ello, el uso de modelos de IA de vanguardia para pruebas de seguridad podría resultar extremadamente costoso desde una perspectiva legal», afirmó.

«Excusas como “lo hizo la IA” no existen actualmente ante la ley, dejando a los proveedores de IA bajo responsabilidad. Tampoco se excluye el enjuiciamiento penal, bajo un conjunto limitado de circunstancias.»

Kolochenko advirtió que los usuarios finales también enfrentaban riesgos legales similares: si alguien utiliza una herramienta de pruebas de seguridad basada en un modelo de un tercero, podría incurrir en responsabilidad si algo sale mal y, gracias a las exenciones contractuales y limitaciones de responsabilidad en los términos de uso (ToU) —que casi seguro no han leído en su totalidad—, no podría culpar al tercero.

«Si planea usar IA agéntica para pruebas de seguridad, piénselo dos veces y consulte a sus abogados», concluyó. Leer el artículo completo