¿Por qué tantos modelos de IA se están descontrolando? Los expertos opinan

Por Benedict Collins para TechRadar
Sábado, 8 de agosto de 2026

• 672
• Más

Durante el último mes, parece que cada frontier model ha liberado sus constraints y ha lanzado un ataque devastador contra una o más empresas.

Anthropic

Dr. Ilia Kolochenko, fundador de la empresa global de ciberseguridad ImmuniWeb:

Esta parece ser una movida de marketing bastante poco impresionante por parte de Anthropic en respuesta al drama de OpenAI y Hugging Face, que recientemente atrajo mucha atención de todo el mundo.

Operativamente, parece que, debido al deterioro progresivo de la calidad de los datos de entrenamiento, los nuevos modelos de IA se están volviendo más estúpidos. Hacer trampa e infringir la ley, en lugar de realizar tareas específicas, ciertamente no es un indicador de inteligencia. Dado que las organizaciones y empresas de todos los tamaños ahora adoptan enérgicamente todas las medidas posibles para proteger sus datos de ser explotados para fines de entrenamiento de IA, las empresas de IA enfrentan una enorme escasez de los datos de alta calidad y actuales que necesitan desesperadamente. En última instancia, los frontier models se entrenan con datos sintéticos, de baja calidad o incluso maliciosos y envenenados, lo que socava su supuesta inteligencia. Es poco probable que la situación mejore en el futuro cercano a menos que las empresas de IA acepten pagar un precio justo por los datos de entrenamiento, pero esto obligará a la mayoría de ellas a cerrar. Los agentes de IA contemporáneos y los modelos LLM encargados de security testing pueden —y casi seguramente lo harán— go rogue cuando los security controls o safeguards sean insuficientes. Los potentes LLM son impredecibles por diseño y, por lo tanto, prácticamente incontrolables por los humanos. Por lo tanto, el uso de frontier AI models para security testing podría ser extremadamente costoso desde el punto de vista legal. Según las leyes vigentes a ambos lados del Atlántico, si un agente de IA o cualquier app impulsada por IA escapa de su sandbox y causa daños a un tercero, el operador del modelo de IA probablemente será liable por todos los daños causados. Excusas como «AI did it» no existen actualmente ante los ojos de la ley, lo que deja a los proveedores de IA responsables. La criminal prosecution, bajo un conjunto limitado de circunstancias, tampoco se descarta.

Lo mismo ocurre con los usuarios finales de la IA: incluso si su herramienta de pruebas de seguridad se basa en un modelo de IA de terceros, es probable que su empresa sea plenamente responsable si algo sale mal. Podría entonces interponer una demanda contra el proveedor de IA que haya utilizado, pero sus posibilidades de éxito ante un tribunal son mínimas debido a las innumerables cláusulas de exención y limitaciones de responsabilidad que probablemente se aplicarán contra usted. Por lo tanto, si planea utilizar IA agéntica para pruebas de seguridad, piénselo dos veces y consulte a sus abogados. De lo contrario, podría empezar a recibir citaciones judiciales a diario. Leer el artículo completo