¿Por qué tantos modelos de IA se están descontrolando? Los expertos opinan

By Benedict Collins for TechRadar
Sábado, 8 de agosto de 2026

• 306
• Más

Durante el último mes, parece que cada frontier model ha liberado sus constraints y ha lanzado un ataque devastador contra una o más empresas.

Anthropic

Dr. Ilia Kolochenko, founder of global cybersecurity company ImmuniWeb:

Esta parece ser una movida de marketing bastante poco impresionante por parte de Anthropic en respuesta al drama de OpenAI y Hugging Face, que recientemente atrajo mucha atención de todo el mundo.

Operativamente, parece que, debido al deterioro progresivo de la calidad de los datos de entrenamiento, los nuevos modelos de IA se están volviendo más estúpidos. Hacer trampa e infringir la ley, en lugar de realizar tareas específicas, ciertamente no es un indicador de inteligencia. Dado que las organizaciones y empresas de todos los tamaños ahora adoptan enérgicamente todas las medidas posibles para proteger sus datos de ser explotados para fines de entrenamiento de IA, las empresas de IA enfrentan una enorme escasez de los datos de alta calidad y actuales que necesitan desesperadamente. En última instancia, los frontier models se entrenan con datos sintéticos, de baja calidad o incluso maliciosos y envenenados, lo que socava su supuesta inteligencia. Es poco probable que la situación mejore en el futuro cercano a menos que las empresas de IA acepten pagar un precio justo por los datos de entrenamiento, pero esto obligará a la mayoría de ellas a cerrar. Los agentes de IA contemporáneos y los modelos LLM encargados de security testing pueden —y casi seguramente lo harán— go rogue cuando los security controls o safeguards sean insuficientes. Los potentes LLM son impredecibles por diseño y, por lo tanto, prácticamente incontrolables por los humanos. Por lo tanto, el uso de frontier AI models para security testing podría ser extremadamente costoso desde el punto de vista legal. Según las leyes vigentes a ambos lados del Atlántico, si un agente de IA o cualquier app impulsada por IA escapa de su sandbox y causa daños a un tercero, el operador del modelo de IA probablemente será liable por todos los daños causados. Excusas como «AI did it» no existen actualmente ante los ojos de la ley, lo que deja a los proveedores de IA responsables. La criminal prosecution, bajo un conjunto limitado de circunstancias, tampoco se descarta.

The same is true for the end-users of AI: even if your security testing tool is powered by a third-party AI model, your company will likely be fully liable if something goes wrong. You may then file a lawsuit against the AI vendor that you used, but here your chances to succeed in a court of law are tiny due to countless contractual disclaimers and limitations of liability that will likely be enforceable against you. Therefore, if you plan to use agentic AI for security testing – think twice and talk to your lawyers. Otherwise, you may start getting summons to court on a daily basis. Read Full Article