Entrevista: Por qué el uso «invisible» de la IA es ahora el mayor riesgo en la práctica jurídica

Revista Barrister
Miércoles, 27 de mayo de 2026

• 210
• Más

El Dr. Ilia Kolochenko habla sobre la fase posterior a la «luna de miel» de la IA y cómo está metiendo en problemas a abogados, árbitros y otros profesionales del derecho.

¿Cómo están provocando fugas masivas de información confidencial y privilegiada los asistentes de IA «ocultos» integrados en software tradicional, sistemas operativos y dispositivos móviles e IoT?

En 2026, los datos de entrenamiento de alta calidad son el nuevo oro para las empresas de IA. La evolución de los modelos LLM, supuestamente omniscientes y omnipotentes, es técnicamente imposible sin tales datos. Por lo tanto, los proveedores de IA de todos los tamaños están explotando agresivamente todo tipo de trucos para obtener tus datos —desde documentos confidenciales hasta correos electrónicos corporativos y conversaciones en Slack— para ajustar (finetune) sus modelos de IA. Aunque las grandes corporaciones siguen ciertas reglas para evitar responsabilidades legales en la corte, sus prácticas de recopilación de datos siguen siendo a menudo muy cercanas al límite. Por ejemplo, pueden habilitar la recopilación de datos de forma predeterminada, mientras que desactivarla es una tarea ardua, oculta detrás de numerosos dark patterns, destinados a impedir que los usuarios cambien la configuración predeterminada. En cuanto a las empresas más pequeñas, pueden simplemente utilizar tus datos para reventa o uso interno, independientemente de lo que digan sus términos de servicio. Por lo tanto, sé extremadamente prudente: no basta con revisar los términos de servicio, se requiere una auditoría en profundidad de cómo se utilizan realmente tus datos.

¿Por qué las normas y los marcos sobre el uso ético de la IA, como los de la ABA o el CIArb, no son suficientes para mitigar los riesgos técnicos y las prácticas engañosas de los proveedores de IA?

Estas normas y marcos son muy útiles, pero por razones obvias no pueden abordar cada uno de los riesgos o amenazas del uso de la IA. Por ejemplo, en 2026, algunos nuevos modelos de vehículos de la UE y EE. UU. incorporaban de serie agentes o sistemas de IA para recopilar datos de conducción y otros datos, para después enviarlos a la nube. Eventualmente, todas tus llamadas, mensajes y otras actividades realizadas desde tu vehículo podrían usarse para entrenar modelos LLM sin tu conocimiento.

¿Por qué las pequeñas startups de IA suelen ser más peligrosas tanto para grandes bufetes de abogados como para profesionales independientes que Big Tech debido a sus prácticas agresivas y poco éticas de recolección de datos?

Las startups más pequeñas se ven limitadas por la falta de fondos y otros recursos para adquirir datos de entrenamiento para sus modelos de IA internos. Por lo tanto, forman las denominadas "piscinas de entrenamiento de IA", donde cientos de actores más pequeños aportan algunos datos y, a cambio, pueden utilizar todos los demás datos de la piscina. Finalmente, una vez que sus datos se comparten con una pequeña startup de IA, estos pueden acabar en miles de manos equivocadas en todo el mundo. Los ciberdelincuentes se han dado cuenta recientemente de que violar estas piscinas de datos puede deparar tesoros ocultos y las persiguen deliberadamente. Por lo tanto, sus datos no solo pueden ser explotados por empresas de IA respaldadas por Estados de jurisdicciones hostiles para entrenar sus modelos de IA, sino que también pueden utilizarse para chantajear a su empresa o a sus clientes.

¿Cómo pueden los profesionales del derecho auditar su “higiene digital” para garantizar que la IA no se convierta en un pasivo durante un litigio de alto riesgo?

Es esencial contar con una visibilidad integral de sus flujos de datos y su uso. Independientemente de lo que indiquen los términos de servicio de sus proveedores, debe disponer de una visibilidad holística y un mapeo de lo que realmente sucede con sus datos, dónde y cómo. No solo debe saber qué datos se están utilizando, por quién y para qué, sino también qué podrían hacer los proveedores con sus datos. Por ejemplo, si su proveedor es hackeado, los datos en su poder quedarán accesibles a ciberdelincuentes. Si no está preparado para asumir dicho riesgo, no comparta estos datos con ese proveedor.

¿Cuáles son las sanciones disciplinarias y los riesgos legales por la divulgación involuntaria de datos a través de la IA?

Hasta hoy, los tribunales de todo el mundo han sido bastante indulgentes, imponiendo sanciones leves. Sin embargo, en 2026, dado que la alfabetización en IA y su uso crecen rápidamente, los errores ya no se tolerarán. La suspensión e incluso la inhabilitación probablemente se convertirán en la nueva realidad para los profesionales jurídicos negligentes. Leer el artículo completo