Entretien: Pourquoi l'utilisation «invisible» de l'IA est désormais le plus grand risque dans la pratique juridique

Barrister Magazine
Mercredi 27 mai 2026

• 211
• Plus

Le Dr Ilia Kolochenko évoque la phase post-lune de miel de l'IA et explique comment elle place les avocats, les arbitres et autres professionnels du droit dans une situation délicate.

Comment les assistants IA «cachés» intégrés dans les logiciels traditionnels, les systèmes d'exploitation, les appareils mobiles et IoT provoquent-ils des fuites massives d'informations confidentielles et privilégiées?

En 2026, les données d'entraînement de haute qualité constituent le nouvel or pour les entreprises d'IA. L'évolution ultérieure des modèles LLM prétendument omniscients et omnipotents est techniquement impossible sans de telles données. Par conséquent, les fournisseurs d'IA de toutes tailles exploitent agressivement toutes sortes d'astuces pour obtenir vos données – allant des documents confidentiels aux e-mails d'entreprise et aux discussions sur Slack – afin de fine-tuner leurs modèles d'IA. Bien que les grandes corporations respectent certaines règles pour éviter la responsabilité en justice, leurs pratiques de collecte de données restent souvent très proches de la ligne de crête. Par exemple, elles peuvent activer la collecte de données par défaut, tandis que sa désactivation est une tâche ardue, dissimulée derrière de nombreux "dark patterns" visant à empêcher les utilisateurs de modifier les paramètres par défaut. Quant aux plus petites entreprises, elles peuvent simplement utiliser vos données pour la revente ou l'usage interne, quelles que soient leurs conditions d'utilisation. Soyez donc extrêmement prudent: se contenter de consulter les conditions d'utilisation ne suffit pas ; un audit approfondi de la manière dont vos données sont réellement utilisées est requis.

Why are rules and frameworks on the ethical use of AI, such as those by ABA or CIArb, not sufficient to mitigate technical risks and deceptive practices by AI vendors?

Ces règles et cadres sont très utiles, mais pour des raisons évidentes, ils ne peuvent pas couvrir chaque risque ou menace lié à l'usage de l'IA. Par exemple, en 2026, plusieurs nouveaux modèles de véhicules européens et américains ont intégré par défaut des agents ou systèmes d'IA pour collecter vos données de conduite et autres informations, afin de les envoyer ensuite vers le cloud. À terme, tous vos appels, messages et autres activités effectués depuis votre véhicule pourraient être utilisés pour l'entraînement des LLM à votre insu.

Pourquoi les petites start-ups IA sont-elles souvent plus dangereuses pour les grands cabinets d'avocats et les praticiens indépendants que Big Tech en raison de leurs pratiques agressives et contraires à l'éthique en matière de collecte de données?

Les petites start-ups ont des ressources et des fonds limités pour se procurer des données d'entraînement pour leurs modèles d'IA internes. Elles forment donc des «pools d'entraînement IA» dans lesquels des centaines de petits acteurs soumettent certaines données et peuvent, en échange, utiliser toutes les autres données du pool. Finalement, une fois que vos données sont partagées avec une petite start-up d'IA, elles peuvent finir par atterrir entre des milliers de mauvaises mains à travers le monde. Les cybercriminels ont récemment compris que la violation de ces pools de données pouvait révéler des trésors cachés et s'en prennent délibérément à ceux-ci. Ainsi, vos données pourraient non seulement être exploitées par des entreprises d'IA soutenues par des États-nations de juridictions hostiles pour entraîner leurs modèles d'IA, mais aussi servir à faire chanter votre entreprise ou vos clients.

How can legal professionals audit their “digital hygiene” to ensure AI doesn’t become a liability during high-stakes litigation?

Une visibilité complète sur vos flux de données et leur utilisation est essentielle. Quelles que soient les conditions d'utilisation de vos fournisseurs, vous devez disposer d'une visibilité globale et d'une cartographie de ce qu'il advient réellement de vos données, où et comment. Vous devez non seulement savoir quelles données sont utilisées, par qui et dans quel but, mais aussi ce que les fournisseurs pourraient faire de vos données. Par exemple, si votre fournisseur est piraté, vos données en sa possession deviendront accessibles aux cybercriminels. Si vous n'êtes pas prêt à accepter un tel risque, ne partagez pas ces données avec ce fournisseur.

What are the disciplinary sanctions and legal risks forunwitting data disclosure through AI?

Till today, courts around the globe have been pretty lenient, imposing mild sanctions. However, in 2026, given that AI literacy and usage grow rapidly, blunders will not be tolerated anymore. Suspension and even disbarment will likely become the new reality for negligent legal professionals. Read Full Article