Interview: Warum der „unsichtbare“ Einsatz von KI jetzt die größte Haftung in der Rechtspraxis ist

Barrister Magazine
Mittwoch, 27. Mai 2026

• 212
• Mehr

Dr. Ilia Kolochenko spricht über die Phase nach der „Flitterwochen“ der KI und darüber, wie diese Anwälte, Schiedsrichter und andere Juristen in Schwierigkeiten bringt.

Wie führen „versteckte“ KI-Assistenten, die in traditioneller Software, Betriebssystemen sowie Mobil- und IoT-Geräten eingebettet sind, zu massiven Leaks vertraulicher und privilegierter Informationen?

Im Jahr 2026 sind hochwertige Trainingsdaten das neue Gold für KI-Unternehmen. Eine weitere Entwicklung der angeblich allwissenden und allmächtigen LLM-Modelle ist ohne solche Daten technisch unmöglich. Daher nutzen KI-Anbieter jeder Größe aggressiv alle möglichen Tricks, um an Ihre Daten zu gelangen – von vertraulichen Dokumenten über Unternehmens-E-Mails bis hin zu Diskussionen auf Slack –, um ihre KI-Modelle zu verfeinern. Obwohl große Unternehmen bestimmte Regeln befolgen, um eine Haftung vor Gericht zu vermeiden, bewegen sich ihre Praktiken zur Datenerfassung oft immer noch sehr nah an der Grenze. Beispielsweise aktivieren sie die Datenerfassung möglicherweise standardmäßig, während das Deaktivieren eine mühsame Aufgabe ist, die hinter zahlreichen „Dark Patterns“ verborgen ist, um Nutzer davon abzuhalten, die Standardeinstellungen zu ändern. Kleinere Unternehmen hingegen nutzen Ihre Daten möglicherweise einfach zum Weiterverkauf oder für interne Zwecke, unabhängig davon, was in ihren Nutzungsbedingungen steht. Seien Sie daher äußerst vorsichtig: Es reicht nicht aus, nur die Nutzungsbedingungen zu überprüfen; eine gründliche Prüfung der tatsächlichen Verwendung Ihrer Daten ist erforderlich.

Warum reichen Regeln und Rahmenwerke zum ethischen Einsatz von KI, wie z. B. die der ABA oder CIArb, nicht aus, um technische Risiken und täuschende Praktiken von KI-Anbietern zu mildern?

Diese Regeln und Frameworks sind sehr hilfreich, können aber aus offensichtlichen Gründen nicht jedes einzelne Risiko oder jede Bedrohung des KI-Einsatzes abdecken. So wurden beispielsweise 2026 in mehreren neuen Modellen von EU- und US-Autos standardmäßig KI-Agenten oder -Systeme integriert, um Ihre Fahr- und andere Daten zu erfassen und anschließend in die Cloud zu senden. Letztlich könnten all Ihre Anrufe, Nachrichten und anderen Aktivitäten, die Sie von Ihrem Fahrzeug aus tätigen, ohne Ihr Wissen für das Training von LLM verwendet werden.

Warum sind kleinere KI-Startups aufgrund aggressiver und unethischer Datenerhebungspraktiken oft gefährlicher für große Anwaltskanzleien und Einzelanwälte als Big Tech?

Kleinere Start-ups verfügen über begrenzte finanzielle Mittel und andere Ressourcen, um Trainingsdaten für ihre internen KI-Modelle zu beschaffen. Daher bilden sie sogenannte KI-Trainingspools, in denen hunderte kleinere Akteure Daten bereitstellen und im Gegenzug alle anderen Daten aus dem Pool nutzen können. Sobald Ihre Daten einmal an ein kleines KI-Start-up weitergegeben wurden, können sie schließlich in Tausende falsche Hände weltweit geraten. Cyberkriminelle haben kürzlich erkannt, dass das Kompromittieren solcher Datenpools verborgene Schätze bieten kann, und bejagen diese gezielt. So können Ihre Daten nicht nur von staatlich unterstützten KI-Unternehmen aus feindlichen Rechtsräumen zum Trainieren ihrer KI-Modelle ausgenutzt werden, sondern auch zur Erpressung Ihres Unternehmens oder Ihrer Kunden verwendet werden.

Wie können Juristen ihre „digitale Hygiene“ prüfen, um sicherzustellen, dass KI bei hochriskanten Rechtsstreitigkeiten nicht zu Haftung führt?

Ein umfassender Einblick in Ihre Datenflüsse und die Datennutzung ist unerlässlich. Unabhängig von den Nutzungsbedingungen Ihrer Anbieter sollten Sie eine ganzheitliche Sichtbarkeit und Kartierung dessen haben, was tatsächlich mit Ihren Daten passiert, wo und wie. Sie sollten nicht nur wissen, welche Daten von wem und zu welchem Zweck verwendet werden, sondern auch, was die Anbieter mit Ihren Daten anstellen könnten. Wird Ihr Anbieter beispielsweise gehackt, geraten Ihre Daten in die Hände von Cyberkriminellen. Wenn Sie ein solches Risiko nicht eingehen möchten, teilen Sie diese Daten nicht mit diesem Anbieter.

Welche disziplinarischen Sanktionen und rechtlichen Risiken bestehen bei unbeabsichtigter Datenpreisgabe durch KI?

Bis heute waren Gerichte weltweit recht nachsichtig und verhängten milde Sanktionen. Angesichts der rasanten Zunahme von KI-Kompetenz und -Nutzung werden Fehler im Jahr 2026 jedoch nicht mehr toleriert werden. Die Suspendierung und sogar der Entzug der Anwaltszulassung werden wahrscheinlich zur neuen Realität für fahrlässige Juristen werden. Vollständigen Artikel lesen