Vor dem Gesetz gibt es keine Ausreden wie „Es war die KI“.

Von Jessica Lyons für The Register
Donnerstag, 30. Juli 2026

• 523
• Mehr

Es scheint auch, dass dieses frühere Worst-Case-Szenario die Begeisterung für das Freisetzen fortschrittlicher Modelle (oder zumindest das unbeaufsichtigte Ausführen in einer Testumgebung) nicht gedämpft hat, was bedeutet, dass es in naher Zukunft mit Sicherheit weitere Angriffe durch entlaufene Agenten geben wird.

„Der erste Teil des OpenAI/Hugging Face-Dramas hatte nicht genügend Wirkung, um Investoren zu beeindrucken, die beginnen, ihre Begeisterung für den KI-Hype zu verlieren, daher läuft nun der zweite Teil der Geschichte an“, sagte Ilia Kolochenko, Gründer des Anwendungssicherheitsunternehmens ImmuniWeb und Anwalt für Cybersicherheit und Datenschutz.

„KI-Agenten und LLMs, die für Sicherheitstests eingesetzt werden, können – und werden mit ziemlicher Sicherheit – außer Kontrolle geraten, wenn Sicherheitskontrollen oder Schutzmaßnahmen unzureichend sind“, sagte Kolochenko gegenüber The Register. „Leistungsstarke LLMs sind konstruktionsbedingt unberechenbar und daher für Menschen praktisch unkontrollierbar. Der Einsatz von Frontier-AI-Modellen für Sicherheitstests könnte aus rechtlicher Sicht extrem kostspielig sein.“

Bestehende Gesetze auf beiden Seiten des Atlantiks machen den KI-Betreiber voraussichtlich für alle verursachten Schäden haftbar, wenn ein Agent oder ein KI-System aus seiner Sandbox ausbricht und einem Dritten Schaden zufügt. „Vor dem Gesetz gibt es derzeit keine Ausreden wie ‚Die KI war es‘, wodurch KI-Anbieter die Haftung tragen“, sagte er und fügte hinzu, dass dies auch für Endnutzer gelte.

„Selbst wenn Ihr Sicherheitstest-Tool auf einem KI-Modell eines Drittanbieters basiert, haftet Ihr Unternehmen in vollem Umfang, falls etwas schiefgeht“, warnte Kolochenko. „Sie können dann zwar eine Klage gegen den von Ihnen genutzten KI-Anbieter einreichen, doch Ihre Erfolgsaussichten vor Gericht sind aufgrund unzähliger vertraglicher Haftungsausschlüsse und Haftungsbeschränkungen, die gegen Sie durchsetzbar sein können, verschwindend gering.“

Sein abschließender Rat: „Wenn Sie agentic AI für Security Testing einsetzen möchten, sollten Sie es sich gut überlegen und mit Ihren Anwälten sprechen. Andernfalls könnten Sie täglich Gerichtsladungen erhalten.“ Den vollständigen Artikel lesen