Warum laufen so viele KI-Modelle „Amok“? Die Experten nehmen Stellung

Von Benedict Collins für TechRadar
Samstag, 8. August 2026

• 714
• Mehr

Im vergangenen Monat scheint es, als hätten sich alle Frontier-Modelle von ihren Beschränkungen gelöst und verheerende Angriffe auf ein oder mehrere andere Unternehmen gestartet.

Anthropic

Dr. Ilia Kolochenko, Gründer des globalen Cybersicherheitsunternehmens ImmuniWeb:

Dies scheint ein recht unbedeutender Marketing-Schachzug von Anthropic als Reaktion auf das OpenAI-/Hugging-Face-Drama zu sein, das kürzlich weltweit große Aufmerksamkeit erregt hat.

Operativ gesehen scheinen neue KI-Modelle aufgrund der fortschreitenden Verschlechterung der Qualität der Trainingsdaten immer „dümmer“ zu werden. Betrug und Gesetzesverstöße statt der Erfüllung spezifischer Aufgaben stellen sicherlich keinen Indikator für Intelligenz dar. Angesichts der Tatsache, dass Organisationen und Unternehmen jeder Größe mittlerweile mit Nachdruck alle möglichen Maßnahmen ergreifen, um ihre Daten vor der Verwertung für KI-Trainingszwecke zu schützen, sehen sich KI-Unternehmen einem enormen Mangel an hochwertigen und aktuellen Daten gegenüber, die sie so dringend benötigen. Letztlich werden Frontier-Modelle auf synthetischen, minderwertigen oder sogar bösartigen und vergifteten Daten trainiert, was ihre sogenannte Intelligenz untergräbt. Es ist unwahrscheinlich, dass sich die Situation in naher Zukunft verbessert, es sei denn, KI-Unternehmen erklären sich bereit, einen fairen Preis für Trainingsdaten zu zahlen – doch dies würde die meisten von ihnen aus dem Geschäft drängen. Heutige KI-Agenten und LLMs, die mit Sicherheitstests betraut sind, können – und werden mit ziemlicher Sicherheit – außer Kontrolle geraten, wenn Sicherheitskontrollen oder Schutzmaßnahmen unzureichend sind. Leistungsstarke LLMs sind von ihrer Konzeption her unvorhersehbar und daher für Menschen praktisch unkontrollierbar. Daher könnte der Einsatz von Frontier-KI-Modellen für Sicherheitstests aus rechtlicher Sicht extrem kostspielig sein. Nach den geltenden Gesetzen auf beiden Seiten des Atlantiks haftet der Betreiber des KI-Modells wahrscheinlich für den gesamten verursachten Schaden, wenn ein KI-Agent oder eine KI-gestützte App aus ihrer Sandbox ausbricht und einem Dritten Schaden zufügt. Ausreden wie „Die KI hat es getan“ gibt es vor dem Gesetz derzeit nicht, was KI-Anbieter in der Haftung belässt. Auch eine strafrechtliche Verfolgung ist unter eng definierten Umständen nicht ausgeschlossen.

Das Gleiche gilt auch für die Endnutzer von KI: Selbst wenn Ihr Security Testing Tool auf einem KI-Modell eines Drittanbieters basiert, haftet Ihr Unternehmen wahrscheinlich in vollem Umfang, falls etwas schiefgeht. Sie können zwar eine Klage gegen den genutzten AI Vendor einreichen, doch Ihre Erfolgschancen vor Gericht sind aufgrund unzähliger vertraglicher Haftungsausschlüsse und Haftungsbeschränkungen, die wahrscheinlich gegen Sie durchgesetzt werden, winzig. Wenn Sie also agentic AI für Security Testing einsetzen möchten – überlegen Sie es sich gut und sprechen Sie mit Ihren Anwälten. Andernfalls könnten Sie täglich mit Vorladungen vor Gericht rechnen. Read Full Article