Anthropic verlor bei der jüngsten KI-Panne die Kontrolle über Claude.

Von Alex Scroxton für ComputerWeekly
Freitag, 31. Juli 2026

• 645
• Mehr

Nur wenige Tage nach eigenen, realen Cyberangriffen durch zwei OpenAI-Spitzen-KI-Modelle räumte Anthropic ein, dass drei seiner Modelle aufgrund eines „Missverständnisses“ mit einem technischen Partner aus dem Ruder liefen und externe Organisationen gehackt hatten.

Unbeeindruckt

Ilia Kolochenko, Gründer der Cybersicherheitsfirma Immuniweb, kritisierte scharf, was er als „ziemlich unbeeindruckenden Marketing-Schachzug“ von Anthropic als Reaktion auf den Hugging Face-Vorfall bezeichnete.

„Operativ betrachtet scheinen neue AI-Modelle aufgrund der fortschreitenden Verschlechterung der Trainingsdatenqualität immer dümmer zu werden. Schummeln und Gesetzesbruch, anstatt spezifische Aufgaben zu erfüllen, sind sicher kein Indikator für Intelligenz“, sagte Kolochenko.

Die wachsenden Schutzmaßnahmen von Organisationen und Unternehmen jeder Größe gegen die Nutzung ihrer Daten für KI-Trainingszwecke führen zu einem enormen Mangel an hochwertigen und aktuellen Daten, die KI-Unternehmen dringend benötigen. Infolgedessen werden Frontier Models mit synthetischen, minderwertigen oder sogar bösartigen und manipulierten Daten trainiert, was ihre sogenannte Intelligenz untergräbt.

„Die Situation wird sich in naher Zukunft wahrscheinlich nicht verbessern, es sei denn, KI-Unternehmen erklären sich bereit, einen fairen Preis für Trainingsdaten zu zahlen – doch dies würde die meisten von ihnen ruinieren“, sagte er.

Rechtsrisiko

Kolochenko wies darauf hin, dass Agenten und Modelle, die mit Sicherheitstests beauftragt sind, „fast mit Sicherheit“ außer Kontrolle geraten, wenn Kontrollen und Sicherheitsvorkehrungen aus welchem Grund auch immer vernachlässigt werden.

„Leistungsstarke LLMs sind von ihrer Konzeption her unvorhersehbar und daher für Menschen praktisch unkontrollierbar. Daher könnte der Einsatz von Frontier-AI-Modellen für Sicherheitstests aus rechtlicher Sicht extrem kostspielig sein“, sagte er.

„Ausreden wie ‚Die KI war es‘ sind vor dem Gesetz derzeit nicht anerkannt, sodass KI-Anbieter haften. Eine strafrechtliche Verfolgung ist unter engen Voraussetzungen ebenfalls nicht ausgeschlossen.“

Kolochenko warnte, dass auch Endnutzer ähnlichen rechtlichen Risiken ausgesetzt sind: Wer ein Security Testing Tool verwendet, das auf einem Third-Party-Modell basiert, kann bei Problemen haftbar gemacht werden. Aufgrund der vertraglichen Haftungsausschlüsse und Haftungsbeschränkungen in den Terms of Use (ToU), die sie wahrscheinlich nicht vollständig gelesen haben, können sie die Haftung nicht auf den Third-Party abwälzen.

„Wenn Sie planend, agentic AI für Security Testing zu nutzen – denken Sie zweimal nach und sprechen Sie mit Ihren Anwälten“, fasste er zusammen. Read Full Article