Warum laufen so viele KI-Modelle „Amok“? Die Experten nehmen Stellung

Von Benedict Collins für TechRadar
Saturday, August 8, 2026

• 368
• Mehr

Im vergangenen Monat scheint es, als hätten sich alle Frontier-Modelle von ihren Beschränkungen gelöst und verheerende Angriffe auf ein oder mehrere andere Unternehmen gestartet.

Anthropic

Dr. Ilia Kolochenko, founder of global cybersecurity company ImmuniWeb:

This seems to be quite an unimpressive marketing move from Anthropic in response to the OpenAI / Hugging Face drama, which attracted a lot of attention from all over the world recently.

Operationally, it appears that due to the progressive deterioration of the quality of training data, new AI models are getting dumber. Cheating and breaking the law, instead of accomplishing specific tasks, is certainly not an indicator of intelligence. Given that organizations and companies of all sizes now vigorously undertake all possible measures to protect their data from being exploited for AI training purposes, AI companies face a huge shortage of the high-quality and current data they so desperately need. Ultimately, frontier models are trained on synthetic, low-quality or even malicious and poisoned data, undermining their so-called intelligence. The situation is unlikely to improve in the near future unless AI companies agree to pay a fair price for training data, but this will force most of them out of business. Contemporary AI agents and LLM models tasked with security testing can – and almost certainly will – go rogue when security controls or safeguards are insufficient. Powerful LLMs are unpredictable by design and thus virtually uncontrollable by humans. Therefore, using frontier AI models for security testing might be extremely costly from the legal viewpoint. Under the existing laws on both sides of the Atlantic, if an AI agent or any AI-powered app escapes its sandbox and causes damage to a third party, the operator of the AI model will likely be liable for all the damage caused. Excuses like “AI did it” do not currently exist in the eyes of the law, leaving AI vendors on the hook. Criminal prosecution, under a narrow set of circumstances, is also not excluded.

Das Gleiche gilt auch für die Endnutzer von KI: Selbst wenn Ihr Security Testing Tool auf einem KI-Modell eines Drittanbieters basiert, haftet Ihr Unternehmen wahrscheinlich in vollem Umfang, falls etwas schiefgeht. Sie können zwar eine Klage gegen den genutzten AI Vendor einreichen, doch Ihre Erfolgschancen vor Gericht sind aufgrund unzähliger vertraglicher Haftungsausschlüsse und Haftungsbeschränkungen, die wahrscheinlich gegen Sie durchgesetzt werden, winzig. Wenn Sie also agentic AI für Security Testing einsetzen möchten – überlegen Sie es sich gut und sprechen Sie mit Ihren Anwälten. Andernfalls könnten Sie täglich mit Vorladungen vor Gericht rechnen. Read Full Article