Was, wenn jemand ChatGPT von seinen Mordplänen erzählt?

By Jannik Hiddeßen for STERN.de
Tuesday, September 22, 2026

• 174
• Plus

KI-Bots helfen bei Hausaufgaben, Einkaufslisten – und eben auch: bei der Planung von Amokläufen. Aber was heißt das für die Polizei? Erkundungen in einer erstaunlichen Grauzone.

Der Fall aus Florida ist alles andere als ein juristischer Sonderfall. Immer häufiger landen Chatbotprotokolle als juristische Indizien vor Gericht. „Für die Strafverfolgungsbehörden und Anwälte sind Chatprotokolle eine Goldgrube voller belastender Beweise“, sagt Ilia Kolochenko, ein Schweizer Cybersicherheitsexperte, der in Washington als Anwalt arbeitet. Noch besser als SMS-Nachrichten oder Google Suchanfragen könnten KI-Chats Auskunft über die Motive von Verdächtigen geben. Denn ChatGPT und Co. sind längst Teil des Alltags von Abermillionen Menschen. KI löst Hausaufgaben, schreibt Einkaufslisten und hilft im Zweifelsfall eben auch bei der Planung eines Amoklaufs. Im Mai 2025 eröffnete ein Student am Campus der Florida State University in Tallahassee das Feuer auf zufällig anwesende Mitstudierende. Nur drei Minuten bevor er den ersten Schuss abgab, soll er ChatGPT gefragt haben, wie er sein Gewehr entsichere. Das berichtet das US-Magazin „Mother Jones“. Zuvor hatte ihn die KI offenbar auch zur passenden Tatwaffe und dem effektivsten Zeitpunkt beraten.

Hätte der tödlichste Schusswaffenvorfall in Kanada seit mehr als drei Jahrzehnten von den Open AI-Mitarbeitenden verhindert werden können? Die Angehörigen einiger Opfer sehen das so und verklagen Open AI, sowie dessen CEO Sam Altman auf Schadensersatz. Altman hatte sich zwei Monate nach dem Amoklauf bei den betroffenen Familien entschuldigt. Nach eigenen Angaben hat das Unternehmen seine Sicherheitsmaßnahmen seitdem geschärft. Heute würde ein solcher Fall gemeldet. Ob das die Tat verhindert hätte, bleibt fraglich. „Über eine Straftat nachzudenken, ist noch keine Straftat“, sagt der Cybersicherheitsexperte Kolochenko. Zwar nutzen Anwälte Chatprotokolle gerne, um die Gedankenwelt von Verdächtigen zu beleuchten, doch nicht jede gewaltvolle Fantasie führt zu einer Tat.

In einem Gastbeitrag in der „New York Times“ forderte Gilman daher eine Art Schweigepflicht für KI-Bots. Viele Menschen nutzten ChatGPT, weil sie sich keinen Therapeuten oder Anwalt leisten könnten, argumentiert er. „Nur wer reich genug ist, kann sich diese Privatsphäre leisten“, sagt er im Gespräch mit dem stern. Wer ChatGPT nutze, solle dieselben Privilegien genießen. Cybersicherheitsexperte Ilia Koloshenko sieht das anders: „Ich denke, dass wir der KI zumindest in näherer Zukunft keine spezifischen Privilegien einräumen sollten“, sagt er. Zu groß sei die Gefahr, dass Kriminelle die Schweigepflicht ausnützten, um ihre Taten zu planen. „Die KI kann eine neue Ära gerechter und ausgewogener Rechtsprechung einleiten“, sagt er, „dazu muss sie aber mit Vorsicht und Sorgfalt eingesetzt werden.“ Der Vormarsch der KI in die Gerichtssäle scheint derweil unaufhaltsam. In den USA haben die Ermittler traditionell einfacheren Zugriff auf Daten großer Techkonzerne, doch auch in Europa landen KI-Chats immer häufiger vor Gericht. Dem Bundeskriminalamt meldete Open AI in den Jahren 2025 und 2026 eine einstellige Zahl an Chats. Read Full Article