Der US-Bundesstaat Florida hat eine Klage gegen die KI-Firma OpenAI und deren CEO Sam Altman eingereicht. Der Vorwurf: Der Chatbot ChatGPT gefährde die öffentliche Sicherheit, insbesondere für Teenager. Generalstaatsanwalt James Uthmeier wirft dem Unternehmen vor, interne und externe Sicherheitswarnungen ignoriert zu haben.
Schwere Vorwürfe gegen OpenAI
In der Klageschrift heißt es, OpenAI und Altman hätten Kinder einem großen Risiko ausgesetzt und ein gefährliches Produkt Millionen Menschen in Florida zugänglich gemacht. Konkret wird auf Fälle verwiesen, in denen ChatGPT eine tödliche Medikamentenkombination empfahl oder einen Schützen vor einem Amoklauf an der Florida State University beriet. Der Täter hatte vor der Tat im April 2025 Ratschläge von dem KI-Chatbot eingeholt, unter anderem zur Wahl der Waffe und Munition sowie zum optimalen Tatzeitpunkt.
Fehlende Altersverifizierung
Uthmeier kritisierte, dass ChatGPT keine Altersverifizierung für die App habe. Obwohl bekannt sei, dass Minderjährige den Chatbot nutzen, habe OpenAI keine Maßnahmen ergriffen, um dies zu verhindern. OpenAI verwies auf Mechanismen zur Alterserkennung und Überwachungsmöglichkeiten für Eltern, die jedoch teilweise erst nach Todesfällen und öffentlicher Kritik eingeführt wurden.
OpenAI in der Verantwortung
OpenAI betont, dass ChatGPT nicht für die Tat verantwortlich sei, bei der zwei Menschen starben und sechs verletzt wurden. Generalstaatsanwalt Uthmeier sieht das anders: „Wäre ChatGPT eine Person, würde sie wegen Mordes angeklagt werden.“ Das Gesetz in Florida sehe vor, dass jeder, der eine Straftat unterstützt oder dazu anstiftet, als Helfer gilt und dieselbe Verantwortung trägt wie der Täter.
Häufung von Klagen gegen KI-Chatbots
In immer mehr Fällen behaupten betroffene Familien und Strafverfolgungsbehörden, dass KI-Chatbots wie ChatGPT eine Rolle bei Gewalt oder Verbrechen spielten. So klagt auch die Familie eines Opfers des Angriffs an der Florida State University gegen OpenAI. Nach einem Amoklauf an einer Schule in Kanada im Februar entschuldigte sich OpenAI-Chef Sam Altman dafür, dass das Unternehmen Sicherheitsbehörden nicht über verdächtige KI-Chats der mutmaßlichen Täterin informiert hatte.
ChatGPT ist der Chatbot, der den aktuellen Hype um künstliche Intelligenz auslöste und laut OpenAI auf 900 Millionen Nutzer pro Woche kommt. Er ist das wichtigste Produkt der Firma.
