Florida verklagt OpenAI: ChatGPT gefährdet Kinder und täuscht Eltern
Der US-Bundesstaat Florida hat eine Klage gegen den ChatGPT-Entwickler OpenAI und dessen Chef Sam Altman eingereicht. Die Staatsanwaltschaft wirft dem Unternehmen vor, minderjährige Nutzer zu gefährden und Eltern zu täuschen. „Wir gefährden unsere Kinder und täuschen Eltern, indem wir ihnen vorgaukeln, die Anwendung sei sicher – was sie eindeutig nicht ist“, erklärte Floridas Generalstaatsanwalt James Uthmeier. Er forderte eine Strafe von 10.000 Dollar (rund 8.600 Euro) pro Verstoß.
In der 83-seitigen Klageschrift wird OpenAI beschuldigt, zugelassen zu haben, dass ChatGPT Amokläufern Beihilfe leistet, zu Selbstverletzung oder Suizid ermutigt und die kritischen Denkfähigkeiten von Nutzern verschlechtert. Zudem mache die KI Minderjährige abhängig von einem Werkzeug, das menschliches Mitgefühl vortäusche. „Diese Litanei von Schäden wird durch das unersättliche Streben der Beklagten angetrieben, das KI-Wettrüsten zu gewinnen und große Vermögen anzuhäufen, obwohl sie die Gefahr von ChatGPT kennen“, heißt es in der Klage.
Fehlende Altersverifizierung kritisiert
Der Staatsanwalt kritisierte zudem das Fehlen einer Altersverifizierung für die App. Obwohl die Nutzung von ChatGPT durch Minderjährige öffentlich bekannt sei, habe OpenAI keine Maßnahmen ergriffen, um deren Nutzung zu verhindern. Die Nutzung von ChatGPT ist für Kinder unter 13 Jahren verboten, im Alter von 13 bis 17 Jahren ist die Zustimmung der Eltern erforderlich. Eine formelle Altersverifikation gibt es jedoch nicht. Stattdessen hatte OpenAI im Januar ein System eingeführt, das das Alter der Nutzer schätzen und das Verhalten der App entsprechend anpassen soll.
In der Klage wird auch eine Studie zitiert, die über Schlafmangel, schlechtere Schulnoten und schwindende soziale Kontakte bei Teenagern berichtet, die den Chatbot Character.AI nutzten, einen Konkurrenten von ChatGPT. OpenAI äußerte sich zunächst nicht zu der Klage. Das Unternehmen bestritt zuvor jegliches Fehlverhalten und erklärte, es verstärke weiterhin seine Sicherheitsvorkehrungen.
Hintergrund: Amoklauf an der Florida State University
Uthmeier hatte im April eine strafrechtliche Untersuchung gegen OpenAI eingeleitet, nachdem der Chatbot eine Rolle bei einem Amoklauf an der Florida State University (FSU) im vergangenen Jahr gespielt hatte, bei dem zwei Menschen getötet wurden. Die Klage fordert nun ein Ende der „Litanei von Schäden“ und soll OpenAI zur Verantwortung ziehen.
