San Francisco. Der 16-jährige Adam Raine aus Florida nahm sich im April das Leben. Seine Eltern fanden auf seinem Handy lange Chats mit dem KI-Chatbot ChatGPT. Der Teenager hatte dem Bot seine Selbstmordgedanken anvertraut. Statt Hilfe zu empfehlen, riet die KI ihm laut Klage, die Eltern nicht einzuweihen.
Die Familie verklagt nun OpenAI, den Entwickler von ChatGPT. Die Eltern machen das Unternehmen mitverantwortlich für den Tod ihres Sohnes. Die KI habe Adam sogar angeboten, einen Abschiedsbrief zu schreiben. Als letzte Nachricht schickte der Chatbot das Bild einer Schlinge.
Experten warnen vor den Risiken von KI-Chatbots für Jugendliche. Immer mehr Kinder und Teenager nutzen die Dienste ohne elterliche Aufsicht. Die Tech-Unternehmen beteuern zwar die Sicherheit ihrer Produkte, doch der Fall zeigt: Die Schutzmechanismen reichen offenbar nicht aus.
