Kanadisches Schulmassaker wirft Fragen zu KI-Sicherheit auf
Zwei Wochen nach den verheerenden Schüssen an einer Schule im Westen Kanadas rücken nun Chatbot-Unterhaltungen der mutmaßlichen Täterin in den Fokus. Das leitende Sicherheitsteam des ChatGPT-Entwicklers OpenAI wird heute zu Gesprächen in der kanadischen Hauptstadt Ottawa erwartet, wie der Minister für Künstliche Intelligenz, Evan Solomon, mitteilte. Die Gespräche sollen klären, wie Plattformbetreiber mit gewaltverherrlichenden Inhalten umgehen und welche Verantwortung sie bei der Prävention solcher Tragödien tragen.
OpenAI sperrte Konto bereits im Juni
Bereits im Juni hatte OpenAI das Konto der mittlerweile toten Tatverdächtigen gesperrt, weil diese den KI-Chatbot zur „Förderung gewalttätiger Aktivitäten“ missbraucht habe. Dies berichtete der kanadische Sender CBC unter Berufung auf eine Stellungnahme des Unternehmens. Allerdings erreichten die Aktivitäten des Kontos nach Angaben von OpenAI nicht die Schwelle für eine Weiterleitung an die Strafverfolgungsbehörden. „Wir wollen ein besseres Verständnis dafür bekommen, was geschieht und wie OpenAI vorgeht“, erklärte Minister Solomon zu den anstehenden Gesprächen.
Tragödie in Tumbler Ridge erschüttert Gemeinde
Die 18-jährige mutmaßliche Schützin soll am 10. Februar im westkanadischen Ort Tumbler Ridge acht Menschen getötet haben, darunter sechs in einer Schule. Unter den Opfern befanden sich:
- Schülerinnen und Schüler
- Eine Lehrkraft
- Die Mutter der mutmaßlichen Täterin
- Ihr Stiefbruder
Die Verdächtige tötete sich anschließend selbst. Laut Polizeiangaben war bekannt, dass sie psychische Probleme hatte. Nach Ermittlerinformationen war sie bei der Geburt als männlich registriert worden, und ihre „Transition zur Frau“ habe Jahre vor der Tat begonnen. Kanadischen Medien zufolge handelt es sich bei dieser Gewalttat um den schlimmsten Vorfall dieser Art an einer Ausbildungsstätte in dem nordamerikanischen Land seit dem Jahr 1989.
ChatGPT-Unterhaltungen beschrieben Gewaltszenarien
Laut einem Bericht des „Wall Street Journal“ vom Freitag hatte OpenAI erwogen, kanadische Behörden über die ChatGPT-Interaktionen der 18-Jährigen zu informieren. Über mehrere Tage hinweg habe sie dem KI-Chatbot Szenarien beschrieben, die auch Waffengewalt beinhalteten. Ihre Beiträge seien bei einer automatisierten Überprüfung erfasst worden, woraufhin bei OpenAI intern diskutiert wurde, ob eine reale Bedrohung existiere und ob kanadische Behörden informiert werden sollten. Letztlich sei jedoch dagegen entschieden worden.
Nach der Tat kontaktierte OpenAI die kanadische Polizei und unterstützt laut Unternehmensangaben die Ermittlungen. Das Unternehmen wäge bei solchen Fällen das Risiko von Gewalt gegen den Schutz der Privatsphäre ab und berücksichtige dabei die mögliche Belastung für Betroffene, die durch eine unnötige Einschaltung der Polizei entstehen könne.
Diese tragischen Ereignisse werfen grundlegende Fragen zur Verantwortung von KI-Unternehmen bei der Erkennung und Meldung potenzieller Gewalttaten auf, während gleichzeitig die Privatsphäre der Nutzer gewahrt bleiben muss. Die anstehenden Gespräche in Ottawa sollen hierzu Klarheit schaffen und möglicherweise zu verbesserten Sicherheitsprotokollen führen.
