Aus Neugier fragte Iris May, Bezirksreporterin der Berliner Morgenpost, die Künstliche Intelligenz „Gemini Flash“, was diese über sie wisse. Die Antwort war ernüchternd: „Diese Person gibt es nicht in Berlin.“ Mehrfach formulierte sie die Frage um, doch Gemini blieb dabei: „Leider nein. Eine Redakteurin mit diesem Namen gibt es nicht.“ Dabei arbeitet May seit fast drei Jahren in Berlin für die Morgenpost. Die KI schlug stattdessen Informationen über Münchens SZ-Redakteurin Iris Mayer oder Berlins Innensenatorin Iris Spranger vor.
Die KI irrt, aber überzeugend
May korrigierte die KI, gab Arbeitgeber und Tätigkeit an. Daraufhin lenkte Gemini ein: „Da muss ich mich korrigieren.“ Doch dann behauptete die KI eine Reihe von Dingen über May, die wiederum nicht stimmten. Das Schlimmste: Der größte Teil war halbwahr und klang sehr überzeugend. „Ich stelle es also richtig, gebe Arbeitgeber und Tätigkeit an. Gemini geht auf mich ein, sagt: ‚Da muss ich mich korrigieren.‘ Aber dann sagt die KI einen Haufen Sachen über mich, die wieder nicht stimmen“, schildert May.
Der Sohn rät zu Claude
Schockiert rief May ihren technikaffinen Sohn an. Dieser klärte sie auf: „Du musst Claude benutzen, Mama! Gemini nutzt komische Quellen, vor allem Reddit.“ May machte eine Stichprobe und fragte Claude. Diese KI wusste alles über sie, bis ins Detail. „Was mich auch wieder aufregt. Soll die KI denn alles wissen? Lieber nicht“, so May. Sie betont, dass KIs menschliche Gehirne in ihrer Komplexität nur nachahmen. „Meine Person ist völlig unwichtig. Und wenn die KI Quatsch über mich erzählt, regt es nur mich auf.“
Zwei Lehren aus dem Experiment
Mays Experiment zeigt zwei Dinge: Erstens sollte man niemals den Antworten einer KI blind vertrauen. Zweitens ist Vorsicht vor der KI Claude geboten. Dahinter steckt Anthropic, ein Startup, an dem Milliardär Peter Thiel massive Anteile besitzt. In Reddit-Foren heißt es: „Du gibst deine biometrischen Daten an Peter Thiel und Palantir, wenn du bei Claude deine Identität verifizierst.“ Ob Reddit als Quelle taugt, bleibt fraglich. May resümiert: „Wir vergessen alle manchmal, dass KIs menschliche Gehirne in ihrer Komplexität nur nachahmen.“
