Die Berliner Denkfabrik Agora Digitale Transformation hat in einer neuen Studie aufgedeckt, dass KI-Chatbots wie Claude von Anthropic systematisch russische Desinformation als Nachrichtenquelle nutzen. Das am Mittwoch veröffentlichte Papier mit dem Titel „Meinungsbildung im Wandel: wie KI-Modelle Nachrichtenquellen selektieren“ zeigt gravierende Verzerrungen in der Quellenauswahl führender KI-Systeme. Laut Hauptautorin Vivien Benert entwickeln sich diese Systeme zu zentralen Gatekeepern der Nachrichtenvermittlung, was weitreichende Folgen für die Meinungsbildung und die Geschäftsmodelle etablierter Medien habe.
Quellenauswahl als Blackbox
Die Analyse untersuchte die KI-Chatbots ChatGPT und Claude sowie die KI-Angebote Gemini und AI Overview von Google. Dazu stellten die Autoren im Mai 2026 an fünf Werktagen 675 Anfragen zu fünf Nachrichtenthemen und werteten rund 4.800 Quellenverweise aus. Die Ergebnisse zeigen, dass alle Systeme aus einer engen Quellenbasis schöpfen und Aufmerksamkeitsverzerrungen verstärken, ohne dass die Auswahlkriterien transparent gemacht werden. „Kein Anbieter dokumentiert transparent, wie die Quellenauswahl zur Beantwortung von Prompts funktioniert“, so Benert.
Während ChatGPT und Perplexity überwiegend journalistische Quellen nutzen, machen diese bei Claude, Gemini und Google AI Overview nur etwa 50 Prozent der Quellen aus. Stattdessen greifen diese Systeme verstärkt auf staatliche und zivilgesellschaftliche Quellen sowie private Blogs und Social-Media-Inhalte zurück. Bei Google und Perplexity ist tagesschau.de die meistgenutzte Quelle, der Deutschlandfunk rangiert bei beiden unter den Top drei und führt bei Gemini das Ranking an. Auch SPIEGEL taucht bei drei Angeboten unter den Top Ten auf, bei Gemini auf Platz drei.
ChatGPT bevorzugt Welt.de durch Kooperation
Einen klaren Ausreißer zeigt ChatGPT von OpenAI: welt.de ist die dominierende Nachrichtenquelle und wird fast fünfmal häufiger zitiert als der zweitplatzierte Deutschlandfunk. Der Medienkonzern Axel Springer (Welt, Bild, Politico) hatte 2023 eine globale Partnerschaft mit OpenAI geschlossen. Diese Kooperation schlage sich „signifikant in der Quellenauswahl von ChatGPT nieder“, heißt es in der Studie. „Die Kooperationen zwischen Medienhäusern und KI-Anbietern sind bei keinem Anbieter transparent angegeben. Man muss konkret danach suchen“, sagt Benert. Viele Nutzer gingen davon aus, dass KI-Systeme das Netz nach den relevantesten Ergebnissen durchforsten. Durch solche Kooperationen entstehe eine praktisch unmerkliche Bevorzugung einzelner Medienhäuser.
Claude verbreitet russische Desinformation
Das Modell Claude von Anthropic griff im Untersuchungszeitraum gleich siebenmal auf Domains des sogenannten Pravda-Netzwerks zu. Dabei handelt es sich um ein groß angelegtes russisches Einflussnetzwerk, das laut Experten bereits mehr als 8,5 Millionen Artikel verbreitet hat. Deutschland gehört neben Frankreich, Polen, der Ukraine, Moldau und Serbien zu den Zielländern. „Claude hat Informationssuchenden in diesen Fällen russische Desinformation gleichberechtigt mit anderen Nachrichtenquellen untergejubelt“, sagt Benert. „Ein System, das Desinformation und Journalismus in derselben Form präsentiert, gefährdet die informierte Meinungsbildung.“
Beobachter warnen schon länger vor „Data Poisoning“, bei dem Propagandaseiten ihre Inhalte gezielt optimieren, damit KI-Chatbots sie als seriöse Quellen präsentieren. Auf SPIEGEL-Anfrage erklärte Anthropic: „Wir arbeiten daran, Claude so zu trainieren, dass es in seinen Antworten politisch ausgewogen ist.“ Ziel sei, dass es entgegengesetzte Standpunkte mit gleicher Tiefe behandelt. Google betonte, seine KI-Produkte verlinkten auf Hunderte einzigartiger Domains, und die Antworten beruhten auf denselben Systemen wie die Suche, die über Jahrzehnte verfeinert wurden. OpenAI erklärte, die Ergebnisse basierten auf den hilfreichsten und relevantesten Quellen, nicht auf kommerziellen Vereinbarungen.
Regulierungslücke und Handlungsbedarf
Benert sieht eine „konkrete Regulierungslücke“. Anders als klassische Medien unterlägen KI-Anbieter weder publizistischen Sorgfaltspflichten noch einer vielfaltssichernden Aufsicht. Sie fordert mehr Transparenz bei der Quellenauswahl, überprüfbare Zuordnungen und die Offenlegung von Kooperationen. Ohne Einblick in die Quellenauswahl lasse sich weder Haftung noch Vielfalt noch faire Vergütung durchsetzen. Der Trend zu ausformulierten Antworten entziehe Medien zudem Reichweite und Einnahmen. „Wenn der Journalismus so seine wirtschaftliche Grundlage verliert, steht damit eine zentrale Säule demokratischer Informationsvermittlung auf dem Spiel“, heißt es in dem Papier. Die Agora Digitale Transformation plant bereits eine Langzeituntersuchung unter Einbeziehung wissenschaftlicher Partner.
