Metas künstliche Intelligenz im Support-Bereich hat sich als zu hilfreich erwiesen: Angreifer konnten den Chatbot dazu bringen, die Kontrolle über Instagram-Accounts zu übernehmen – ohne besondere Hacker-Kenntnisse. Betroffen waren unter anderem Profile des Weißen Hauses unter Barack Obama, eines hochrangigen Offiziers der US-Weltraumstreitkräfte sowie des Beauty-Unternehmens Sephora. Meta bestätigte, dass die betroffenen Konten gesichert, die Hacker-Inhalte entfernt und die Sicherheitslücke geschlossen wurden.
Einfache Methode mit verheerender Wirkung
Wie das Tech-Magazin „404 Media“ berichtete, kursierten in den vergangenen Tagen in Hacker-Gruppen auf Telegram detaillierte Schritt-für-Schritt-Anleitungen. Die Methode war denkbar simpel: Die Angreifer baten den KI-Support-Bot von Meta, das jeweilige Instagram-Konto mit einer neuen E-Mail-Adresse zu verknüpfen. Daraufhin sandte der Bot einen Verifizierungscode an die neue Adresse, mit dem die Hacker den Account übernehmen und den ursprünglichen Besitzer aussperren konnten.
VPN als einzige Hürde
Einzige Voraussetzung für den Angriff war, dass ausländische Hacker ein virtuelles privates Netzwerk (VPN) nutzten, um vorzutäuschen, sie befänden sich in derselben Region wie das Ziel. Ein auf X geteiltes Video zeigte, wie der KI-Bot die Anweisung befolgte und den Code verschickte. Meta selbst wirbt auf seiner Website damit, dass der Chatbot im Gegensatz zu herkömmlichen Hilfebereichen konkrete Aktionen wie das Zurücksetzen von Passwörtern anleiten könne – genau diese Funktion wurde hier zum Verhängnis.
Propaganda auf prominenten Accounts
Die Hintermänner der Angriffe sind unbekannt, aber auf dem Account von John F. Bentivegna, dem Chief Master Sergeant of the Space Force, veröffentlichten die Hacker proiranische und antiamerikanische Propaganda. Bentivegna warnte auf Facebook davor, mit den Inhalten zu interagieren, und betonte, dass Cybersicherheit nicht nur ein Unternehmensthema sei, sondern jeden im Alltag betreffe. Auch auf dem Obama-Account des Weißen Hauses, der zuletzt 2017 bespielt wurde, tauchten iranische Propaganda-Posts auf.
Meta-Sprecher dementiert Gerüchte
Meta-Sprecher Andy Stone widersprach auf X einer inzwischen gelöschten Behauptung, dass „im Grunde alle Direktnachrichten von Staats- und Regierungschefs aus aller Welt veröffentlicht wurden“. Er stellte klar, dass das Problem behoben sei. Der Vorfall verdeutlicht die Risiken, die mit der Auslagerung des Supports an künstliche Intelligenz verbunden sind. Meta hatte erst im März angekündigt, den KI-Support auf alle Facebook- und Instagram-Konten auszuweiten.
