Chatbots gelten als bequeme Möglichkeit für Unternehmen, Support ohne menschliche Mitarbeiter anzubieten. Doch die künstlichen Kollegen sind nicht immer die hellsten Kerzen auf der Torte. Ein aktueller Fall zeigt, wie einfach sich Sicherheitslücken ausnutzen lassen: Hacker haben Metas KI-Bot dazu gebracht, Instagram-Konten zu kapern – indem sie einfach höflich danach fragten.
Die Methode der Angreifer
Ein auf X veröffentlichtes Video, das ursprünglich aus einem Telegram-Chat stammt, demonstriert die Vorgehensweise. Demnach teilten die Angreifer dem Bot mit, das Konto sei gehackt worden und sie benötigten einen Code, um das Passwort zurückzusetzen. Dafür gaben sie eine neue E-Mail-Adresse an, an die der KI-Support prompt den Code schickte. Weitere Sicherheitshürden waren gering: Ein Standortabgleich ließ sich durch die Nutzung eines VPN-Dienstes umgehen, wie unter anderem „KrebsonSecurity“ berichtet.
Selfie-Verifizierung umgangen
Ein X-Nutzer berichtet zudem, dass der Bot auch eine Verifizierung über ein Selfie verlangte. Auch das stellte kein Hindernis dar: „Die Angreifer nehmen ein Foto aus dem Profil des Opfers, nutzen einen KI-Videogenerator, um eine Animation der Gesichtsbewegung zu erstellen, und laden diese als Beweis auf Metas KI hoch“, so der Nutzer. Vermutlich war eine Voraussetzung, dass das Konto nicht durch eine Zwei-Faktor-Authentifizierung geschützt war.
Prominente Opfer
Bevor Meta die Schwachstelle am 29. Mai beseitigte, wurden unter anderem das Konto des Weißen Hauses, das Barack Obama während seiner Präsidentschaft nutzte, sowie das Profil des Chief Master Sergeant der US Space Force, John Bentivegna, gekapert. Über beide Konten verbreiteten die Angreifer Propaganda des iranischen Regimes.
Nicht das erste Mal
Die Chatbot-Panne ist nicht Metas erstes Problem mit der Kontowiederherstellung. Bereits im Januar verschickte Instagram unaufgefordert Tausende E-Mails mit der Aufforderung, das Passwort zurückzusetzen. Damals teilte die Plattform auf X mit: „Wir haben ein Problem behoben, das es Dritten ermöglichte, für einige Nutzer E-Mails zum Zurücksetzen von Passwörtern anzufordern.“ Ob die Sicherheitslücke diesmal tatsächlich geschlossen ist, bleibt abzuwarten.
