Microsoft warnt eindringlich vor unkontrollierter KI-Nutzung in Unternehmen
Der Softwarekonzern Microsoft warnt in seinem aktuellen Cyber Pulse Report vor den gravierenden Sicherheitsrisiken durch unkontrollierten Einsatz von Künstlicher Intelligenz in Unternehmen. Die Studie, die im Vorfeld der Münchner Sicherheitskonferenz veröffentlicht wurde, zeigt alarmierende Entwicklungen auf.
Schatten-KI: Die unsichtbare Gefahr in Unternehmen
Unter dem Begriff Schatten-KI verstehen Sicherheitsexperten die Nutzung von KI-Anwendungen durch Mitarbeiter, ohne dass die IT- oder Sicherheitsabteilung des Unternehmens davon offiziell Kenntnis hat oder diese Nutzung genehmigt hat. Mitarbeiter greifen eigenmächtig auf KI-Tools oder autonome Computerprogramme aus dem Internet zurück, um ihre Arbeitsabläufe zu beschleunigen, ohne dies der Firmenhierarchie zu melden.
Die Microsoft-Forscher stellen fest, dass KI-Helfer beim Programmieren bereits in über 80 Prozent der größten Unternehmen (Fortune 500) im Einsatz sind. Doch nur wenige Firmen verfügen über klare Richtlinien für den Umgang mit dieser Technologie. Diese rasante Verbreitung birgt unkalkulierbare Risiken für die Unternehmenssicherheit.
Explosionsartiges Wachstum bei fehlenden Sicherheitskontrollen
Der Bericht dokumentiert eine wachsende Diskrepanz zwischen technologischer Innovation und Sicherheitsvorkehrungen. Während die Nutzung von Künstlicher Intelligenz in Unternehmen explosionsartig zunimmt, verfügt nicht einmal die Hälfte der Unternehmen (47 Prozent) über spezifische Sicherheitskontrollen für generative KI. Noch bedenklicher: 29 Prozent der Angestellten nutzen bereits nicht genehmigte KI-Agenten für ihre tägliche Arbeit.
„Die schnelle Bereitstellung von KI-Agenten kann Sicherheits- und Compliance-Kontrollen aushebeln und das Risiko von Schatten-KI erhöhen“, warnen die Microsoft-Experten. Diese blinden Flecken in der Unternehmenssicherheit öffnen Tür und Tor für neue Angriffsmethoden.
Reale Bedrohungen durch manipulierte KI-Assistenten
Die Autoren der Studie betonen, dass es sich bei diesen Warnungen nicht um theoretische Risiken handelt. Kürzlich entdeckte das Defender-Team von Microsoft eine betrügerische Kampagne, bei der mehrere Akteure eine als „Memory Poisoning“ bekannte KI-Angriffstechnik nutzten. Dabei wird der Speicher von KI-Assistenten – und damit deren Ergebnisse – dauerhaft manipuliert.
Böswillige Akteure könnten die Berechtigungen solcher Agenten ausnutzen und sie zu unbeabsichtigten Doppelagenten machen. „Wie menschliche Mitarbeiter kann auch ein Agent mit zu viel Zugriff – oder falschen Anweisungen – zu einer Schwachstelle werden“, erklären die Sicherheitsexperten.
Gegenmaßnahmen: Kontrolle und Transparenz
In dem Report werden mehrere konkrete Gegenmaßnahmen empfohlen, um die Risiken beim Einsatz von KI-Anwendungen zu minimieren:
- KI-Softwarehelfer sollten nur Zugriff auf die Daten erhalten, die sie zwingend für ihre Aufgaben benötigen
- Unternehmen sollten ein zentrales Register einrichten, um alle existierenden KI-Agenten zu erfassen
- Es muss transparent sein, wem die KI-Agenten gehören und auf welche Daten sie zugreifen
- Nicht genehmigte Agenten müssen identifiziert und isoliert werden
Die Microsoft-Experten fordern Unternehmen auf, bei der Einführung von KI-Anwendungen nicht nur auf Geschwindigkeit, sondern vor allem auf Sicherheit zu achten. Nur durch klare Regeln, umfassende Kontrollen und transparente Prozesse könne das wachsende Risiko durch Schatten-KI eingedämmt werden.
