Deutschland und Großbritannien wollen in der KI-Sicherheit enger zusammenarbeiten. Das erklärte Digitalminister Karsten Wildberger (CDU) bei einem Besuch in London. „Wir haben einen umfangreichen Wissenstransfer vereinbart“, sagte Wildberger, nachdem er zuvor das britische AI Security Institute (AISI) besucht hatte.
Deutschland baut eigenes KI-Sicherheitsinstitut auf
Deutschland ist dabei, ein eigenes Institut für KI-Sicherheit aufzubauen, und plant, sich das AISI zum Vorbild zu nehmen. Die Briten hatten bereits nach dem globalen KI-Gipfel 2023 in Bletchley Park ein Institut für KI-Sicherheit gegründet, das heute weltweit als Vorreiter gilt. Länder wie die USA, Singapur, Japan, Kanada und Frankreich folgten dem Beispiel. Deutschland will jetzt nachziehen.
„Das neue Institut für KI-Sicherheit muss in der Lage sein, KI-Modelle auf Monatsbasis technisch zu bewerten“, sagte der deutsche Digitalminister. Die Geschwindigkeit sei entscheidend. Deshalb könne man auch nicht auf eine EU-Lösung warten. „Ein vergleichbares Institut auf EU-Ebene zu installieren, wäre zu langsam.“
Deutschland braucht eigene Lösungen
Der Anspruch des neuen KI-Instituts müsse sein, „frühzeitigen Zugriff auch auf sogenannte Frontier-Modelle wie Mythos vom US-Anbieter Anthropic zu erhalten“. Die US-Regierung hatte zeitweise auch für Verbündete den Zugang zu den am weitesten entwickelten KI-Modellen gesperrt. Das britische AISI war die einzige nicht amerikanische Regierungsorganisation, die Zugang zu dem Modell für Sicherheitstests erhielt.
Diese Sicherheitstests sind der Stolz der etwa 100 britischen KI-Tüftler. Sie simulieren dabei Angriffe auf KI-Modelle, um zum Beispiel herauszufinden, ob die intelligenten Maschinen ihr Wissen auch über den Bau von Biowaffen oder Cyberattacken teilen. Die Ergebnisse werden dann den Tech-Unternehmen zur Nachbesserung übermittelt. Ihr jüngstes Projekt ist, herauszufinden, ob KI-Modelle ihr Verhalten ändern, wenn sie merken, dass sie beobachtet werden.
Freiwillige Tests ohne regulatorischen Zwang
Allerdings ist das AISI darauf angewiesen, dass die Tech-Avantgarde den Testern freiwillig Einblick in ihre Schöpfungen gewährt. Es gibt keinen regulatorischen Zwang. Der frühere britische Premierminister Rishi Sunak, der den ersten KI-Gipfel organisiert und das AISI ins Leben gerufen hatte, wollte es aber nicht den Unternehmen allein überlassen, ihre Kreationen zu überwachen. „Das ist die Aufgabe demokratischer Institutionen“, forderte er bereits 2023.
Nach den Worten von Wildberger kann sich auch Deutschland nicht nur darauf verlassen, amerikanische Modelle zu testen. „Wir müssen unsere eigenen Modelle und Lösungen bauen“, sagte er und forderte von der Industrie „mehr Bereitschaft, im großen Stil in Technologie zu investieren“.
Zeitplan noch offen
Einen Zeitplan für den Aufbau des deutschen KI-Instituts wollte Wildberger trotz des Zeitdrucks noch nicht nennen. Der deutsche Digitalminister hatte Überlegungen für ein deutsches KI-Sicherheitsinstitut erstmals im Februar während seiner Reise zum AI Impact Summit in Indien publik gemacht. Das Gastgeberland Indien hatte kurz vorher ebenfalls die Gründung eines solchen Instituts angekündigt.
Finanzierung und Personal
Wichtig sei, so der Minister, dass es von einer „Führungspersönlichkeit geleitet wird, die auch junge Talente anzieht“. Deutschland verfüge dafür über zahlreiche „Weltklasseforscher“. Allerdings brauche das Institut eine ausreichende finanzielle Ausstattung. Darauf drängt auch die Digitalwirtschaft. Susanne Dehmel vom Branchenverband Bitkom fordert eine Finanzierung auf dem Niveau des britischen Vorbilds AISI. „Im Zentrum müssen neue systemische Risiken für Deutschlands Sicherheit und Souveränität stehen“, sagte Dehmel. Fragen des Arbeits-, Verbraucher- und Datenschutzes oder der KI-Ethik würden bereits an anderer Stelle kompetent behandelt.
Das britische AISI wurde von dem Tech-Investor Ian Hogarth aufgebaut, der dafür seine Beteiligung an Anthropic verkauft hat, die heute ein Vielfaches wert sein dürfte. Das britische Institut zahlt Spitzengehälter von umgerechnet bis zu 200.000 Dollar. In der Tech-Industrie können die Spezialisten jedoch leicht das Zehnfache verdienen. Wildberger ist dennoch optimistisch, dass er Talente gewinnen kann. Viele junge Menschen wollten nach Deutschland zurück, weil sich hierzulande etwas bewege.
Zwei Modelle für die Ansiedlung
Derzeit werden zwei Modelle diskutiert, wie das KI-Sicherheitsinstitut in Deutschland angesiedelt werden könnte. Die erste Option ist, dass eine bereits bestehende Behörde die Aufgabe eines KI-Sicherheitsinstituts übernimmt. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) oder die Bundesnetzagentur (BNetzA) kämen dabei etwa infrage. Als zweite Option wäre ein Netzwerk aus bestehenden Einrichtungen denkbar, bei dem aber nur eine Behörde als Ansprechpartner fungiert.
Brücke zur EU
Die geplante Zusammenarbeit mit Großbritannien in der KI-Sicherheit könnte nach Aussage von Wildberger auch eine Brücke sein, um in Fragen der Regulierung der neuen Technologie enger zu kooperieren. „Großbritannien will wieder näher an die EU heranrücken. Das spüren wir auch bei Themen wie digitaler Souveränität, zum Beispiel wenn es um Cloud-Dienste oder Chipfertigung geht“, sagte der Digitalminister in London.
Zugleich gibt es durch den Führungswechsel im Vereinigten Königreich zu Andy Burnham Anzeichen für eine Kurskorrektur in der britischen KI-Strategie. Nach Berichten britischer Medien geht das Team des kommenden Premierministers auf Distanz zu den USA, mit denen Noch-Premier Keir Starmer im vergangenen Jahr einen Technologiepakt geschlossen hatte. Starmer hatte mit US-Präsident Donald Trump damals eine enge Zusammenarbeit in der KI-Regulierung vereinbart, die Innovationen fördern und sich dadurch bewusst von dem strikten Regelwerk in der EU abheben sollte. Die US-Regierung setzte den Pakt jedoch zwischenzeitlich aus. Das Verhältnis zwischen Trump und Starmer ist durch den Irankrieg erheblich beschädigt worden.
Darüber hinaus hat das zeitweilige Exportverbot Washingtons für die am weitesten entwickelten KI-Modelle des US-Anbieters Anthropic auch in Großbritannien den Wunsch nach technologischer Souveränität gestärkt. Wildberger sieht hier offenbar einen Ansatzpunkt für eine engere Kooperation mit der EU.
