Die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) weitet ihre Kontrolle über den Einsatz Künstlicher Intelligenz (KI) in der Finanzbranche deutlich aus. Auf Grundlage einer europäischen Verordnung erhält die Behörde vom deutschen Gesetzgeber erweiterte Kompetenzen, wie die Bafin mitteilte. Die Neuregelung tritt unverzüglich in Kraft.
Schutz der Grundrechte als oberstes Ziel
„Die Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden. Die Bafin wird zum Beispiel dafür sorgen, dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird“, sagte Bafin-Präsident Mark Branson. Die Behörde wolle der Innovation jedoch nicht im Wege stehen, betonte er. Vielmehr gehe es darum, eine Balance zu finden.
KI wird in immer mehr Bereichen des Finanzwesens eingesetzt: Chatbots in der Kundenkommunikation, Bonitätsprüfungen bei Krediten, Risikobewertungen in der Lebens- und Krankenversicherung. Die Bafin will sich künftig stichprobenartig jene Anwendungen genauer ansehen, die von vielen Finanzunternehmen an besonders relevanten Stellen verwendet werden, erläuterte Bafin-Experte Jens Obermöller.
Transparenzpflichten und verbotene Praktiken
„Wir überwachen, ob die Unternehmen die Transparenzpflichten und Regelungen zu verbotenen KI-Praktiken einhalten“, sagte Obermöller. „Und wir schauen uns an, ob die Unternehmen Maßnahmen ergreifen, um die KI-Kompetenz ihrer Mitarbeiterinnen und Mitarbeiter zu fördern.“ Mit diesen Kontrollen beginne die Aufsicht sofort. Bei Verstößen drohen empfindliche Sanktionen.
Die Bafin kann Bußgelder von bis zu 35 Millionen Euro oder sieben Prozent des Jahresumsatzes des betreffenden Unternehmens verhängen. Diese Obergrenzen gelten für die schwerwiegendsten Verstöße gegen die Anforderungen der europäischen KI-Verordnung.
Hochrisiko-KI ab Dezember 2027 unter verschärfter Aufsicht
Ab Dezember 2027 wird die Bafin auch sogenannte Hochrisiko-KI-Systeme regulieren. Dazu zählen beispielsweise Systeme, die Versicherer zur Berechnung individueller Zuschläge in der Krankenversicherung einsetzen oder die von Banken zur Bonitätsprüfung bei Kreditanfragen genutzt werden. Für diese Systeme gelten besonders strenge Auflagen, etwa in Bezug auf Datenqualität, Dokumentation und menschliche Aufsicht.
Die europäische KI-Verordnung stuft Anwendungen in der Finanzbranche generell als risikoreich ein, wenn sie wesentliche Entscheidungen über Verbraucher treffen. Die Bafin will hier präventiv tätig werden und bereits vor Inkrafttreten der verschärften Regeln mit den Unternehmen zusammenarbeiten, um eine reibungslose Umsetzung zu gewährleisten.
Reallabore sollen Innovation ermöglichen
Trotz der strengeren Kontrolle betont die Bafin den Spielraum für neue Entwicklungen. „Es bleibt viel Raum für Innovation. Dafür sind Reallabore und Tests unter Realbedingungen vorgesehen. In diesen geschützten Räumen können Unternehmen neue Anwendungen erproben“, erklärte Obermöller. Diese Experimentierklauseln sollen sicherstellen, dass die Regulierung den technologischen Fortschritt nicht behindert.
Die Bafin will nach eigenen Angaben die richtige Balance zwischen Innovationsförderung und Grundrechtsschutz finden. Dazu gehört auch der Aufbau eigener KI-Kompetenzen bei der Aufsichtsbehörde selbst. Die Behörde plant, spezialisierte Prüfteams aufzustellen, die die KI-Systeme der Finanzbranche technisch durchdringen können.
Auswirkungen auf Banken und Versicherer
Für die Finanzbranche bedeutet die neue Regulierung einen erhöhten Aufwand bei der Dokumentation und Überwachung ihrer KI-Anwendungen. Unternehmen müssen nachweisen, dass ihre Systeme diskriminierungsfrei arbeiten und die gesetzlichen Transparenzvorgaben erfüllen. Besonders kleinere Institute könnten vor Herausforderungen stehen, da sie oft nicht über spezialisierte KI-Abteilungen verfügen.
Die Bafin kündigte an, die Unternehmen durch Leitfäden und Informationsveranstaltungen zu unterstützen. Zugleich warnte sie aber auch vor allzu großer Sorglosigkeit: Wer die neuen Regeln ignoriere, müsse mit harten Strafen rechnen. Die ersten Kontrollen laufen bereits.
