Die Finanzaufsicht Bafin erhält durch ein neues Gesetz erweiterte Kompetenzen zur Überwachung von Systemen künstlicher Intelligenz (KI) bei Banken, Versicherern und anderen Finanzfirmen. Die Bonner Behörde teilte am Mittwoch mit, dass die neuen Befugnisse darauf abzielen, Innovationen zu fördern und gleichzeitig Grundrechte der Kunden zu schützen. Grundlage ist das Gesetz zur Durchführung der europäischen Verordnung über Künstliche Intelligenz, das am selben Tag in Kraft getreten ist.
Neue Befugnisse für die Bafin
Das erweiterte Mandat erstreckt sich auf alle Kreditinstitute, Versicherungsunternehmen und sonstigen Finanzfirmen, die unter der Aufsicht der Bafin stehen. Die KI-Verordnung ergänzt die bestehende Finanzmarktregulierung und schafft einen Rahmen, in dem Unternehmen Innovationen verantwortungsvoll vorantreiben können, erklärte Bafin-Präsident Mark Branson. „Die Menschen müssen sich darauf verlassen können, dass ihre Grundrechte beim Einsatz von KI geschützt werden“, betonte Branson. Die Bafin werde etwa dafür sorgen, dass alle einen fairen Zugang zu Finanzdienstleistungen haben und niemand durch KI diskriminiert wird.
Hochrisiko-KI unter Aufsicht
Besonderes Augenmerk legt die Bafin auf Hochrisiko-KI-Systeme. Dazu zählen Anwendungen, die Banken zur Kreditwürdigkeitsprüfung einsetzen oder die Versicherer für die Risikobewertung in der Lebens- und Krankenversicherung nutzen. Auch Transparenzpflichten für KI-Systeme, die direkt mit Menschen interagieren – wie Chatbots in der Kundenkommunikation – werden von der Marktüberwachung erfasst. Die Behörde will zudem prüfen, ob Unternehmen die Verbote bestimmter KI-Praktiken einhalten.
Verbotene KI-Praktiken
Bereits seit Februar 2025 sind bestimmte KI-Anwendungen verboten. Darunter fallen Systeme, die besonders schützenswerte Informationen über Menschen sammeln und bewerten, was zu einer ungerechtfertigten Benachteiligung führen kann. Die Marktüberwachung der Bafin beschränkt sich jedoch auf KI-Systeme, die in direktem Zusammenhang mit einer regulierten Finanztätigkeit stehen. Für andere KI-Anwendungen, etwa im Personalmanagement von Finanzunternehmen, ist die Bundesnetzagentur zuständig. Bei Verstößen gegen die KI-Verordnung kann die Bafin Bußgelder verhängen.
