Die Deutsche Industrie- und Handelskammer (DIHK) und die Finanzaufsicht Bafin fordern einheitliche europäische Regeln für KI-Chatbots in der Versicherungsvermittlung. Hintergrund ist, dass Systeme wie ChatGPT und Claude zunehmend konkrete Tarifempfehlungen geben, ohne über eine Erlaubnis nach Paragraf 34d der Gewerbeordnung zu verfügen. Der Branchenverband des unabhängigen Finanzvertriebs Votum wertet dies als Rechtsverstoß.
Rechtliche Grauzone bei KI-Empfehlungen
„Wir sehen, dass KI-Chatbots und KI-Agenten zunehmend konkrete Produktempfehlungen geben oder sogar Verträge vorbereiten und damit derzeit in eine rechtliche Grauzone hineinreichen“, sagte DIHK-Chefjustiziar Stephan Wernicke dem Handelsblatt. In Deutschland ist für die gewerbsmäßige Versicherungsberatung oder -vermittlung eine Erlaubnis erforderlich. Da KI-Anwendungen jedoch grenzüberschreitend entwickelt und genutzt werden, plädiert Wernicke für eine europäische Lösung, die Rechtssicherheit schafft und Innovation ermöglicht, ohne den Verbraucherschutz zu gefährden.
Auch die Bafin hält eine europaweit einheitliche Bewertung für notwendig. Laut einem Behördensprecher hat die europäische Versicherungsaufsicht Eiopa die Europäische Kommission bereits gefragt, ob und wann die Tätigkeit eines KI-Chatbots als Versicherungsvertrieb gilt. Eine Antwort wird erst im weiteren Jahresverlauf erwartet.
Votum-Verband fordert klares Eingreifen
Der Votum-Verband hatte die Aufsichtsbehörden Ende Mai aufgefordert, zeitnah eine regulatorische Einordnung vorzunehmen. Die DIHK als Dachverband der Industrie- und Handelskammern ist für die Aufsicht über Versicherungsvermittler zuständig, die Bafin beaufsichtigt die Versicherer. In den vergangenen Tagen haben sich die Beteiligten sowie Vertreter mehrerer Bundesministerien ausgetauscht. „In unseren Gesprächen mit der Bafin und der DIHK wurde uns versichert, dass man das Problem erkannt habe“, sagte Martin Klein, geschäftsführender Vorstand des Votum-Verbands. Einen Ansatz für ein Eingreifen sehe man derzeit jedoch nicht.
Der Verband legte Beispiele vor: ChatGPT empfahl eine Hausratversicherung von Getsafe, Claude von Anthropic riet zu einer Police der Huk-Coburg. Solche individuellen Empfehlungen ohne Erlaubnis seien ein Rechtsverstoß. Klassische Vermittler fragen sich zunehmend, welche Rolle sie künftig spielen, während Versicherer ihre Websites so optimieren, dass KI-Systeme ihre Produkte besser auslesen können.
Ungleiche Voraussetzungen und Haftungsfragen
Votum kritisiert die ungleichen Bedingungen: Zugelassene Vermittler müssen gesetzliche Beratungs- und Dokumentationspflichten erfüllen und haften für Fehler, während KI-Anbieter weder Zulassung noch Haftung benötigen. „Aus Sicht der DIHK reiht sich diese Entwicklung in eine Vielzahl aktueller rechtlicher Herausforderungen ein“, sagte Wernicke. Die bestehenden Regeln seien auf klassische Beratung zugeschnitten und stießen bei KI an Grenzen, insbesondere bei Fragen wie Gewerblichkeit oder Vergütung.
Verbraucher zahlen bei kostenpflichtigen KI-Chatbots für die Nutzung der KI, nicht für die Empfehlung. Die DIHK stellt daher die Gewerblichkeit infrage. Klein vom Votum-Verband bezeichnet das als „naiv“: Je mehr KI-Modelle sich als unentbehrliche Helfer etablieren, desto leichter könnten sie Umsätze durch Abo-Gebühren generieren. Statt auf eine EU-Lösung zu warten, will er ein vertieftes Rechtsgutachten erarbeiten.
Lösungsansätze und Verbraucherverantwortung
Experten zeigen Wege auf, wie die rechtliche Unsicherheit gelöst werden könnte. Patrick Dahmen von der Strategieberatung Valytics verwies auf den spanischen Digitalversicherer Tuio, der in ChatGPT eine App für Hausratversicherungen anbietet. Dort sei klar, dass ein lizenzierter Anbieter im Chat aktiv sei und die Plattform nur die Technik liefere. Nele Wollert, Vertriebschefin beim KI-Start-up Muffintech, erwartet, dass KI-Chatbots künftig deutlicher kennzeichnen, dass sie nicht als Berater tätig sind. „Häufig weisen sie darauf hin, dass es sich um keine Beratung handelt. Auf eine solche Kennzeichnung werden die Sprachmodelle sicherlich noch stärker achten“, betonte Wollert.
Wollert betont, dass KI-Anbieter nicht für alles haftbar gemacht werden können. Es sei wichtig, dass Bürger die Funktionsweise von KI verstehen. Auch Wernicke nimmt Nutzer in die Pflicht: „Verbraucher und Unternehmen tragen auch selbst Verantwortung für ihr Handeln und die Nutzung von KI.“ Wie Anthropic und OpenAI die Sachlage bewerten, ist nicht bekannt; auf eine Handelsblatt-Anfrage haben die Unternehmen nicht reagiert.
