Mehr als 150 Mathematikerinnen und Mathematiker aus aller Welt haben eindringlich davor gewarnt, den aktuellen Hype um die mathematischen Fähigkeiten von Systemen der Künstlichen Intelligenz unkritisch zu übernehmen. In einer am Dienstag nach einer Konferenz in der niederländischen Universitätsstadt Leiden veröffentlichten Erklärung heißt es, dass KI-Entwickler einen starken kommerziellen Anreiz hätten, die Fähigkeiten ihrer Produkte übertrieben darzustellen.
Kommerzielle Interessen dominieren
Die Öffentlichkeitsarbeit zu KI werde häufig nach Marktlogik betrieben und nicht im Tempo wissenschaftlicher Begutachtung. Dabei würden KI-Lösungen für einzelne mathematische Aufgaben irreführend als Maßstab für die allgemeinen Fähigkeiten kommerzieller KI-Modelle dargestellt, so die Leidener Erklärung. Der Mathematiker Michael Harris von der Columbia University, einer der Mitautoren der Erklärung, spricht von einem Wettbewerb auf Leben und Tod zwischen den großen KI-Laboren. Die Unternehmen versuchten, mit Hilfe der Mathematik Investitionen anzuziehen.
Gefahr falscher Beweise
Die Autoren warnen unter anderem davor, dass KI-Systeme plausibel wirkende, aber letztlich falsche Beweise erzeugen könnten, die für Menschen schwer zu überprüfen seien. Auch bestehe die Gefahr, dass die Nutzung von KI in der Mathematik Forschung begünstige, die sich vor allem an neuen praktischen Anwendungen orientiere – zulasten anderer wichtiger Fragestellungen.
Ethische Folgen im Fokus
Darüber hinaus warnen die Mathematiker vor möglichen Schäden durch KI in Bereichen wie Kriegsführung, Massenüberwachung, Destabilisierung politischer Systeme und Umweltbelastung. Sie rufen Kolleginnen und Kollegen auf, die ethischen Folgen ihrer Forschung zu prüfen und sich nötigenfalls aus schädlicher Arbeit zurückzuziehen.
Die Vizepräsidentin der Internationalen Mathematischen Union (IMU), Ulrike Tillmann, betonte, dass KI zwar neue und spannende Möglichkeiten eröffne, aber auch Fragen aufwerfe, die nicht ungeprüft bleiben dürften. Die Zukunft der mathematischen Forschung müsse von menschlichem Urteilsvermögen, fairen und transparenten Verfahren sowie den gemeinsamen Werten der weltweiten mathematischen Gemeinschaft geleitet werden.
