Anthropic-Chef fordert Notbremse für gefährliche KI
Der Chef des KI-Unternehmens Anthropic, Dario Amodei, hat sich in einem aktuellen Blogbeitrag dafür ausgesprochen, dass Regierungen die Möglichkeit erhalten sollten, gefährliche Künstliche Intelligenz zu stoppen. Seine Forderung zielt darauf ab, leistungsstarke KI-Modelle vor ihrer Veröffentlichung umfassend auf Risiken zu prüfen.
Amodei betonte, dass insbesondere Bereiche wie Cybersicherheit, Biowaffen und der mögliche Kontrollverlust über die Systeme im Fokus stehen müssten. Auch die automatisierte Weiterentwicklung von KI-Software, die diese Risiken verstärken könnte, müsse berücksichtigt werden. Der Anthropic-Chef schlug vor, solche Untersuchungen durch eine staatliche Organisation durchführen zu lassen, die etwa einer Flugaufsicht ähneln würde. Alternativ könnten von der Regierung beauftragte private Prüfer diese Aufgabe übernehmen.
Anthropic, bekannt für seine KI-Software Claude, gilt als schärfster Konkurrent des ChatGPT-Entwicklers OpenAI. Das Unternehmen setzt sich seit längerem für eine strengere Regulierung der KI-Branche ein, was ihm sowohl aus Teilen der Industrie als auch aus dem Weißen Haus Kritik eingebracht hat.
Mythos: KI-Modell mit beunruhigenden Fähigkeiten
Erst kürzlich sorgte Anthropic mit seinem KI-Modell Mythos für Aufsehen. Dieses ist in der Lage, Schwachstellen in weit verbreiteter Software aufzuspüren, die zum Teil über Jahrzehnte unentdeckt geblieben waren. Diese Fähigkeit hat die Befürchtung verstärkt, dass Künstliche Intelligenz für verheerende Cyberangriffe missbraucht werden könnte.
Die Diskussion um die Regulierung von KI gewinnt damit weiter an Dringlichkeit. Experten fordern schon länger verbindliche Sicherheitsstandards, um die Risiken der Technologie zu minimieren. Anthropic selbst hat mehrfach betont, dass eine unkontrollierte Entwicklung der KI zu ernsthaften Gefahren für die Gesellschaft führen könnte.
