Der OpenAI-Rivale Anthropic hat die Technologie hinter seinem aufsehenerregenden KI-Modell Mythos mit Einschränkungen der Öffentlichkeit zugänglich gemacht. Die als Claude Fable 5 veröffentlichte Software verhindert unter anderem, dass sie sich mit Cybersicherheit und Biotechnologie befasst. Dies soll die Nutzung für potenzielle Cyberangriffe ausschließen.
Hintergrund: Mythos entdeckte jahrelang unentdeckte Schwachstellen
Bereits vor einigen Monaten hatte das KI-Modell Mythos Preview in viel genutzter Software Schwachstellen aufgespürt, die teilweise über Jahrzehnte unentdeckt geblieben waren. Dies löste in der Tech-Branche Besorgnis aus, dass Künstliche Intelligenz für verheerende Cyberangriffe genutzt werden könnte. Regierungsbehörden und ausgewählte Unternehmen erhielten daraufhin Zugang zu Mythos Preview, um ihre Systeme gegen potenzielle Angriffe zu sichern. Dieses als „Glasswing“ bekannte Programm wird nun mit der nächsten Modellversion Mythos 5 fortgeführt.
Fable 5: Verbesserte Programmierfähigkeiten und Sicherheitsvorkehrungen
Die abgesicherte Version Fable 5 ist laut Anthropic unter anderem besser als vorherige Modelle im Programmieren von Software. Die Leitplanken gegen potenziell gefährliche Nutzung seien ausgiebig getestet worden, betonte das Unternehmen. Anthropics Claude-Modelle stehen in direkter Konkurrenz zur KI-Software des ChatGPT-Entwicklers OpenAI. Beide Unternehmen bereiten derzeit Börsengänge vor.
Mit der Veröffentlichung von Fable 5 will Anthropic einen verantwortungsvollen Umgang mit leistungsstarker KI fördern, ohne die Innovationskraft zu beeinträchtigen. Die Branche beobachtet die Entwicklung genau, da die Balance zwischen Fortschritt und Sicherheit eine zentrale Herausforderung darstellt.
