Der auf Künstliche Intelligenz spezialisierte US-Konzern Anthropic hat eine weltweite Pause bei der Entwicklung immer leistungsstärkerer KI-Systeme gefordert. Eine globale Verlangsamung der Spitzenforschung im KI-Bereich wäre „wahrscheinlich sinnvoll“, erklärte das in San Francisco ansässige Unternehmen am Donnerstag (Ortszeit). Allerdings müssten alle großen KI-Akteure weltweit mitmachen, denn wenn nur ein einzelnes Unternehmen pausiere, würden die Konkurrenten einfach vorbeiziehen.
Gründe für die geforderte Pause
„Wir halten es für wünschenswert, dass die Welt die Möglichkeit hat, die Entwicklung hochmoderner KI-Systeme zu verlangsamen oder vorübergehend auszusetzen, damit gesellschaftliche Strukturen und die Forschung zur Ausrichtung der KI mit dem technologischen Fortschritt Schritt halten können“, so Anthropic in einer Stellungnahme. Der Konzern betont, dass eine solche Pause nur dann wirksam sein könne, wenn sich führende KI-Unternehmen in verschiedenen Ländern – insbesondere in den USA und China – darauf einigen, ihre Arbeit gleichzeitig zu verlangsamen oder zu pausieren. Dafür müssten verbindliche Regeln aufgestellt werden, die für alle überprüfbar seien.
Anthropics eigene KI-Projekte
Anthropic ist vor allem für seinen Chatbot Claude bekannt, der hauptsächlich von Unternehmen genutzt wird. Darüber hinaus arbeitet der Konzern an einem KI-Modell namens Mythos, das Schwachstellen in Cybersicherheitssystemen aufspüren soll. Sowohl US-Behörden als auch die EU hoffen auf einen testweisen Zugriff auf Mythos, um mögliche Risiken zu bewerten. Deutsche Verfassungsschützer und Sicherheitspolitiker hatten bereits gewarnt, dass Kriminelle oder staatliche Akteure Mythos für Cyberangriffe missbrauchen könnten.
Rechtsstreit mit dem Pentagon
Anthropic befindet sich derzeit in einem Rechtsstreit mit dem US-Verteidigungsministerium. Dabei geht es um die uneingeschränkte militärische Nutzung der KI-Technologie, die Anthropic dem Pentagon verweigert hat. Das Unternehmen erklärte, es wolle KI nicht zur „Massenüberwachung im Inland“ oder in vollautonomen Waffensystemen einsetzen lassen. Daraufhin stufte das Pentagon Anthropic als „Sicherheitsrisiko in der Lieferkette“ ein, wogegen das Unternehmen juristisch vorgeht.
Am Montag hatte Anthropic zudem seinen Börsengang angemeldet. Der Vorstoß für eine KI-Pause kommt somit zu einem Zeitpunkt, an dem das Unternehmen selbst expandiert und neue Finanzierungsmöglichkeiten sucht.
