Das Unternehmen für generative Künstliche Intelligenz Anthropic gewährt der Europäischen Union Zugang zu seinem Sprachmodell „Mythos“. Die EU-Cybersicherheitsagentur Enisa erhält die Möglichkeit, das KI-Tool zu testen, das Schwachstellen in Systemen aufspüren kann. Zahlreiche US-Firmen nutzen es bereits.
Hintergrund der Zusammenarbeit
Ein Sprecher der EU-Kommission bestätigte die Vereinbarung. Zuvor hatte die Nachrichtenagentur Bloomberg darüber berichtet. Anthropic habe entschieden, die Enisa in das „Project Glasswing“ aufzunehmen, eine Initiative, die es wichtigen Organisationen erlaubt, die Funktionen von „Mythos“ zu testen, bevor das Modell einer breiteren Öffentlichkeit zugänglich gemacht wird.
Verhandlungen und Reise nach San Francisco
Nach wochenlangen erfolglosen Gesprächen reisten Kommissionsmitglieder am Donnerstag nach San Francisco, um die Führungskräfte von Anthropic persönlich um Zugang zu bitten. Der Kommissionssprecher betonte, dass die jüngsten Entwicklungen von großer Bedeutung seien, um ein klares Bild der potenziellen Risiken zu bekommen. Man dürfe nicht vergessen, dass Mythos kein Einzelfall sei: Eine neue Welle leistungsstarker Modelle werde in absehbarer Zukunft auf den Markt kommen. Die EU vertiefe die Gespräche mit gleichgesinnten Partnern, einschließlich der Vereinigten Staaten.
Zugangsbeschränkungen und Sicherheitsbedenken
Derzeit haben nur wenige Firmen und Institutionen Zugriff auf „Mythos“, da die Gefahr besteht, dass es in die Hände von Cyberkriminellen gelangen könnte. Anthropic erklärte, dass das neue Modell besonders gut darin sei, Schwachstellen in Netzwerken aufzudecken – und somit ein erhebliches Cybersicherheitsrisiko für kritische Systeme darstellen könnte. Die Zusammenarbeit mit der EU soll helfen, diese Risiken besser zu verstehen und geeignete Schutzmaßnahmen zu entwickeln.
