Der OpenAI-Rivale Anthropic hat eine Pause bei der Entwicklung von leistungsstarker Künstlicher Intelligenz (KI) vorgeschlagen. In einem Blogbeitrag erklärte das Unternehmen, es halte es für vorteilhaft, die Möglichkeit zu haben, die Entwicklung besonders fortschrittlicher Modelle zu verlangsamen oder auszusetzen. Ziel dieser Pause solle sein, gesellschaftliche Strukturen anzupassen und die Forschung voranzutreiben, die sicherstellt, dass KI im Interesse der Menschen handelt.
Einigung der Branche notwendig
Anthropic räumte ein, dass ein solcher Schritt das Einvernehmen aller großen KI-Entwickler erfordern würde. Bislang ist in der Branche jedoch keine Bereitschaft erkennbar. Die Unternehmen überbieten sich vielmehr mit Plänen, Hunderte Milliarden Dollar in KI-Infrastruktur wie riesige Rechenzentren zu investieren.
Anthropic-Chef Dario Amodei hatte bereits auf dem Weltwirtschaftsforum in Davos im Januar betont, dass der KI-Wettlauf mit China eine Verlangsamung der Entwicklung stark erschwere, da kaum eine durchsetzbare Vereinbarung möglich sei. Einseitige Pausen lehnt Anthropic ab, da sie lediglich die Führungspositionen verschieben würden.
Kontrollsystem für Moratorium
Als konkrete Maßnahme will das Forschungsinstitut von Anthropic gemeinsam mit anderen ein System zur Kontrolle entwickeln, das Entwicklern die Sicherheit geben soll, dass sich alle Teilnehmer an ein solches Moratorium halten und niemand heimlich Vorteile erlangt.
Bereits vor Jahren hatte Tech-Milliardär Elon Musk eine sechsmonatige Pause bei der KI-Entwicklung gefordert, um Risiken vorzubeugen. Später wurde bekannt, dass er parallel die Gründung einer eigenen KI-Firma vorantrieb.
Selbstverbesserung der KI als Risiko
Auslöser für den aktuellen Vorstoß ist laut Anthropic der schnelle Fortschritt der KI-Modelle, insbesondere bei der Fähigkeit, sich selbst zu verbessern und weiterzuentwickeln. Wenn KI dazu in der Lage sei, steige das Risiko, dass Menschen die Kontrolle verlieren. Dieser Meilenstein könne schneller erreicht werden, als viele Institutionen darauf vorbereitet seien, warnte Anthropic.
Das Unternehmen, das die KI-Software Claude entwickelt, tritt häufig als Mahner auf und fordert unter anderem eine striktere Regulierung der Branche. Aus dem Weißen Haus von Präsident Donald Trump wurde Anthropic vorgeworfen, dies würde die US-Industrie im globalen Wettbewerb bremsen.
Zuletzt sorgte Anthropic mit der Software Claude Mythos Preview für Aufsehen, die in verschiedenen Programmen zum Teil über Jahrzehnte unentdeckte Sicherheitslücken fand.
