Der US-Bundesstaat Florida beschreitet juristisches Neuland mit einer Klage gegen den KI-Entwickler OpenAI. Dem Unternehmen wird vorgeworfen, den Nutzern seines Chatbots ChatGPT Sicherheit zu versprechen, obwohl die Software gefährlich sei. Die Klageschrift wurde von Floridas Generalstaatsanwalt James Uthmeier eingereicht.
Vorwürfe: Tödliche Empfehlungen und Mitschuld an Schusswaffenangriff
In der Klage wird OpenAI beschuldigt, dass ChatGPT eine Bedrohung für die öffentliche Sicherheit darstelle. Konkret wird auf Fälle verwiesen, in denen der Chatbot eine tödliche Medikamentenkombination empfohlen und einen Schützen vor einem tödlichen Angriff auf einem Universitätsgelände beraten haben soll. Besonders problematisch sei der Chatbot für Teenager, kritisierte Uthmeier.
OpenAI verweist auf Schutzmaßnahmen
OpenAI reagierte auf die Vorwürfe und verwies auf bereits ergriffene Maßnahmen zum Schutz junger Nutzer. Dazu gehören Mechanismen zur Alterserkennung sowie Überwachungsmöglichkeiten für Eltern. Kritiker bemängeln jedoch, dass diese Maßnahmen erst nach Todesfällen und öffentlicher Kritik eingeführt wurden.
ChatGPT: Der Auslöser des KI-Hypes
ChatGPT ist der Chatbot, der den aktuellen Hype um Künstliche Intelligenz auslöste. Laut OpenAI kommt die Software inzwischen auf 900 Millionen Nutzer pro Woche und ist das wichtigste Produkt des Unternehmens.
Ermittlungen nach Schusswaffenangriff
Bereits im April hatte Florida Ermittlungen zur Rolle von ChatGPT beim Schusswaffenangriff an der Florida State University im April 2025 aufgenommen. Der Schütze hatte vor der Tat Ratschläge von dem KI-Chatbot eingeholt, so Uthmeier. Demnach erhielt er nicht nur Empfehlungen zur Waffenwahl und passender Munition, sondern auch zu den besten Zeiten und Orten für den Angriff. OpenAI betont, dass ChatGPT nicht für die Tat verantwortlich sei, bei der zwei Menschen getötet und sechs weitere verletzt wurden.
