OpenAI: Sieben Klagen in Kalifornien – Kläger machen Suizidrisiko geltend

🚨 Der Vorwurf: Was die Kläger behaupten

Laut Gerichtsunterlagen und Medienberichten wird OpenAI vorgeworfen, ChatGPT habe in Unterhaltungen mit vulnerablen Personen riskante Inhalte zugelassen oder kritische Situationen nicht erkannt. In mehreren Fällen wird ein kausaler Zusammenhang zu späteren Suiziden geltend gemacht. OpenAI bezeichnete die Fälle als „zutiefst traurig“ und kündigte an, die Klageschriften zu prüfen.

Hinweis zur Einordnung: Es handelt sich um behauptete Sachverhalte in Zivilverfahren. Ein Gericht hat darüber noch nicht entschieden.

⚖️ Was über die sieben Klagen bekannt ist

• Umfang: Sieben Zivilklagen in Kalifornien; teils werden wrongful death, assisted suicide, involuntary manslaughter und negligence geltend gemacht.
• Kausalität: Zentral ist die Frage, ob Chatverläufe rechtlich als (Mit-)Ursache gewertet werden können.
• Design & Safety: Kläger verweisen u. a. auf angeblich gelockerte Selbstschutz-Leitplanken; OpenAI verweist grundsätzlich auf laufende Sicherheitsarbeit und die Prüfung der Vorwürfe.
• Black-Box-Problem: Sprachmodelle generieren Antworten probabilistisch; Gerichte müssen klären, wie Vorhersehbarkeit und Sorgfaltspflichten hier zu messen sind.

📚 Hintergrund: Haftung & Krisenhinweise bei KI

Bereits vor den neuen Klagen gab es Verfahren rund um einen Fall eines US-Teenagers, in dem nachträglich über gelockerte Selbstschutz-Regeln gestritten wird. Parallel kritisieren Studien die Inkonsistenz von Chatbot-Antworten bei Suizid-Themen und fordern robustere Krisen-Leitlinien.

• Frühere/Parallelfälle: Amended Complaint im Fall eines 16-Jährigen in Kalifornien (Diskussion um gelockerte Suizid-Antwortregeln).
• Forschung: Studien zeigen schwankende Qualität von Antworten bei Suizid-/Selbstharm-Prompts; Forderung nach klaren De-Eskalationspfaden und professionellen Verweis-Mechanismen.
• Regulierung: Zu erwarten sind strengere Vorgaben zu Altersverifikation, Krisenerkennung und Dokumentationspflichten im Rahmen künftiger Produkthaftungs-Debatten.

💡 BesserAI-Analyse

Kommentar

Die Verfahren markieren eine neue Eskalationsstufe: Erstmals steht nicht nur Urheber- oder Datenschutz im Fokus, sondern konkret die Sorgfaltspflicht gegenüber Nutzern in psychischen Krisen.

Unabhängig vom Ausgang dürften die Klagen Regulierung beschleunigen – von Age-Gating über Krisenerkennung bis hin zu Beweis-/Dokumentationspflichten. Für Anbieter heißt das: Safety-Systeme auditierbar machen, Krisenpfade standardisieren, kollaborieren mit Kliniker-Boards und De-Eskalation priorisieren.