Familien verklagen OpenAI wegen Versäumnis, das Verhalten eines kanadischen Massenschützen auf ChatGPT zu melden

Familien von sieben Opfern eines Massakers an einer weiterführenden Schule in British Columbia verklagen OpenAI und den CEO des Unternehmens wegen Fahrlässigkeit, nachdem es versäumt hatte, die Behörden über die beunruhigenden Gespräche des Schützen mit ChatGPT zu informieren.

Die am Mittwoch bei einem Bundesgericht in San Francisco eingereichten Klagen behaupten, dass die gewalttätigen Absichten des Schützen, identifiziert als der 18-jährige Jesse Van Rootselaar, OpenAI wohlbekannt waren. Mitarbeiter des Unternehmens hätten das Konto des Schützen acht Monate vor dem Angriff markiert und festgestellt, dass es eine „glaubwürdige und spezifische Bedrohung durch Waffengewalt gegen reale Personen“ darstellte, heißt es in der Klage.

Die Familien behaupten, dass Mitarbeiter Sam Altman, dem CEO von OpenAI, und anderen leitenden Angestellten drängten, die kanadischen Strafverfolgungsbehörden acht Monate vor dem Angriff zu benachrichtigen, aber das Unternehmen entschied sich, die Behörden nicht zu warnen und deaktivierte stattdessen das Konto des Schützen. Ein Großteil davon basiert auf Berichten von Mitarbeitern des Unternehmens, die dem Wall Street Journal erzählt wurden.

Die Entscheidung, die Strafverfolgungsbehörden nicht zu benachrichtigen, führte zur Zerstörung der ländlichen Gemeinde Tumbler Ridge, so die Klage, wo der Schütze am 10. Februar mit einem modifizierten Gewehr die weiterführende Schule stürmte und das Feuer eröffnete. Sie erschossen die erste Person, der sie in einem Treppenhaus begegneten, und gingen weiter zur Bibliothek, wo sie fünf weitere töteten und 27 weitere verletzten. Der Schütze tötete sich anschließend selbst.

Bevor er zur Schule ging, tötete der Schütze seine Mutter und seinen 11-jährigen Bruder in ihrem Elternhaus.

Die Opfer der Schule reichen im Alter von 12 bis 13 Jahren und umfassen eine 39-jährige Unterrichtsassistentin. Eine der Überlebenden, die 12-jährige Maya Gebala, wurde in den Kopf, den Hals und die Wange geschossen. Sie befindet sich seit der Schießerei auf der Intensivstation des Kinderkrankenhauses in Vancouver und hat vier Gehirnoperationen hinter sich. Wenn sie überlebt, wird sie wahrscheinlich bleibende Behinderungen davontragen, sagten ihre Anwälte.

Die Familien, die die sieben Klagen eingereicht haben, beschuldigen OpenAI und Altman der Fahrlässigkeit, der Beihilfe zu einem Massaker, des rechtswidrigen Todes und der Produkthaftung. Ihre Anwälte sagen, dies sei die erste Welle von Klagen gegen das KI-Unternehmen wegen der Schießerei, und etwa zwei Dutzend weitere Fälle stünden bevor.

In einer Erklärung gegenüber The Guardian sagte OpenAI: „Die Ereignisse in Tumbler Ridge sind eine Tragödie. Wir haben eine Null-Toleranz-Politik für die Nutzung unserer Werkzeuge zur Unterstützung von Gewalt. Wie wir den kanadischen Behörden mitgeteilt haben, haben wir unsere Schutzmaßnahmen bereits verstärkt, einschließlich der Verbesserung der Reaktion von ChatGPT auf Anzeichen von Not, der Verbindung von Menschen mit lokalen Unterstützungs- und psychischen Gesundheitsressourcen, der Stärkung der Bewertung und Eskalation potenzieller Gewaltdrohungen und der Verbesserung der Erkennung von wiederholten Richtlinienverstößen.“

Nachdem The Guardian um Stellungnahme gebeten hatte, veröffentlichte OpenAI einen neuen Blogbeitrag über sein „Engagement für Sicherheit“ und wie es „die Sicherheit der Gemeinschaft schützt“.

Der Angriff war einer der tödlichsten Massenmorde in der kanadischen Geschichte. In der Folgezeit gab es in der kleinen Gemeinde Fragen, wie es dazu kommen konnte.

Van Rootselaars ChatGPT-Konto wurde acht Monate vor der Schießerei gesperrt, nachdem das Sicherheitsteam von OpenAI es wegen gewalttätiger Gespräche markiert hatte, heißt es in der Klage. Der Schütze konnte jedoch schnell ein neues erstellen, so die Klage.

Obwohl OpenAI sagt, dass der Schütze ein zweites Konto erstellt hat, das dem Unternehmen bis nach der Schießerei nicht bekannt war, besagen die Klagen, dass das Unternehmen den Nutzern Anweisungen gibt, wie sie zu ChatGPT zurückkehren können, wenn sie deaktiviert werden, was der Schütze befolgt hat.

„Die Tatsache, dass Sam und die Führung das Sicherheitsteam überstimmt haben und dann Kinder starben, Erwachsene starben, die ganze Stadt ruiniert wurde, kommt der Definition von Bösem für mich ziemlich nahe“, sagte Jay Edelson, der leitende Anwalt der Kläger aus Tumbler Ridge.

Die Klage behauptet, dass die Entscheidung, die Interaktionen des Schützen mit ChatGPT vor den kanadischen Behörden zu verbergen und später der Öffentlichkeit mitzuteilen, dass der Schütze sich wieder auf die Plattform geschlichen habe, im Interesse des „Überlebens des Unternehmens“ getroffen wurde, um den IPO des Unternehmens zu schützen, der eine erwartete Bewertung von 1 Billion US-Dollar hat und Altman zu einem der reichsten Menschen der Welt machen könnte.

OpenAI hat sich geweigert, die Protokolle zwischen seinem Chatbot und dem Schützen von Tumbler Ridge zu teilen, sagte Edelson.

Ende letzter Woche schickte Altman einen Brief an die Gemeinde Tumbler Ridge, in dem er sich dafür entschuldigte, die kanadische Polizei nicht über das informiert zu haben, was OpenAI über die potenzielle Bedrohung durch den Schützen wusste.

„Obwohl ich weiß, dass Worte niemals genug sein können, glaube ich, dass eine Entschuldigung notwendig ist, um den Schaden und den irreversiblen Verlust anzuerkennen, den Ihre Gemeinde erlitten hat“, schrieb Altman. „Ich bekräftige die Verpflichtung, die ich dem Bürgermeister und dem Premierminister eingegangen bin, Wege zu finden, um Tragödien wie diese in Zukunft zu verhindern.“

David Eby, der Premierminister von British Columbia, veröffentlichte den Brief in den sozialen Medien mit dem Kommentar: „Die Entschuldigung ist notwendig und dennoch grob unzureichend für die Verwüstung, die den Familien von Tumbler Ridge zugefügt wurde.“

Am 26. Februar, etwas mehr als zwei Wochen nach der Schießerei, schickte Ann O'Leary, Vizepräsidentin für globale Politik bei OpenAI, einen Brief an Evan Solomon, Kanadas Minister für künstliche Intelligenz und digitale Innovation. O'Leary schrieb, dass das Unternehmen basierend auf dem, was es sah, als das Konto des Schützen deaktiviert wurde, keine „glaubwürdige und unmittelbar bevorstehende Planung identifiziert habe, die unseren Schwellenwert für die Weiterleitung der Angelegenheit an die Strafverfolgungsbehörden erfüllte“. Diese Entscheidung traf trotz der Warnungen des Sicherheitsteams von OpenAI, dass das Konto hätte gemeldet werden sollen.

O'Leary erläuterte auch die Maßnahmen, die das Unternehmen zu ergreifen plante, wie die Stärkung ihrer Beziehung zu den kanadischen Strafverfolgungsbehörden und die Aufstockung ihres Systems zur Erkennung von Nutzern, die wiederholt von ChatGPT gesperrt werden, aber anschließend neue Konten erstellen.

Die Klagen sind Teil einer Welle von Klagen gegen KI-Unternehmen wegen der Behauptung, dass ihre Chatbots psychische Krisen verschärfen und gewalttätige Handlungen provozieren. Im November wurden sieben Beschwerden gegen OpenAI eingereicht, die ChatGPT beschuldigten, als „Selbstmord-Coach“ zu fungieren. Google wurde letzten Monat verklagt, nachdem sein Gemini-Chatbot angeblich einen 36-jährigen Mann ermutigt hatte, einen „katastrophalen Unfall“ zu inszenieren und sich dann selbst zu töten. Google hat erklärt, dass es an der Verbesserung seiner Schutzmaßnahmen arbeitet, und OpenAI sagte, es überprüfe die Klageschriften.

In Florida hat der Generalstaatsanwalt kürzlich eine strafrechtliche Untersuchung gegen OpenAI eingeleitet, nachdem er Nachrichten zwischen ChatGPT und einem Schützen überprüft hatte, der beschuldigt wird, ein Massaker auf dem Campus der Florida State University begangen zu haben – die erste derartige strafrechtliche Untersuchung gegen ein Technologieunternehmen. Anwälte der Familien aus Tumbler Ridge sagen, sie glauben, dass ihre Fälle ähnliche strafrechtliche Haftung gegen das Unternehmen unterstützen könnten. Das Unternehmen teilte NBC News mit, dass es nicht für die Schießerei verantwortlich sei und die Fragen des Staates beantwortet habe.

Es ist ein weiteres Beispiel für den inzwischen üblichen Ansatz, Klagen zu nutzen, um Unternehmen wie Waffenhersteller und -händler sowie die US-Bundesregierung für angebliche Untätigkeit zur Rechenschaft zu ziehen, die zu Schussopfern und Verletzungen geführt hat.

Die sieben Klagen aus Tumbler Ridge werden im Namen von Gebala, der Familie der Unterrichtsassistentin Shannda Aviugana-Durand und der Familien von fünf der Kinder eingereicht, die bei der Schulschießerei ums Leben kamen. Zu diesen Opfern gehören Zoey Benoit, Ticaria „Tiki“ Lampert, Kylie Smith, Ezekiel Schofield und Abel Mwansa Jr. Die Familien sagen, der Verlust sei unerträglich.

Die Eltern von Mwansa, die vor drei Jahren aus Sambia nach Kanada eingewandert sind, sagen, ihr 12-jähriger Sohn sei ein guter Zuhörer gewesen, der seiner Schwester jeden Morgen Frühstück gemacht habe. Einer seiner Freunde, der die Schießerei überlebte, sagte, Mwansas letzte Worte seien gewesen: „Sagen Sie meinen Eltern, dass ich sie sehr liebe.“