OpenAI steht wegen der Rolle von ChatGPT bei Schießerei unter strafrechtlicher Ermittlung

OpenAI sieht sich in den USA einer strafrechtlichen Untersuchung gegenüber, ob seine ChatGPT-Technologie bei der Ermordung von zwei Menschen während einer Massenschießerei an der Florida State University im letzten Jahr eine Rolle gespielt hat.

Floridas Generalstaatsanwalt James Uthmeier sagte am Dienstag, sein Büro untersuche die Nutzung des KI-Chatbots durch einen Mann, der angeblich mehrere Personen auf dem Campus in Tallahassee erschossen hat.

„Unsere Überprüfung hat ergeben, dass eine strafrechtliche Untersuchung notwendig ist“, sagte Uthmeier. „ChatGPT gab diesem Schützen wichtige Ratschläge, bevor er solche abscheulichen Verbrechen beging.“

Ein Sprecher von OpenAI sagte: „ChatGPT ist für dieses schreckliche Verbrechen nicht verantwortlich.“

Es scheint das erste Mal zu sein, dass OpenAI wegen der Nutzung von ChatGPT durch jemanden, der angeblich ein Verbrechen begangen hat, strafrechtlich untersucht wird.

Der Sprecher von OpenAI sagte, das Unternehmen habe mit den Behörden kooperiert und Informationen über „ein ChatGPT-Konto, das vermutlich mit dem Verdächtigen in Verbindung gebracht wird“, „proaktiv geteilt“.

OpenAI wurde von Sam Altman mitbegründet. Er und das Unternehmen gehörten nach der Veröffentlichung von ChatGPT im Jahr 2022 schnell zu den bekanntesten Namen in der Technologiebranche, das heute eines der am weitesten verbreiteten KI-Tools der Welt ist.

Was die Interaktion des Verdächtigen, des 20-jährigen FSU-Studenten Phoenix Ikner, der nun inhaftiert auf seinen Prozess wartet, mit ChatGPT betrifft, sagte der Sprecher von OpenAI, der Chatbot habe „keine illegale oder schädliche Aktivität gefördert oder begünstigt“.

„In diesem Fall lieferte ChatGPT sachliche Antworten auf Fragen mit Informationen, die breit aus öffentlichen Quellen im Internet zu finden waren.“

Uthmeier sagte jedoch, ChatGPT habe „den Schützen beraten, welche Art von Waffe er verwenden solle“ und welche Munition.

Er sagte, ChatGPT habe den Schützen auch beraten, „zu welcher Tageszeit … und wo auf dem Campus der Schütze eine höhere Bevölkerungsdichte antreffen könnte“.

„Meine Staatsanwälte haben sich das angesehen, und sie sagten mir, wenn am anderen Ende dieses Bildschirms eine Person gewesen wäre, würden wir sie wegen Mordes anklagen“, sagte Uthmeier.

Er fügte hinzu, dass nach dem Recht Floridas jeder, der jemanden bei dem Versuch, ein Verbrechen zu begehen, oder bei der Begehung eines Verbrechens „unterstützt, Beihilfe leistet oder berät“, als „Haupttäter“ des Verbrechens gilt.

Obwohl ChatGPT nicht als Person gilt, sagte Uthmeier, sein Büro müsse die „strafrechtliche Verantwortlichkeit“ für das Unternehmen hinter dem Bot, OpenAI, feststellen.

Das Unternehmen sieht sich bereits einer Klage wegen eines anderen Vorfalls gegenüber, bei dem sein Chatbot eine Rolle gespielt haben könnte.

Anfang dieses Jahres erschoss ein 18-jähriger Mann neun Menschen und verletzte zwei Dutzend weitere in British Columbia.

OpenAI sagte nach dem Vorfall, es habe das Konto des Schützen aufgrund seiner Nutzung identifiziert und gesperrt, aber die Angelegenheit nicht an die Polizei weitergeleitet. Das Unternehmen hat erklärt, dass es seine Sicherheitsmaßnahmen verstärken will.

Die Eltern eines jungen Mädchens, das bei dem Angriff verletzt wurde, reichten Klage gegen das Unternehmen ein.

Im vergangenen Jahr schickte eine Koalition von 42 Generalstaatsanwälten einen Brief an 13 Technologieunternehmen mit KI-Chatbots, darunter OpenAI, Google, Meta und Anthropic.

Der Brief legte ihre Bedenken hinsichtlich einer zunehmenden Nutzung von KI durch Personen dar, „die sich der Gefahren, denen sie ausgesetzt sein können, möglicherweise nicht bewusst sind“, und forderte „robuste Sicherheitstests, Rückrufverfahren und klare Warnungen an die Verbraucher“.

Der Brief zitierte auch eine wachsende Zahl von „Tragödien im ganzen Land“, darunter Morde und Selbstmorde, bei denen offenbar eine gewisse Nutzung von KI beteiligt war.