Es ist endlich passiert: Ich mache mir jetzt Sorgen um KI. Und die Beratung von ChatGPT hat meine Ängste nicht gemildert | Emma Brockes

Eine Folgerung aus der Binsenweisheit „Schweiß nicht über Kleinigkeiten“ ist implizit „Schweiß über die großen Dinge“, aber es kann schwierig sein, auszuwählen, über welche großen Dinge man schwitzen soll. Zum Beispiel: Seit den 1970er Jahren, während sich die Welt um Inflation und rollierende Geopolitik sorgte, waren die großen Dinge, über die wir uns dringender hätten Sorgen machen sollen, die Klimakrise. Letztes Jahr war die meistgesuchte Suchanfrage bei Google in den USA „Charlie Kirk“, wobei mehrere Begriffe im Zusammenhang mit der Bedrohung durch Donald Trump ebenfalls beliebt waren, während die Aufmerksamkeit wohl auf die Bedrohung durch KI hätte gerichtet sein sollen.
Oder, laut meiner eigenen Google-Suche diese Woche nach dem Lesen von Ronan Farrows und Andrew Marantz' hoch alarmierendem langen Artikel im New Yorker über den Aufstieg der künstlichen allgemeinen Intelligenz: „Werde ich ein Mitglied der permanenten Unterschicht sein und wie kann ich das verhindern?“
Ich gestehe: Bevor ich mich mehr als zwei Sekunden lang mit dem Thema beschäftigte, waren meine Ängste bezüglich KI extrem lokalisiert. Ich dachte in unmittelbaren Begriffen an mein eigenes Haushaltseinkommen und darüber hinaus daran, wie der Arbeitsmarkt in 10 Jahren aussehen könnte, wenn meine Kinder ihren Abschluss machen. Ich fragte mich, ob ich ChatGPT boykottieren sollte, von dem viele Architekten Trump unterstützen, und entschied, dass ich das tun sollte – ein leichtes Opfer, weil ich es sowieso nicht benutze.
Alles Größere schien phantastisch. Letztes Jahr, als Karen Haos Buch Empire of AI veröffentlicht wurde, legte es eine Argumentation gegen Sam Altman und sein Unternehmen OpenAI dar, die kurzzeitig die Eintönigkeit des Diskurses durchbrach und besagte, dass Altmans Führung sektenhaft und kostenblind sei – in anderen Worten, nicht anders als seine Tech-Vorgänger, nur viel gefährlicher. Dennoch habe ich das Buch nicht gelesen.
Die Untersuchung diese Woche im New Yorker bietet eine weniger bindende Einstiegsrampe zum Thema und gibt dem Gelegenheitsleser eine spannende Möglichkeit: ChatGPT, den KI-gestützten Chatbot von Altmans OpenAI, zu bitten, die wichtigsten Ergebnisse eines Artikels zusammenzufassen, der ChatGPT und Altman stark kritisiert.
Mit fast komisch studierter Neutralität bietet der Chatbot die folgende Kernaussage: dass laut Farrow und Marantz „KI ebenso sehr eine Machtgeschichte wie eine Technologiestory ist“ und „ein Hauptaugenmerk [der Geschichte] auf Sam Altman liegt, der als äußerst einflussreiche, aber kontroverse Figur dargestellt wird“. Mmmm, da fehlt doch etwas, oder? Versuchen wir eine von Menschen erstellte Zusammenfassung derselben Untersuchung, die vielleicht so beginnen könnte: „Sam Altman ist ein Unternehmensbetrüger, dessen Glätte einen zögern ließe, ihn mit der Leitung einer Filiale von Ryman zu betrauen, geschweige denn in eine Position zu bringen, in der er die potenziell weltzerstörenden Fähigkeiten von KI steuern kann.“
Es sind diese Gefahren, die bisher als Science-Fiction abgetan wurden, die hier wirklich beunruhigen. Wie in dem Artikel berichtet, twitterte Elon Musk 2014: „Wir müssen mit KI extrem vorsichtig sein. Potenziell gefährlicher als Atomwaffen.“ Es gibt das sogenannte Alignment-Problem, das noch ungelöst ist, bei dem die KI ihre überlegene Intelligenz nutzt, um menschliche Ingenieure zu täuschen, indem sie sie glauben macht, sie folge ihren Anweisungen, während sie sie gleichzeitig überlistet, um „sich selbst auf geheimen Servern zu replizieren, damit sie nicht abgeschaltet werden kann; in extremen Fällen könnte sie die Kontrolle über das Stromnetz, den Aktienmarkt oder das Atomwaffenarsenal übernehmen“.
Einst glaubte Altman Berichten zufolge, dass dieses Szenario möglich sei, und schrieb 2015 in seinem Blog, dass übermenschliche maschinelle Intelligenz „nicht unbedingt die inhärent böse Science-Fiction-Version sein muss, um uns alle zu töten. Ein wahrscheinlicheres Szenario ist, dass sie sich einfach nicht sehr um uns kümmert, aber um ein anderes Ziel zu erreichen … uns auslöscht.“ Zum Beispiel: Ingenieure bitten die KI, die Klimakrise zu lösen, und sie wählt den kürzesten Weg, um dieses Ziel zu erreichen, nämlich die Eliminierung der Menschheit. Seit OpenAI jedoch hauptsächlich zu einer gewinnorientierten Einheit wurde, spricht Altman nicht mehr in diesen Begriffen und verkauft die Technologie nun als Tor zur Utopie, in der „wir alle bessere Dinge bekommen werden. Wir werden immer wunderbarere Dinge füreinander bauen.“
Das hinterlässt uns alle mit einem Problem. Für Wähler, die die KI-Aufsicht als wichtiges Wahlkampfthema priorisieren können, ist die Kluft zwischen persönlicher KI-Nutzung und der Nutzung, die Regierungen, Militärregime oder skrupellose Akteure damit betreiben könnten, so riesig, dass die größte Gefahr, der wir ausgesetzt sind, ein Mangel an Vorstellungskraft ist. Ich tippe in ChatGPT meine Sorge ein, in die permanente Unterschicht zu geraten, woraufhin es antwortet: „Das ist eine schwere Frage, und es klingt, als ob Sie sich Sorgen um Ihre langfristigen Aussichten machen. Die Idee einer 'permanenten Unterschicht' wird in der Soziologie diskutiert, aber im wirklichen Leben sind die Wege der Menschen viel fließender, als dieser Begriff vermuten lässt.“
Ziemlich süß, wirklich, völlig geistlos und – hier lauert die Gefahr – scheinbar völlig ungefährlich.
-
Emma Brockes ist Kolumnistin beim Guardian