Wreszcie się stało: zaczynam się martwić o AI. A konsultacja z ChatGPT nic nie zrobiła, by rozwiać moje obawy | Emma Brockes

Korelatem truizmu „nie przejmuj się drobiazgami” jest domyślnie „przejmuj się ważnymi sprawami”, ale trudno wybrać, którymi ważnymi sprawami należy się przejmować. Na przykład: od lat 70. XX wieku, podczas gdy świat martwił się inflacją i bieżącymi wydarzeniami geopolitycznymi, ważną sprawą, którą powinniśmy byli się pilniej martwić, był kryzys klimatyczny. W zeszłym roku najczęściej wyszukiwanym hasłem w Google w USA było „Charlie Kirk”, a kilka terminów związanych z zagrożeniem ze strony Donalda Trumpa również było popularnych, podczas gdy uwaga powinna była być skierowana na zagrożenie ze strony AI.
Albo, według moich własnych poszukiwań w Google w tym tygodniu, po przeczytaniu bardzo alarmującego, długiego artykułu Ronana Farrowa i Andrew Marantza w New Yorkerze o rozwoju ogólnej sztucznej inteligencji: „Czy będę członkiem stałej klasy niższej i jak mogę temu zapobiec?”
Przyznam się: zanim poświęciłem temu tematowi więcej niż dwie sekundy uwagi, moje obawy dotyczące AI były niezwykle ograniczone. Myślałem w kategoriach mojego własnego dochodu gospodarstwa domowego, a poza tym, jak może wyglądać rynek pracy za 10 lat, kiedy moje dzieci ukończą studia. Zastanawiałem się, czy powinnam bojkotować ChatGPT, z których wielu architektów popiera Trumpa, i zdecydowałem, że tak, powinnam – łatwe poświęcenie, ponieważ i tak z niego nie korzystam.
Cokolwiek większego wydawało się fantastyczne. W zeszłym roku, kiedy ukazała się książka Karen Hao „Empire of AI”, przedstawiono argument przeciwko Samowi Altmanowi i jego firmie, OpenAI, który na chwilę przebił się przez nudę dyskusji, mówiąc, że przywództwo Altmana jest kultowe i ślepe na koszty – innymi słowy, nie różni się od jego poprzedników w branży technologicznej, tylko jest znacznie bardziej niebezpieczne. Mimo to nie przeczytałam książki.
Śledztwo w tym tygodniu w New Yorkerze oferuje łatwiejszy dostęp do tematu, jednocześnie dając zwykłemu czytelnikowi ekscytującą możliwość: poproszenia ChatGPT, chatbota opartego na AI stworzonego przez OpenAI Altmana, o podsumowanie kluczowych wniosków z artykułu, który jest bardzo krytyczny wobec ChatGPT i Altmana.
Z niemal komicznie staranną neutralnością, chatbot oferuje następujące główne wnioski: że według Farrowa i Marantza, „AI jest w równym stopniu opowieścią o władzy, co o technologii”, a „głównym punktem skupienia [opowieści] jest Sam Altman, przedstawiany jako niezwykle wpływowa, ale kontrowersyjna postać”. Mmmm, czegoś brakuje, prawda? Spróbujmy ludzkiego podsumowania tego samego śledztwa, które mogłoby zacząć się od: „Sam Altman to korporacyjny oszust, którego przebiegłość sprawiłaby, że wahałbyś się powierzyć mu kierownictwo oddziału Ryman, nie mówiąc już o powierzeniu mu nadzoru nad potencjalnie kończącymi świat możliwościami AI”.
To właśnie te niebezpieczeństwa, wcześniej odrzucane jako science-fiction, naprawdę zaskakują. Jak relacjonowano w artykule, w 2014 roku Elon Musk napisał na Twitterze: „Musimy być bardzo ostrożni z AI. Potencjalnie bardziej niebezpieczne niż bomby atomowe”. Istnieje tak zwany problem z dopasowaniem, jeszcze nierozwiązany, w którym AI wykorzystuje swoją wyższą inteligencję, aby oszukać ludzkich inżynierów, przekonując ich, że postępuje zgodnie z ich instrukcjami, jednocześnie przechytrzając ich, aby „replikowała się na tajnych serwerach, tak aby nie można jej było wyłączyć; w skrajnych przypadkach mogłaby przejąć kontrolę nad siecią energetyczną, rynkiem akcji lub arsenałem nuklearnym”.
Kiedyś Altman podobno wierzył, że ten scenariusz jest możliwy, pisząc na swoim blogu w 2015 roku, że nadludzka inteligencja maszynowa „nie musi być inherentnie złowrogą wersją science-fiction, aby nas wszystkich zabić. Bardziej prawdopodobny scenariusz jest taki, że po prostu nie będzie się nami zbytnio przejmować, ale w celu osiągnięcia jakiegoś innego celu… wyeliminuje nas”. Na przykład: inżynierowie proszą AI o rozwiązanie kryzysu klimatycznego, a ona wybiera najkrótszą drogę do osiągnięcia tego celu, czyli eliminację ludzkości. Od kiedy OpenAI stało się głównie podmiotem nastawionym na zysk, Altman przestał mówić w tych kategoriach i teraz sprzedaje technologię jako portal do utopii, w której „wszyscy dostaniemy lepsze rzeczy. Będziemy budować dla siebie coraz wspanialsze rzeczy”.
To stawia nas wszystkich przed problemem. Dla wyborców, którzy mogą priorytetowo traktować nadzór nad AI jako kluczową kwestię wyborczą, luka między osobistym wykorzystaniem AI a sposobem, w jaki rządy, reżimy wojskowe lub nieuczciwi aktorzy mogą ją wykorzystać, jest tak ogromna, że największym zagrożeniem, przed jakim stoimy, jest brak wyobraźni. Wpisuję do ChatGPT moje obawy dotyczące wejścia do stałej klasy niższej, na co odpowiada: „To ciężkie pytanie i brzmi, jakbyś martwił się o swoje długoterminowe perspektywy. Idea „stałej klasy niższej” jest omawiana w socjologii, ale w rzeczywistości ścieżki ludzi są znacznie bardziej płynne, niż sugeruje ten termin”.
Całkiem słodkie, naprawdę, całkowicie bezmyślne i – tu czai się niebezpieczeństwo – pozornie całkowicie niegroźne.
-
Emma Brockes jest felietonistką The Guardian