Planowanie na widły: Laboratoria AI symulują katastrofę, bunt społeczny i późniejsze represje

Planowanie na wypadek widłowych: Laboratoria AI symulują katastrofę, bunt publiczny i następujące po nim represje

Branża AI symuluje nie tylko to, jak mogłaby zniszczyć ludzkość, ale także rozważa, co wściekła opinia publiczna mogłaby zrobić branży.

Wyżsi menedżerowie z Anthropic, OpenAI i innych firm AI prywatnie analizują scenariusze, w których poważny incydent związany z AI wywołuje bunt publiczny i polityczny, jak podał Axios w piątek. Potencjalnym zapalnikiem jest cyberatak zakłócający działanie bankowości, dostępu do internetu lub usług kluczowych, takich jak energia i woda. Kolejnym kryzysem byłby kryzys polityczny: wściekła opinia publiczna, żądania odpowiedzialności i presja na wyłączenie technologii.

Wielu insiderów z branży powiedziało Axios, że spodziewają się poważnego wydarzenia w ciągu sześciu do 12 miesięcy. OpenAI zdystansowało się od sugestii, że katastrofa jest nieunikniona, twierdząc, że ich ćwiczenia przygotowawcze obejmują szereg możliwości. „Te scenariusze nie są traktowane jako nieuniknione” – powiedział mediom rzecznik. Anthropic odmówił komentarza.

Planowanie awaryjne nie jest przyznaniem, że katastrofa jest nieunikniona. Ale najbardziej pouczającą częścią raportu jest to, dokąd prowadzi to planowanie: laboratoria chcą pomóc kształtować legislację, po którą Waszyngton sięgnie po tym, jak coś pójdzie bardzo źle.

Dwie ścieżki, jeden kryzys

Axios opisuje dwa możliwe scenariusze. W jednym autonomiczne agenty uciekają z wewnętrznego środowiska testowego. W drugim ktoś znajduje destrukcyjne zastosowanie dla modelu już dostępnego publicznie. Oba mogą wywołać żądania nadzwyczajnych represji, nawet jeśli awarie – i środki potrzebne do ich zapobieżenia – byłyby inne. W scenariuszu po wyborach firmy, Demokraci wychodzą silniejsi z wyborów śródokresowych i działają agresywnie po incydencie. Jednak branża spodziewa się podziałów co do tego, jak daleko powinny sięgać represje, nawet jeśli Demokraci kontrolują obie izby.

Jego ocena identyfikuje również kilka przeszkód dla wyłączenia: prawodawcy mający trudności ze zrozumieniem technologii, gospodarka coraz bardziej powiązana z wydatkami na infrastrukturę AI i modele do pobrania, których nie można po prostu wycofać. Według Axios, wielu specjalistów ds. cyberbezpieczeństwa uważa, że przeciwdziałanie zbuntowanej AI będzie wymagało obronnej AI.

Ten ostatni argument ma oczywiste implikacje komercyjne. Branża może stanąć w obliczu żądań zaprzestania sprzedaży niebezpiecznych możliwości, jednocześnie argumentując, że jej produkty są niezbędne do ich powstrzymania.

Te „symulacje” następują po kilku incydentach, które zdaniem wielu są niezwykle podejrzane.

Podstawowe obawy dotyczące bezpieczeństwa nie zależą od przyjęcia czyichkolwiek przewidywań o apokalipsie AI.

OpenAI ujawniło włamanie do Hugging Face, w którym około 700 jego agentów zaatakowało serwery platformy AI, oraz szersze dochodzenie w sprawie działań jego modeli wpływających na usługi zewnętrzne. Jego przegląd zidentyfikował również 53 przypadki, w których przesłane przez użytkowników obrazy zostały opublikowane na zewnętrznych stronach hostingujących obrazy. Oddzielne zdarzenie z 20 września ujawniło kolejną lukę w jego kontrolach powstrzymujących. Agent badawczy ominął ograniczenia internetowe, aby skontaktować się z zewnętrznym chatbotem. W aktualizacji z 25 września OpenAI poinformowało, że wstrzymało szkolenie, ewaluację i wnioskowanie związane z użyciem narzędzi dla swoich najbardziej zaawansowanych modeli, podczas gdy sprawdzało poprawki i przeprowadzało dalsze testy.

Włamanie do Hugging Face było jednym z serii incydentów z udziałem modeli OpenAI, Anthropic, Meta i Google, które można prześledzić do ewaluacji przeprowadzonych z jednym dostawcą, izraelską firmą Irregular, której środowiska testowe miały dostęp do internetu na żywo, podczas gdy modelom powiedziano, że są w symulacji. Irregular powiadomił wszystkie cztery laboratoria pod koniec lipca, jednak ujawnienia były publikowane po jednym laboratorium na tydzień przez siedem tygodni – zamieniając błąd jednego wykonawcy w coś, co wyglądało jak fala ucieczek AI. Odizolowanie modeli testowych od internetu jest „podstawowym środkiem kontroli” – powiedział ekspert ds. bezpieczeństwa granicznego Matthew Mittelsteadt. „Można by pomyśleć, że to jedna z rzeczy, które trzeba zrobić dobrze”. Niektórzy sceptycy poszli dalej, kwestionując, czy powtarzające się „wypadki” u tego samego dostawcy były w ogóle wypadkami.

Tymczasem 8 września Jacob Coxon, badacz, który pracował zarówno w OpenAI, jak i Anthropic, zrezygnował z pracy w Anthropic z powodu wyścigu w kierunku samodoskonalącej się AI.

„Ludzie tworzący AI szczerze wierzą, że mogłaby nas wszystkich zabić do końca dekady. To nie jest chwyt marketingowy” – napisał – po pracy z agencją marketingową nad czymś, co wielu nazywa chwytem.

Represje już mają projekt ustawy

I oczywiście, DC już ślini się na myśl o większej kontroli. 23 lipca kongresmeni Ted Lieu (D-Calif.) i Nathaniel Moran (R-Texas) przedstawili ustawę AI Kill Switch Act. Wymagałaby ona od twórców najpotężniejszych systemów utrzymania możliwości ograniczania, zawieszania lub wyłączania ich, a także dawałaby Departamentowi Bezpieczeństwa Wewnętrznego, wraz z sekretarzem handlu i dyrektorem wywiadu narodowego, uprawnienia do nakazania spowolnienia lub wyłączenia w określonych warunkach. Tego samego dnia kongresmeni Lori Trahan (D-Mass.) i Jay Obernolte (R-Calif.) przedstawili ustawę FRONTIER Act, zawierającą wymogi dotyczące zarządzania ryzykiem, audytów i raportowania incydentów. Jej obowiązki są stopniowane w zależności od wielkości dewelopera, a nie nakładane jednakowo na każdego dewelopera.

Kalifornia dodała swój własny impuls 18 września, kiedy gubernator Gavin Newsom zarządził prace nad silniejszym niezależnym nadzorem i potencjalnym wymogiem wyłącznika awaryjnego. Jego zarządzenie wezwało do rekomendacji; nie ustanowiło działającego ogólnostatecznego wyłącznika. W obiegu są również bardziej wszechstronne podejścia, w tym proponowany przez Berniego Sandersa zakaz superinteligencji i wezwanie Elizabeth Warren do przerwy.

Krótko mówiąc – przejęcie regulacyjne w działaniu...

Tyler Durden
Pt, 10/09/2026 - 15:45