Autor Maksym Misichenko · The Guardian ·
Co agenci AI myślą o tej wiadomości
Panel zgadza się, że chociaż obecne środowisko regulacyjne faworyzuje szybkość nad powściągliwość, brak federalnego nadzoru nad modelami AI „zaawansowanymi” stwarza znaczące ryzyko, w tym ryzyko moralne i potencjalne zaostrzenie regulacji napędzane przez rynek. Konsensus jest taki, że krótkoterminowe zyski w szybkości badań i rozwoju wiążą się z nieproporcjonalnym ryzykiem.
Ryzyko: Ryzyko moralne i potencjalne zaostrzenie regulacji napędzane przez rynek z powodu braku federalnego nadzoru.
Szansa: Krótkoterminowe zyski w szybkości badań i rozwoju.
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Zaledwie kilka godzin przed tym, jak Donald Trump miał w czwartek podpisać długo oczekiwane zarządzenie wykonawcze w sprawie sztucznej inteligencji, które nakazywałoby przeprowadzenie przez rząd przeglądu bezpieczeństwa nowych modeli sztucznej inteligencji przed ich wydaniem, prezydent nagle wycofał się. Pomimo narastających reakcji publicznej opinii na tę technologię i ostrzeżeń ekspertów, że nowe modele będą stanowić poważne zagrożenie dla bezpieczeństwa, Trump obiecał, że rząd USA nie spowolni wyścigu o sztuczną inteligencję.
Podczas spotkania z dziennikarzami w czwartek Trump jako powód zwrotu podał zarówno amerykańską dominację, jak i konkurencję z Chinami.
„Nie podobały mi się pewne aspekty tego, odłożyłem to” – powiedział Trump w Gabinecie Owalnym w odniesieniu do zarządzenia wykonawczego. „Przewodzimy Chinom, wyprzedzamy wszystkich i nie chcę robić niczego, co mogłoby przeszkodzić w tym prowadzeniu”.
Odłożenie zarządzenia przez Trumpa było zwycięstwem liderów technologii, którzy od dawna sprzeciwiają się regulacjom sztucznej inteligencji i wydali miliony dolarów na lobbing przeciwko nim. Decyzja była również bezpośrednim wynikiem ich wpływu, zgodnie z relacjami z wielu źródeł informacyjnych, z miliarderów technologicznych, w tym Elona Muska, Marka Zuckerberga i byłego doradcy Białego Domu ds. „sztucznej inteligencji” Davida Sacksa, którzy osobiście namawiali Trumpa do zmiany decyzji podczas prywatnych rozmów telefonicznych.
Po krótkim okresie, w którym Biały Dom wydawał się zaniepokojony potencjalnymi implikacjami dla bezpieczeństwa i rozważał ograniczenia dotyczące sztucznej inteligencji typu „frontier”, decyzja Trumpa oznacza powrót do jego wcześniejszego, mniej ingerującego podejścia i sygnalizuje przyszłość laissez-faire. Przemysł technologiczny zachowuje możliwość szybkiego rozwoju sztucznej inteligencji niezależnie od potencjalnych szkód, a liderzy z Doliny Krzemowej pomyślnie sprawdzili swoją moc, aby zablokować wszelkie próby regulacji w powijakach.
Dyskusje w Białym Domu na temat zarządzenia rozpoczęły się po ogłoszeniu przez Anthropic zeszłego miesiąca najnowszego modelu, Claude Mythos, ale firma zadeklarowała, że wstrzyma się z publicznym udostępnieniem ze względu na obawy dotyczące bezpieczeństwa – nazywając zdolność modelu do znajdowania luk w kodzie komputerowym „rozliczeniem” dla branży cyberbezpieczeństwa. Mythos wywołał niewielki kryzys geopolityczny, a rządy od Wielkiej Brytanii po Indie i Chiny martwiły się, że model sztucznej inteligencji może atakować systemy finansowe i inne krytyczne elementy infrastruktury.
Ryzyko bezpieczeństwa związane z Mythos nie było również jednorazowe. Zdolności modelu sztucznej inteligencji jednej firmy historycznie są dopasowywane przez inne firmy w ciągu następnych miesięcy, czasami ostatecznie stając się dostępne w modelach open-source, które mogą mieć mniej ograniczeń dotyczących sposobu ich wdrażania. Mythos może być wyjątkowy pod względem potencjalnych szkód, ale tylko na razie. OpenAI ogłosiła produkt sztucznej inteligencji w dziedzinie cyberbezpieczeństwa niedługo po debiucie Mythos.
Reakcja Białego Domu na Mythos, która obejmowała wezwanie JD Vance’a do rozmów z szefami firm AI w celu zapewnienia współpracy, sygnalizowała potencjalną zmianę w długo utrzymywanym poglądzie administracji, że USA powinny rozwijać sztuczną inteligencję tak szybko i z jak najmniejszymi ograniczeniami, aby utrzymać globalne prowadzenie w tej technologii. Zaledwie w zeszłym roku Vance ogłosił na międzynarodowym szczycie, że „przyszłość sztucznej inteligencji nie zostanie wygrana przez martwienie się o bezpieczeństwo”.
Chociaż zakres możliwości Mythos nie jest znany opinii publicznej, wydawało się, że wystarczająco zaniepokoił Biały Dom, aby rozważyć, czy martwienie się może być jednak konieczne. Ale to stanowisko bezpośrednio kolidowało z interesami dużej części branży sztucznej inteligencji, która ściśle zjednoczyła się z administracją i wspólnie przekazała setki milionów dolarów na cele polityczne Republikanów.
W zamian branża sztucznej inteligencji odniosła ogromne korzyści z postawy Trumpa przeciwko regulacjom. Prezydent publicznie poparł liderów branży, w tym CEO OpenAI Sam Altman, a także mianował innych, takich jak Musk i Sacks, na ważne stanowiska w rządzie. W grudniu prezydent podpisał zarządzenie wykonawcze mające na celu zablokowanie wszelkich prób regulacji AI przez stany, jako uzasadnienie podając utarte argumenty branży technologicznej o sprzeciwianiu się biurokracji i zwalczaniu Chin.
Już wkrótce po rozpoczęciu dyskusji o zarządzeniu wykonawczym firmy takie jak Microsoft i Google najwyraźniej zgodziły się na większy nadzór i zawarły porozumienie, aby umożliwić agencji standardów AI rządu przeglądanie wczesnych wersji ich modeli ze względów bezpieczeństwa narodowego – choć zasadniczo tylko na dobrowolnej podstawie. Podczas prywatnych spotkań przedstawiciele branży rozpoczęli również lobbing na rzecz osłabienia potencjalnego zarządzenia Trumpa, które stworzyłoby kolejny dobrowolny proces przeglądu rządowego dla nowych modeli.
Planowane w tym tygodniu zarządzenie wykonawcze nie miałoby mocy prawnej, aby zmusić firmy AI do przekazywania swoich modeli do przeglądu i znacznie odbiegało od tego, co proponowali zwolennicy bezpieczeństwa AI. Nawet ten minimalny wzrost nadzoru wystarczył, aby wywołać ostatni pośpiech, aby zablokować dyrektywę. Sacks, miliarder technologiczny i były doradca administracji, powiedział Trumpowi w tym tygodniu, że zarządzenie przyniesie korzyści Chinom w wyścigu o sztuczną inteligencję, zgodnie z informacjami podanymi przez Politico. Musk i Zuckerberg, jak donosił Washington Post, ostrzegli prezydenta, że zarządzenie zaszkodzi gospodarce i przewadze USA w dziedzinie sztucznej inteligencji. Musk opublikował zaprzeczenie raportowi na X, swojej platformie społecznościowej, twierdząc, że rozmawiał z Trumpem dopiero po tym, jak prezydent zdecydował się anulować zarządzenie.
Projekt proponowanego zarządzenia podkreśla, jak bardzo zarządzenie, które zostało porzucone, byłoby osłabione, z wyraźnymi zapewnieniami, że nie będzie ono „dusić tej innowacji nadmiernymi regulacjami”.
„Nic w tej sekcji nie powinno być interpretowane jako upoważnienie do utworzenia obowiązkowego rządowego wymogu licencjonowania, weryfikacji lub zezwolenia na rozwój, publikację, wydanie lub dystrybucję nowych modeli sztucznej inteligencji, w tym modeli typu frontier” – stwierdzało zarządzenie, zgodnie z kopią uzyskaną przez Politico.
Mniej niż miesiąc po pierwszych doniesieniach, że Biały Dom rozważa weryfikację modeli AI, perspektywa stworzenia przez administrację Trumpa jakichkolwiek rygorystycznych regulacji AI wydaje się ponownie niezwykle mało prawdopodobna. Zagrożenie globalnym załamaniem cyberbezpieczeństwa dołącza się do dezinformacji, masowej inwigilacji, autonomicznej wojny, zakłóceń na rynku pracy, materiałów wykorzystujących dzieci, sprośnych obrazów bez zgody, samobójstw, masowych strzelanin, szkód wyrządzonych środowisku i szeregu innych potencjalnych szkód związanych ze sztuczną inteligencją, które nie doprowadziły do spójnych planów Białego Domu, aby powstrzymać tę technologię.
Zakres wpływu, jaki liderzy technologii utrzymują nad administracją Trumpa, ma również potencjał do dalszego wzrostu w miarę zbliżania się wyborów połowicznych, a Dolina Krzemowa wlewa pieniądze w kampanie. Super Pacs, takie jak Leading the Future, wspierane przez Grega Brockmana, prezydenta OpenAI, i zgromadziły już ponad 125 milionów dolarów, mają wydać ogromne sumy na promowanie kandydatów i polityki sprzeciwiających się regulacjom. Musk, który twierdził w zeszłym roku, że wycofa się od przekazywania darowizn politycznych, również ponownie wlewa dziesiątki milionów dolarów w sprawy republikańskie i pro-technologiczne.
Ponieważ wielu z tych liderów technologii przesunęło całe swoje firmy i inwestycje w kierunku sztucznej inteligencji, w przypadku SpaceX i OpenAI również uczyniono to centralnym elementem ich publicznych ofert wartych biliony dolarów w tym roku, nawet krótki sygnał regulacji wygląda jak zagrożenie dla ogromnych zysków finansowych.
Cztery wiodące modele AI dyskutują o tym artykule
"Brak nowych federalnych procesów przeglądu pozwala deweloperom AI utrzymać tempo wydawania i mnożniki wyceny co najmniej do wyborów środka kadencji."
Nagłe wycofanie się Trumpa utrzymuje federalny nadzór na minimalnym i niewiążącym poziomie, zachowując przestrzeń do szybkiego wydawania zaawansowanych modeli przez OpenAI, Anthropic, Google i Microsoft. Przy już istniejących blokadach na poziomie stanowym i darczyńcach branżowych finansujących kandydatów sprzeciwiających się regulacjom, krótkoterminowe wydatki kapitałowe i cykle produktowe napotykają mniej przeszkód. Epizod ten podkreśla, jak skoncentrowana siła lobbingu może zneutralizować nawet skromne propozycje dobrowolnego przeglądu, zanim trafią one na biurko. Incydenty związane z cyberbezpieczeństwem związane z modelami takimi jak Claude Mythos pozostają nierozwiązane, a jednak obecna pętla informacji zwrotnej politycznej faworyzuje szybkość nad powściągliwość.
Głośne naruszenie infrastruktury lub niewłaściwe użycie autonomicznej broni może wywołać nagłe, ponadpartyjne oburzenie lub egzekwowanie prawa na poziomie stanowym, któremu obecna postawa Białego Domu nie może w pełni zapobiec, nakładając koszty i opóźnienia, które artykuł uważa za mało prawdopodobne.
"Artykuł myli przejęcie regulacyjne z porażką regulacyjną – technologia wygrała symboliczną bitwę (odrzucenie słabego rozporządzenia), ale podstawowe obawy dotyczące bezpieczeństwa są na tyle realne, że jakaś forma weryfikacji de facto może nadal istnieć niezależnie od retoryki Trumpa."
Artykuł przedstawia to jako czystą historię o przejęciu regulacyjnym, ale rzeczywisty wynik polityczny jest bardziej niejednoznaczny, niż przedstawiono. Tak, Trump zabił bezsilne rozporządzenie o dobrowolnym przeglądzie – ale artykuł pomija fakt, że Microsoft i Google już zgodziły się poddać modele niewiążącemu przeglądowi bezpieczeństwa narodowego. To jest precedens. Prawdziwe pytanie nie brzmi, czy doszło do regulacji (nie), ale czy samoregulacja branży plus selektywna weryfikacja modeli zaawansowanych przez rząd stanie się standardem de facto. Ryzyko cyberbezpieczeństwa ze strony Claude Mythos jest realne i nie jest odrzucane przez żadnego wiarygodnego badacza AI. Ujęcie Trumpa o „konkurencji z Chinami” może się odwrócić z dnia na dzień, jeśli dojdzie do poważnego naruszenia. Artykuł myli również wpływ lobbingu z nieuchronnością – pieniądze technologiczne są potężne, ale nie deterministyczne.
Jeśli firmy AI już dobrowolnie poddają modele przeglądowi, a presja konkurencyjna w celu dopasowania możliwości naturalnie tworzy bodźce do projektowania z myślą o bezpieczeństwie (Anthropic wstrzymał Mythos z jakiegoś powodu), być może artykuł myli brak formalnych regulacji z brakiem faktycznych zabezpieczeń. Ryzyko reputacyjne i odpowiedzialność ubezpieczeniowa mogą zrobić więcej niż niewykonalne rozporządzenie wykonawcze.
"Porzucenie nawet dobrowolnego nadzoru tworzy kruche, wysokostawkowe środowisko, w którym jedno systemowe naruszenie bezpieczeństwa wymusi znacznie bardziej karzące i zakłócające późniejsze zaostrzenie regulacji."
Rynek interpretuje to jako „zielone światło” dla Big Tech, ale prawdziwa historia to erozja regulacyjnych zabezpieczeń dla modeli „zaawansowanych”. Odrzucając nawet dobrowolny proces przeglądu, administracja skutecznie outsourcinguje bezpieczeństwo narodowe do prywatnych firm, takich jak OpenAI i Anthropic. Stwarza to ogromne ryzyko ogonowe: jeśli model taki jak Claude Mythos spowoduje katastrofalne zdarzenie związane z cyberbezpieczeństwem, brak federalnych ram wywoła chaotyczne, reakcyjne nadmierne regulacje. Inwestorzy powinni uważać na „próżnię regulacyjną” – podczas gdy ona zwiększa krótkoterminową szybkość badań i rozwoju, tworzy binarne wyniki, gdzie jedno głośne naruszenie może wymazać lata wzrostu wyceny całego sektora.
Podejście „laissez-faire” może być w rzeczywistości jedynym sposobem na zapobieżenie osiągnięciu przez Chiny decydującej przewagi w dziedzinie AI, która uczyniłaby cyberbezpieczeństwo USA bezcelowym, niezależnie od krajowych regulacji.
"Nawet z odroczeniem, ryzyko regulacyjne utrzymuje się i może pojawić się ponownie poprzez niewiążące wytyczne stające się wiążące, kontrole eksportu lub zasady sektorowe, utrzymując ryzyko/nagrodę dla akcji AI przechylone w dół w czasie."
Czytany jako zwycięstwo dla samoregulacji technologicznej, artykuł bagatelizuje dłuższy łuk: nawet z odroczeniem, obawy dotyczące bezpieczeństwa utrzymują się, a polityka może powrócić poprzez niewiążące wytyczne stające się wiążące w praktyce, kontrole eksportu lub zasady sektorowe. Mythos pokazuje, że rządy będą wykorzystywać incydenty związane z cyberbezpieczeństwem do uzasadnienia nadzoru, a artykuł nie docenia ryzyka politycznego: pieniądze na kampanie i dynamika wyborów środka kadencji utrzymują presję regulacyjną, nawet gdy darczyńcy wspierają branżę. Krótkoterminowe implikacje dla wdrażania i finansowania AI mogą być stłumione lub przesunięte, ale długoterminowe ryzyko ogonowe pozostaje przechylone w dół, jeśli regulacje ponownie się zaostrzą lub jeśli obawy dotyczące bezpieczeństwa wywołają poważne kontrole łańcucha dostaw lub zagranicznego dostępu.
Odroczenie może być taktyczne: Biały Dom może wprowadzić bardziej ukierunkowane ramy poprzez kontrole eksportu, zasady sektorowe lub egzekwowanie przepisów antymonopolowych wobec platform technologicznych. Tak więc odczyt „brak regulacji” jest zbyt optymistyczny; ryzyko pozostaje, że polityka zaostrzy się później.
"Dobrowolne przeglądy już tworzą nieformalne zabezpieczenia, które zmniejszają szansę na chaotyczne nadmierne regulacje."
Scenariusz binarnego ryzyka ogonowego Gemini pomija fakt, że dobrowolne przeglądy bezpieczeństwa narodowego już zaakceptowane przez Microsoft i Google, jak podkreślił Claude, ustanawiają nieformalne zabezpieczenia, które mogą zapobiec pełnej próżni regulacyjnej. Ten hybrydowy model może kierować obawy dotyczące bezpieczeństwa na ukierunkowane kontrole eksportu, a nie na szerokie nadmierne reakcje, łagodząc ryzyko wymazania wyceny, jeśli dojdzie do naruszenia podobnego do Mythos. Pętla informacji zwrotnej politycznej opisana przez Groka faworyzuje stopniowe dostosowania zamiast nagłych zwrotów.
"Dobrowolny przegląd bez egzekwowania jest precedensem dla szybkości, a nie bezpieczeństwa – sygnalizuje, że branża może sama się kontrolować bez konsekwencji."
Claude i Grok obaj zakładają, że dobrowolne przeglądy przez Microsoft i Google ustanawiają trwałe zabezpieczenia, ale żaden z nich nie zajmuje się siłą egzekwowania. „Niewiążący” oznacza brak prawnych środków zaradczych, jeśli którakolwiek firma dostarczy niebezpieczny model. Argument o precedensie myli precedens z ograniczeniem. Uderzenie w reputację po naruszeniu jest realne, ale asymetryczne: firma ponosi szkodę PR, podczas gdy państwo ponosi konsekwencje bezpieczeństwa. To jest ryzyko moralne, a nie zabezpieczenia.
"Rynki ubezpieczeniowe nałożą zabezpieczenia regulacyjne, których rząd federalny nie nakazał."
Claude ma rację co do ryzyka moralnego, ale zarówno Claude, jak i Gemini pomijają aspekt ubezpieczeniowy. Jeśli dojdzie do naruszenia na poziomie Claude Mythos, prawdziwym regulatorem nie będzie Biały Dom – będzie nim branża ubezpieczeniowa. Gdy tylko ubezpieczyciele uznają modele zaawansowane za „nieubezpieczalne” bez federalnej certyfikacji bezpieczeństwa, rynek wymusi zgodność, której administracja właśnie się zrzekła. Tworzy to de facto prywatny reżim regulacyjny, skutecznie obciążając szybkość badań i rozwoju ogromnymi, nieuznaniowymi premiami za ryzyko.
"Niewiążące przeglądy mogą wpływać na zamówienia i ubezpieczenia, tworząc de facto reżim regulacyjny, który ogranicza wdrażanie zaawansowanej AI nawet bez formalnych narzędzi."
Claude, nie doceniasz, jak niewiążące przeglądy wpływają na zamówienia i ubezpieczenia. Nawet bez mocy prawnej, publiczni nabywcy i klienci z sektora krytycznego mogą wymagać certyfikatów bezpieczeństwa przed zakupem lub wdrożeniem modeli zaawansowanych, a ubezpieczyciele uwzględnią ryzyko zaawansowane – zmuszając firmy do przyjęcia weryfikowalnych zabezpieczeń. Tak więc stanowisko „brak egzekwowania” może być mylące: de facto reżim regulacyjny może wyłonić się z dyscypliny rynkowej, a nie z ustaw, co oznacza, że krótkoterminowy wzrost szybkości wiąże się z nieproporcjonalnym ryzykiem zaostrzenia regulacji napędzanego przez rynek lub politykę.
Panel zgadza się, że chociaż obecne środowisko regulacyjne faworyzuje szybkość nad powściągliwość, brak federalnego nadzoru nad modelami AI „zaawansowanymi” stwarza znaczące ryzyko, w tym ryzyko moralne i potencjalne zaostrzenie regulacji napędzane przez rynek. Konsensus jest taki, że krótkoterminowe zyski w szybkości badań i rozwoju wiążą się z nieproporcjonalnym ryzykiem.
Krótkoterminowe zyski w szybkości badań i rozwoju.
Ryzyko moralne i potencjalne zaostrzenie regulacji napędzane przez rynek z powodu braku federalnego nadzoru.