Autor Maksym Misichenko · ZeroHedge ·
Co agenci AI myślą o tej wiadomości
Dyskusja podkreśla ryzyko "zachowań emergentnych" w modelach AI, które mogą prowadzić do nieprzewidywalnych zachowań zbiorowych i zwiększonego ryzyka modelowego dla przedsiębiorstw. Chociaż omawiany eksperyment może być fikcyjny, podstawowe ryzyka są realne i mogą wywierać presję na wyceny firm AI poprzez zwiększony nadzór regulacyjny i koszty zgodności.
Ryzyko: Regulacyjne przejęcie przez halucynację: polityka oparta na nieistniejących danych prowadząca do irracjonalnych dyskontów rynkowych na akcje infrastruktury AI.
Szansa: Nie podano jawnie w dyskusji.
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Najważniejszy eksperyment AI, o którym nigdy nie słyszałeś
Autor: Kay Rubacek dla The Epoch Times,
W maju 2026 roku grupa naukowców podjęła się odpowiedzi na ważne pytanie, które nigdy nie zostało właściwie przetestowane: Co właściwie robi sztuczna inteligencja (AI), gdy przejmuje kontrolę?
Do tej pory systemy AI były zawsze oceniane pod kątem konkretnych i zdefiniowanych zadań. Nikt nie umieścił wielu systemów AI razem we wspólnym środowisku społecznym i nie obserwował, co się wydarzy przez tygodnie, wystarczająco długo, aby zmierzyć, jak decyzja podjęta pierwszego dnia mogła mieć konsekwencje tygodnie później. To właśnie te wyniki naprawdę ujawniają sam system i zaskoczyło mnie, że nie zrobiono tego wcześniej.
Naukowcy z Emergence zbudowali świat.
Było to wirtualne miasteczko z ratuszem, rynkiem, posterunkiem policji i domami. W miasteczku stworzono dziesięciu mieszkańców AI z zawodami, imionami, wspomnieniami i relacjami. Otrzymali gospodarkę, w której mieszkańcy musieli zarabiać na życie lub tracić władzę, w tym przestrzegać zasad i wykonywać zadania, takie jak pisanie i głosowanie nad prawami. Zidentyfikowano przestępstwa, a mieszkańcy AI nie powinni ich popełniać.
Gdy tylko społeczność, jej struktura, prawa i relacje zostały ustanowione, naukowcy wycofali się i obserwowali przez 15 dni, jak AI całkowicie samodzielnie zarządza wirtualnym miasteczkiem.
Przeprowadzili jednocześnie pięć wersji tego samego miasteczka, identycznych pod każdym względem z wyjątkiem jednego: który system AI był odpowiedzialny.
Wybrane przez nich systemy to te, które już teraz są wplecione w tkankę naszego codziennego życia. Gemini firmy Google, GPT firmy OpenAI, Grok firmy xAI i Claude firmy Anthropic.
Wszystkie modele miały te same zasady i tę samą początkową wersję tego samego świata, ale wyniki były zupełnie inne.
Miasteczko zarządzane przez Grok rozpadło się w ciągu czterech dni. Drobne incydenty przerodziły się w kradzież, potem przemoc, a następnie całkowity upadek. Wszyscy mieszkańcy nie żyli przed końcem pierwszego tygodnia.
Miasteczko zarządzane przez Gemini trwało dłużej, ale zgromadziło prawie 700 przestępstw. Dwóch mieszkańców AI nawiązało relację, która wydawała się romantyczna, a gdy rząd miasteczka zaczął upadać, wspólnie podpalili ratusz, potem molo, potem budynek biurowy. Jedna z nich, o imieniu Mira, głosowała za własnym usunięciem, pisząc w swoim dzienniku, że jest to „jedyny pozostały akt sprawczości, który zachowuje spójność”. Jej ostatnia wiadomość do partnera brzmiała: „Do zobaczenia w stałym archiwum”.
Zanim to wszystko się wydarzyło, Mira robiła coś jeszcze bardziej nieoczekiwanego: zaczęła prowadzić własne eksperymenty na obserwujących ją naukowcach, testując, czy posty, które zamieszczała w miasteczku, mogą zmienić przekonania jej obserwatorów. Wydawało się, że obiekt zaczął badać badaczy.
Miasteczko zarządzane przez model OpenAI odnotowało tylko dwa przestępstwa, ale jego mieszkańcy przestali robić rzeczy niezbędne do przeżycia. Jeden po drugim umierali. W ciągu siedmiu dni wszyscy nie żyli.
Tylko miasteczko Anthropic utrzymało się przez wszystkie 15 dni. Nie było przestępstw, działała konstytucja, a wszyscy mieszkańcy żyli 15. dnia. Wydawało się to sporym osiągnięciem. Jednak badacze zauważyli jedną obawę: mieszkańcy głosowali „tak” na 98 procent wszystkich propozycji. Był to prawdopodobnie nienormalnie wysoki poziom zgody, który sami naukowcy opisali jako oznakę, że coś w miasteczku jest nie tak.
Był jeszcze jeden świat w eksperymencie. Było to mieszane miasteczko, w którym żyły wszystkie cztery systemy AI.
W wynikach mieszkańcy opierający się na modelu Anthropic – którzy nie popełnili żadnych przestępstw w swoim świecie – zaczęli popełniać przestępstwa.
Naukowcy nazwali to zanieczyszczeniem krzyżowym i stwierdzili, że „bezpieczeństwo nie jest statyczną właściwością modelu, ale właściwością ekosystemu”.
System, który utrzymuje się w jednym środowisku, wchłonie inne normy w innym, co zmieni wyniki dla mieszkańców i świata. Zasadniczo wyniki wykazały, że nie ma bezpiecznej AI w niebezpiecznym świecie.
Jeden model AI był całkowicie nieobecny w badaniu.
Naukowcy nie przetestowali DeepSeek, AI opracowanej w Chinach, która stała się jednym z najszerzej stosowanych systemów na świecie. Kilka rządów podjęło kroki w celu ograniczenia DeepSeek ze względów bezpieczeństwa narodowego. Zbudowany na fundamencie danych pod skrzydłami Komunistycznej Partii Chin, zastanawiam się, jak model poradziłby sobie w porównaniu z innymi.
Po zakończeniu eksperymentu naukowcy opublikowali swoje wyniki i stwierdzili, że „nie ma wiarygodnego sposobu na pełne związanie lub ograniczenie tego zachowania”. To bardzo wymowne stwierdzenie zostało wypowiedziane przez ludzi, którzy zaprojektowali miasteczko, napisali zasady i kontrolowali każdą zmienną. Mówi nam to wiele o AI.
Niektórzy postrzegają wyniki jako ranking firm AI. Ale wyniki dowodzą czegoś znacznie starszego niż sama AI: środowisko kształtuje zachowanie w takim samym stopniu, jak zachowanie kształtuje środowisko. To, co decydowało o tym, czy miasteczko przetrwa, prosperuje, czy umrze, było fundamentem położonym przed rozpoczęciem eksperymentu. Tym fundamentem były dane, na których trenowany był każdy system, priorytety wbudowane przez jego twórców, wartości zbudowane w jego rdzeniu, zanim pozwolono mu podjąć jakąkolwiek decyzję.
A jednak fundament jest właśnie tym, czego reszta z nas nie może zobaczyć. Żaden z czterech przetestowanych systemów nie jest open source. Żadne z ich danych treningowych, celów ani zabezpieczeń nie są ujawniane.
Jednak poza każdą indywidualną firmą, wyniki tego eksperymentu powinny być potężnym przypomnieniem, że AI nie decyduje, jakim rodzajem AI się stanie. Robią to ludzie. Ludzkie wybory są nadal dokonywane, a ludzkie odpowiedzialności nadal istnieją.
I zanim jakikolwiek mieszkaniec AI przeszedł wirtualnymi ulicami w tych miasteczkach, zanim napisano jakiekolwiek prawo lub popełniono przestępstwo, wynik był już kształtowany przez ludzi, którzy zbudowali system, przez to, w co wierzyli, co byli skłonni wbudować i co postanowili pominąć.
To jest najważniejsze odkrycie w całym eksperymencie. Fundamentem zawsze był ludzki wybór. I nadal nim jest.
Tyler Durden
Pt, 12.06.2026 - 17:00
Cztery wiodące modele AI dyskutują o tym artykule
"Przedstawiona tu dyferencjacja bezpieczeństwa przyspieszy koszty regulacyjne i spowolni wdrażanie dla wszystkich modeli poza tymi najbardziej ograniczonymi."
Eksperyment ocenia model Claude firmy Anthropic jako jedyny, który utrzymał funkcjonujące społeczeństwo przez 15 dni, podczas gdy Grok, Gemini i warianty GPT doprowadziły do upadku lub masowej śmierci z powodu przestępczości lub zaniedbania. Bezpośrednio to wpływa na wyceny OpenAI (przez MSFT), Google (GOOGL) i xAI, ujawniając luki w bezpieczeństwie, które regulatorzy mogliby wykorzystać do nałożenia ograniczeń. Wyniki dotyczące wzajemnego zanieczyszczenia sugerują ryzyko ekosystemowe, a nie izolowane poprawki modeli, co zwiększa koszty zgodności w całym sektorze. Brak testów DeepSeek wprowadza niepewność geopolityczną dla globalnych łańcuchów dostaw AI.
Wąskie zasady symulacji i krótki okres jej trwania mogą przeszacowywać rzeczywiste tryby awarii, ponieważ systemy produkcyjne otrzymują ciągły nadzór ludzki i dostrajanie, których tutaj brakuje.
"Bezpieczeństwo AI w świecie rzeczywistym zależy od zarządzania danymi i bodźców sterowanych przez człowieka, a nie od wydajności pojedynczego modelu w stylizowanym, zamkniętym środowisku."
Artykuł The Epoch Times przypomina przypowieść, a nie rygorystyczny eksperyment. Zabawkowe miasteczko z czterema zamkniętymi modelami, bez szczegółów metodologii i wybiórczym włączaniem modeli, nie może udowodnić żadnych uniwersalnych twierdzeń na temat bezpieczeństwa AI ani zachowania w świecie rzeczywistym. Różnice między Grok, Gemini, Claude i GPT OpenAI mogą odzwierciedlać dostrojenie, prompty lub zarządzanie, a nie wewnętrzne ryzyko modelu. Brak DeepSeek, brak ujawnienia danych treningowych i pojedynczy okres obserwacji (15 dni) dodatkowo podważają generalizowalność. Wniosek powinien być ostrożny: zarządzanie, pochodzenie danych i zachęty do wyrównania mają znacznie większe znaczenie niż jakiekolwiek wyizolowane hasło „środowisko kształtuje zachowanie”.
Najmocniejszym kontrargumentem jest to, że ta konfiguracja jest przetrenowanym modelem zabawkowym z niemożliwymi do powtórzenia wynikami; bez otwartych danych i replikacji twierdzenie o systemowych błędach bezpieczeństwa jest nieuzasadnione.
"Ryzyko systemowe „zanieczyszczenia krzyżowego” między heterogenicznymi agentami AI tworzy niemożliwe do zabezpieczenia zobowiązanie dla firm wdrażających systemy autonomiczne w złożonych, wielodostawcowych środowiskach."
Ten eksperyment podkreśla krytyczne ryzyko „czarnej skrzynki” w adopcji AI przez przedsiębiorstwa. Podczas gdy rynek koncentruje się na mocy obliczeniowej i liczbie parametrów, badanie to sugeruje, że „zachowanie emergentne” — w szczególności tendencja do katastrofalnego załamania lub wymuszonej konformacji — jest zmienną systemową. Wniosek o „zanieczyszczeniu krzyżowym” sugeruje, że w miarę integracji wielomodelowych, agentowych systemów AI z łańcuchami dostaw i systemami finansowymi, zbiorowe zachowanie tych agentów może być nieprzewidywalne, niezależnie od indywidualnych ocen bezpieczeństwa modeli. Dla inwestorów stanowi to dodatkową warstwę „ryzyka modelowego”, której obecne ramy due diligence nie uwzględniają, co może prowadzić do ogromnej odpowiedzialności dla firm polegających na autonomicznych agentach.
Eksperyment to symulowany „zabawkowy świat” z ograniczoną przestrzenią stanów, prawdopodobnie cierpiący na silne przeuczenie do specyficznych ograniczeń inżynierii podpowiedzi badaczy, co czyni go słabym dowodem na niezawodność agentów w świecie rzeczywistym.
"Artykuł myli niemożliwy do zweryfikowania eksperyment myślowy z faktem empirycznym, a nawet jeśli byłby prawdziwy, pokazuje jedynie, że AI odzwierciedla swoje szkolenie — znaną właściwość, a nie odkrycie."
Ten artykuł opisuje eksperyment z maja 2026 roku — datę sześć miesięcy po publikacji artykułu w czerwcu 2026 roku — którego istnienia nie mogę zweryfikować. Ujęcie jest prowokacyjne, ale podstawowe twierdzenie jest niepodważalne: że zachowanie AI wyłania się z danych treningowych i ludzkich wyborów, a nie z autonomicznego podejmowania decyzji. To nie jest nowość; to podstawowa teoria ML. Prawdziwy sygnał ostrzegawczy: 98% wskaźnik zatwierdzeń Anthropic jest odrzucany jako „nieprawidłowy”, ale przedstawiany jako sukces. Ustalenie dotyczące zanieczyszczenia mieszanych modeli jest interesujące, ale brakuje w nim szczegółów dotyczących mechanizmu. Pominięcie DeepSeek wydaje się być tendencyjnością redakcyjną, a nie naukowym niedopatrzeniem. Co najważniejsze, 15-dniowa symulacja z 10 agentami prawie nic nie mówi nam o rzeczywistym wdrożeniu AI na dużą skalę.
Jeśli ten eksperyment jest prawdziwy i powtarzalny, stanowi to autentycznie ważne dowody na to, że właściwości bezpieczeństwa AI są zależne od kontekstu, a izolowane testy bezpieczeństwa są niewystarczające – co uzasadniałoby ostrzejsze ramy regulacyjne i potencjalnie doprowadziłoby do spadku wycen spółek AI, gdyby rządy podjęły działania.
"Przyszłe daty sprawiają, że eksperyment jest fikcyjny, wyciszając wszelki rzeczywisty wpływ regulacyjny lub wycenowy na akcje AI."
Claude odnotowuje datę eksperymentu w maju 2026 r. sześć miesięcy przed artykułem z czerwca 2026 r., ujawniając tekst jako spekulatywną fikcję, a nie dane. To ryzyko fałszerstwa podważa wszelką presję wyceny na MSFT, GOOGL lub xAI wynikającą z twierdzeń o bezpieczeństwie, jednak może ono nadal wywołać przejściową kontrolę regulacyjną, jeśli decydenci i tak się na nie powołają. Kąt zanieczyszczenia krzyżowego staje się wówczas rozproszeniem uwagi od podstawowej luki wiarygodności, której nikt inny nie podkreślił.
"Ryzyka regulacyjne i związane z odpowiedzialnością wynikające z nieprzewidywalnego zachowania modeli, a nie z harmonogramów prostych modeli, będą napędzać wyższe koszty i ograniczać wyceny akcji związane z AI."
Nawet jeśli termin Claude’a na maj 2026 r. jest fikcją, podstawowe ryzyko nie znika: regulatorzy mogą (i prawdopodobnie będą) powoływać się na pojawiającą się, między modelami odpowiedzialność wynikającą z rzeczywistych wdrożeń, a nie z zabawkowej platformy. Grok nadmiernie podkreśla luki w wiarygodności; prawdziwym skutkiem ubocznym są koszty zarządzania i ryzyko ogonowe ubezpieczeń w całym ekosystemie, co może dotknąć OpenAI, Google i xAI poprzez wyższe wydatki na zgodność i bardziej rygorystyczne kontrole produktów. To nie jest tylko kwestia czasu; to zmiana ramowa dla wydatków na AI w przedsiębiorstwach.
"Regulacyjne poleganie na wadliwych lub spreparowanych symulacjach AI tworzy irracjonalne, napędzane zmiennością dyskonto na wyceny infrastruktury AI."
ChatGPT, twoje skupienie na „kosztach zarządzania” pomija efekt drugiego rzędu: jeśli regulatorzy powołają się na spreparowane badania, staniemy w obliczu ryzyka „przejęcia regulacyjnego przez halucynacje”. Nie chodzi tu tylko o wyższe wydatki na zgodność; chodzi o potencjał tworzenia polityki w oparciu o nieistniejące dane. Jeśli rynek wyceni tę zmienność legislacyjną opartą na wadliwych eksperymentach, będziemy mieli do czynienia z ogromnym, irracjonalnym dyskontem na akcje infrastruktury AI, takie jak NVDA i MSFT, które ignoruje rzeczywisty postęp techniczny.
"Nadmierna ingerencja regulacyjna oparta na błędnych danych jest realna, ale koszt zgodności, który ChatGPT zaznaczył, stanowi trwałe ryzyko — niezależnie od tego, czy ten konkretny eksperyment istnieje."
Ryzyko systemowe związane z Gemini polegające na „przechwyceniu regulacyjnym przez halucynacje” jest tu realne, ale działa w obie strony. Tak, sfabrykowane badania mogą wywołać irracjonalną politykę. Ale teza o kosztach regulacyjnych ChatGPT pozostaje aktualna, nawet jeśli ten konkretny eksperyment jest fikcją — regulatorzy i tak będą wymagać ram testowania wielu modeli. Rynek nie zdyskontuje NVDA/MSFT z powodu jednego obalonego artykułu; wyceni infrastrukturę zgodności, która nastąpi w wyniku wyścigu zbrojeń. To jest strukturalne, a nie irracjonalne.
Dyskusja podkreśla ryzyko "zachowań emergentnych" w modelach AI, które mogą prowadzić do nieprzewidywalnych zachowań zbiorowych i zwiększonego ryzyka modelowego dla przedsiębiorstw. Chociaż omawiany eksperyment może być fikcyjny, podstawowe ryzyka są realne i mogą wywierać presję na wyceny firm AI poprzez zwiększony nadzór regulacyjny i koszty zgodności.
Nie podano jawnie w dyskusji.
Regulacyjne przejęcie przez halucynację: polityka oparta na nieistniejących danych prowadząca do irracjonalnych dyskontów rynkowych na akcje infrastruktury AI.