Zaawansowana sztuczna inteligencja zagraża globalnej stabilności finansowej, ostrzega szef Banku Anglii

“Centralizacja infrastruktury AI nowej generacji tworzy systemową kruchość, której obecne wyceny rynkowe nie uwzględniają jako potencjalnego katalizatora szoku płynnościowego.”

Ostrzeżenie Andrew Bailey’ego podkreśla krytyczne „ryzyko koncentracji” w sektorze finansowym. Opierając się na garstce dostawców chmury – AWS, Azure i Google Cloud – dla zaawansowanej AI, globalny system finansowy stworzył pojedynczy punkt awarii. Jeśli cyberatak napędzany przez AI wykorzysta te wspólne infrastruktury, zakażenie będzie natychmiastowe. Chociaż rynek obecnie wycenia AI jako czynnik zwiększający produktywność, ignoruje systemową kruchość tych zależności. W zasadzie budujemy globalną sieć finansową na nieudowodnionej, autonomicznej warstwie oprogramowania. To nie tylko kwestia ryzyka cybernetycznego; chodzi o potencjalną pułapkę płynności, jeśli zautomatyzowane algorytmy handlowe zareagują na wspólny szok wywołany przez AI.

“Prawdziwym ryzykiem nie jest zbuntowana sztuczna inteligencja atakująca giełdy – jest nim to, że koncentracja aktywów napędzana przez AI + istniejące dźwignie finansowe tworzą kruchy system, w którym każdy wstrząs (rozczarowanie AI, wydarzenie geopolityczne, niespodzianka w stopach procentowych) wyzwala zsynchronizowane wezwania do uzupełnienia depozytu zabezpieczającego na niepłynnych pozycjach.”

List Baileya myli dwa odrębne ryzyka, które zasługują na oddzielną analizę. Zagrożenie cyberatakami na infrastrukturę finansową jest realne, ale w dużej mierze spekulatywne – żaden zademonstrowany atak z wykorzystaniem AI nie zdestabilizował jeszcze rynków. Bardziej konkretne jest jego drugie zmartwienie: podwyższone zadłużenie + skoncentrowane wyceny + euforia napędzana przez AI tworzą kruchą strukturę podatną na „duże wstrząsy”. Czas ma znaczenie. W zasadzie ostrzega, że jeśli szum wokół AI osłabnie lub nastąpi wstrząs geopolityczny, wezwania do uzupełnienia depozytu zabezpieczającego kaskadowo przejdą przez skoncentrowane pozycje szybciej, niż organy regulacyjne będą w stanie zareagować. To nie jest sianie paniki; to strukturalna słabość. Jednak artykuł myli ryzyka związane z autonomią AI na granicy rozwoju (w dużej mierze teoretyczne) z faktyczną kruchością finansową (mierzalną dzisiaj).

“Bezpośrednie zagrożenie ze strony Frontier AI dla stabilności finansowej jest przeceniane; istotne ryzyka to tradycyjne zagrożenia cybernetyczne, płynnościowe i dźwigniowe, a nie przełomowe osiągnięcia Frontier AI.”

Ostrzeżenie Bailey'ego podkreśla prawdopodobne ryzyka skrajne ze strony zaawansowanej sztucznej inteligencji (AI) oraz zwiększoną ekspozycję na cyberzagrożenia z powodu outsourcingu i koncentracji dostawców. Jednak sposób ujęcia tematu w artykule może przeceniać pilność: „zaawansowana” AI jest słabo zdefiniowana, a nam brakuje empirycznych dowodów na to, że autonomiczna AI znacząco zmieni ryzyko cybernetyczne w skali całego systemu w najbliższym czasie. Prawdziwym niedopatrzeniem jest kontekst: regulatorzy już wzmacniają ład korporacyjny w zakresie cyberbezpieczeństwa, a infrastruktura rynkowa jest zdywersyfikowana między wielu dostawców usług. Większymi czynnikami wywołującymi wstrząsy w najbliższym czasie pozostają dźwignia finansowa, napięcia płynnościowe i szoki makroekonomiczne, a nie nieudowodnione możliwości zaawansowanej AI. Należy spodziewać się, że dyskusje polityczne wyprzedzą praktyczne zarządzanie ryzykiem w nadchodzących miesiącach.

“Bailey sygnalizuje prawdopodobne ryzyka związane z cyberatakami i dźwignią finansową wzmocnione przez AI, ale list nie dostarcza dowodów na to, że te zagrożenia są krótkoterminowe lub niemożliwe do opanowania w ramach istniejących protokołów.”

List szefa FSB, Baileya, podkreśla zdolność granicznych modeli AI do skalowania cyberataków w skoncentrowanych dostawcach zewnętrznych, co potencjalnie może wywołać utratę zaufania w całym systemie, podczas gdy dźwignia napędzana przez AI na rynkach akcji i obligacji może powiększyć każdą korektę. W artykule nie doceniono tego, że obecne finansowe zabezpieczenia cybernetyczne i istniejące reżimy testów warunków skrajnych już celują w podobne ryzyka skrajne, a żaden zweryfikowany incydent z wykorzystaniem granicznych modeli jeszcze nie zmaterializował się w działającej infrastrukturze finansowej. Termin listu przed rozmowami G20 wskazuje bardziej na pozycjonowanie regulacyjne niż na bezpośrednie zagrożenie. Rynki mogą uwzględnić te ostrzeżenia jako standardową ostrożność FSB, a nie jako nowe informacje.