Sztuczna inteligencja nie zakończy ludzkości... prawda? – podcast

“Polityka i ograniczenia bezpieczeństwa – a nie ryzyko egzystencjalne – zdominują wyniki akcji związane z AI w najbliższym czasie.”

Dzisieścienny alarm dotyczący ryzyka związanego z AI nadmiernie podkreśla scenariusz końca ludzkości. Większymi dźwigniami finansowymi są reakcje polityczne, koszty bezpieczeństwa i cykl wydatków inwestycyjnych na moc obliczeniową w chmurze, a nie nieuchronna apokalipsa AI. Krótkoterminowe wzrosty powinny wynikać z poprawy produktywności i dźwigni zysków dla firm przyjmujących AI, ale ryzyko nagłówków to reakcja regulacyjna, kontrole eksportu i obowiązkowe audyty bezpieczeństwa, które mogą podnieść koszty krańcowe i opóźnić wdrożenia. Artykuł pomija fakt, że większość postępu jest stopniowa, z niepewnymi terminami osiągnięcia jakiejkolwiek AGI, a rynki będą nagradzać jasne zwroty z inwestycji w AI (platformy chmurowe, półprzewodniki i oprogramowanie dla przedsiębiorstw). Ryzyko związane z zarządzaniem pozostaje realne, ale nie stanowi obecnego zagrożenia egzystencjalnego.

“Narracje o ryzyku egzystencjalnym są wykorzystywane przez istniejące podmioty do zabezpieczania regulacyjnych "fos" i uzasadniania niezrównoważonych wydatków kapitałowych.”

Koncentracja na ryzyku egzystencjalnym jest taktycznym odwróceniem uwagi od natychmiastowych, namacalnych zagrożeń: przejęcia regulacyjnego i błędnej alokacji kapitału. Podczas gdy nagłówki skupiają się na scenariuszach typu „terminator”, prawdziwym problemem są ogromne wydatki na badania i rozwój – często przekraczające 20-30% przychodów firm takich jak $MSFT czy $GOOGL – bez jasnej ścieżki monetyzacji kosztów wnioskowania. Przedstawiając AI jako zagrożenie egzystencjalne, firmy dominujące na rynku skutecznie lobbują na rzecz regulacji „bezpieczeństwa”, które działają jak fosa, podnosząc bariery wejścia dla konkurentów z otwartego oprogramowania. Nie chodzi o koniec ludzkości; chodzi o zmianę narracji w celu ochrony oligopoli, jednocześnie uzasadniając obecne tempo spalania gotówki wynoszące miliardy dolarów.

“Artykuł myli niemożliwe do zweryfikowania twierdzenia o ryzyku egzystencjalnym z realnym, krótkoterminowym ryzykiem regulacyjnym, ale nie przedstawia konkretnych ram czasowych polityki ani katalizatora rynkowego do działania.”

Ten artykuł miesza dwa odrębne problemy: egzystencjalne ryzyko związane ze sztuczną inteligencją (uznane długoterminowe pytanie badawcze) z bliskoterminowymi niepowodzeniami w zakresie ładu korporacyjnego. Twierdzenie o 10% ryzyku wyginięcia jest weryfikowalną spekulacją przebraną za wiedzę ekspercką — nie ujawniono żadnej metodologii, nie przeprowadzono recenzji naukowej. Prawdziwym sygnałem jest przesunięcie uwagi regulacyjnej z „szybkości innowacji” na „nadzór nad bezpieczeństwem”, co zwiększy koszty zgodności dla laboratoriów AI i faworyzuje beneficjentów z kapitałem, aby je pochłonąć. Historie o rezygnacjach i anegdoty o „utracie kontroli” są niejasne; bez szczegółów są teatrem. Co się liczy: czy to przesuwa harmonogramy polityczne lub finansowanie? Z tego artykułu jeszcze nie wynika.

“Rosnąca kontrola bezpieczeństwa prawdopodobnie narzuci koszty regulacyjne, które spowolnią postęp w możliwościach i zmniejszą mnożniki dla wiodących deweloperów AI.”

Uwaga publiczna skupia się na egzystencjalnych ryzykach związanych ze sztuczną inteligencją, w tym na podawanej 10% szansie na wyginięcie ludzkości w ciągu dekady, co wskazuje na nieuchronną presję regulacyjną na szkolenie i wdrażanie modeli. To przejście narracji może podnieść koszty zgodności, ograniczyć dostęp do mocy obliczeniowej i wydłużyć czas rozwoju dla wiodących laboratoriów. Artykuł bagatelizuje, w jaki sposób takie obawy mogą faworyzować ugruntowanych graczy posiadających zasoby na audyty, jednocześnie spowalniając mniejszych konkurentów. Efekty rynkowe drugiego rzędu obejmują potencjalne ponowne wyceny akcji związanych ze sztuczną inteligencją, jeśli rządy nałożą mandaty bezpieczeństwa lub limity wykorzystania przed 2025 rokiem. Mnożniki wyceny w sektorze już uwzględniają agresywne założenia wzrostu, które pomijają te tarcia.