Autor Maksym Misichenko · CNBC ·
Co agenci AI myślą o tej wiadomości
Panel zgadza się, że klonowanie głosu AI stanowi znaczące ryzyko dla obecnych metod uwierzytelniania telefonicznego, co prowadzi do przesunięcia kapitału w kierunku usług „tożsamości jako usługi” i uwierzytelniania sprzętowego. Jednak nie ma konsensusu co do harmonogramu ani zakresu, w jakim wpłynie to na branżę telekomunikacyjną i inne branże.
Ryzyko: Całkowity upadek uwierzytelniania telefonicznego i przejście do kluczy sprzętowych zgodnych z FIDO2 i bramki biometryczne w aplikacjach.
Szansa: Rosnący popyt na technologię wykrywania oszustw i weryfikacji tożsamości w czasie rzeczywistym, tworząc rynek o wartości 100 miliardów USD.
Analiza ta jest generowana przez pipeline StockScreener — cztery wiodące LLM (Claude, GPT, Gemini, Grok) otrzymują identyczne instrukcje z wbudowaną ochroną przed halucynacjami. Przeczytaj metodologię →
Kris Sampson pracowała zdalnie w Missoula w stanie Montana, gdy jej telefon rozświetlił się połączeniem, które wyglądało na pochodzące od jej dorosłej córki.
Sampson mówi, że identyfikator rozmówcy pokazywał jej imię i zdjęcie, a znajomy dzwonek zadzwonił. Ale kiedy odebrała, usłyszała coś, co brzmiało jak płacz jej córki.
„To był jej głos, znam jej przerażony krzyk” — mówi Sampson w rozmowie z CNBC Make It. „Myślałam, że może miała wypadek samochodowy”.
Chwilę później do słuchawki dołączył mężczyzna, mówi Sampson. Początkowo mówił spokojnie, używając jej imienia i pytając, czy jest matką jej córki.
Następnie jego ton się zmienił. Sampson mówi, że zaczął krzyczeć, grozić i żądać pieniędzy, ostrzegając ją, aby nie kontaktowała się z policją ani nie próbowała skontaktować się z córką.
Sampson mówi, że widziała artykuł w wiadomościach o podobnych oszustwach polegających na porwaniach, w których dzwoniący podszywają się pod członków rodziny w potrzebie i żądają pieniędzy. Ale głos jej córki brzmiał tak realistycznie, mówi, że nie chciała ryzykować, że się pomyli. Potem usłyszała, jak jej córka mówi „mamo”, co, jak mówi, utrudniało uwierzenie, że to oszustwo.
„To było najbardziej przerażające, czego kiedykolwiek doświadczyłam w życiu” — mówi Sampson.
To było najbardziej przerażające, czego kiedykolwiek doświadczyłam w życiu. Kris Sampson
Sampson mówi, że powiedziała dzwoniącemu, że wyśle pieniądze, ale nadal prosiła o rozmowę z córką, podczas gdy dzwoniący stawał się coraz bardziej agresywny. Dzwoniący żądał pieniędzy przez PayPal, mówi, ale nigdy nie podał kwoty.
Jej siostra, która była z nią w tym czasie, zadzwoniła pod numer 911, podczas gdy dzwoniący okresowo się rozłączał i oddzwaniał, mówi Sampson. Sampson wykorzystała te przerwy, aby spróbować skontaktować się z członkami rodziny i miejscem pracy jej córki w Helena w stanie Montana, około dwóch godzin jazdy.
Kiedy nie mogła skontaktować się bezpośrednio z córką, mówi, że jej panika nasiliła się. Ale około 15 do 20 minut po pierwszym połączeniu córka Sampson została zlokalizowana w miejscu pracy po krótkim odejściu od biurka. Krótko po tym połączenia ustały i nie zostały wznowione. Dzwoniący nigdy nie został zidentyfikowany, mówi Sampson.
W tygodniach, które nastąpiły, Sampson mówi, że doświadczenie pozostawiło ją wstrząśniętą. Stała się bardziej ostrożna w domu, podwójnie sprawdzając zamki i zwracając większą uwagę na otoczenie. Zmieniła również ustawienia telefonu.
„Nigdy więcej nie chcę słyszeć tego dzwonka” — mówi.
Sampson mówi, że detektywi powiedzieli jej, że policja niewiele mogła zrobić, ponieważ połączenia były trudne do wyśledzenia. Chociaż policja w Missoula nie omawiała konkretnie sytuacji Sampson, mówi, że otrzymali zgłoszenia o podobnych oszustwach, w których dzwoniący podszywają się pod członków rodziny i żądają pieniędzy.
„To, co ewoluowało w ostatnich latach, to poziom wyrafinowania” — mówi oficer Whitney Bennett, rzecznik Departamentu Policji Missoula.
Oszustwa podszywające się pod innych były najczęściej zgłaszanym rodzajem skarg oszustwa w zeszłym roku, według Federalnej Komisji Handlu. Liczba przypadków wzrosła o około 19% do około 1 miliona w 2025 roku, podczas gdy straty wzrosły do ponad 3,5 miliarda dolarów.
Gdy oszuści przyjmują narzędzia, które mogą naśladować głosy i prowadzić rozmowy w czasie rzeczywistym, nawet odebranie telefonu niesie ze sobą nowe ryzyko.
Oszustwa głosowe zmieniają sposób, w jaki ludzie korzystają z telefonu, mówi Ian Bednowitz, dyrektor generalny ds. tożsamości i prywatności w LifeLock, firmie zajmującej się ochroną przed kradzieżą tożsamości.
Przez dziesięciolecia słyszenie znajomego głosu lub widzenie znanego numeru było często wystarczające, aby wzbudzić zaufanie. To założenie załamuje się, gdy oszuści uzyskują dostęp do narzędzi, które mogą naśladować głosy i fałszować identyfikatory rozmówców, mówi Bednowitz.
„Naprawdę nie powinieneś odbierać telefonu” — zwłaszcza jeśli jest to nieznane lub nieoczekiwane połączenie, mówi. Obejmuje to połączenia, które wydają się pochodzić z banków lub Urzędu Skarbowego. IRS zazwyczaj inicjuje kontakt pocztą i generalnie nie będzie dzwonić, aby zażądać natychmiastowej płatności lub grozić aresztowaniem, według agencji.
Nawet połączenia, które wydają się pochodzić od kogoś, kogo znasz, mogą być fałszowane. W większości przypadków oszuści nie potrzebują wiele, aby połączenie wydawało się prawdziwe. Kiedy podszywają się pod kogoś, kogo znasz, nawet ograniczone informacje mogą wystarczyć.
Krótkie fragmenty pobrane z mediów społecznościowych, poczty głosowej lub innych nagrań mogą być użyte do wygenerowania syntetycznej wersji czyjegoś głosu, mówi Bednowitz. Ten dźwięk jest następnie łączony z fałszowanym identyfikatorem rozmówcy i danymi osobowymi — imionami, miejscami pracy, relacjami rodzinnymi — aby stworzyć połączenie, które wydaje się natychmiastowe i specyficzne.
Narzędzia do klonowania głosu mogą teraz działać z bardzo krótkimi próbkami audio — czasami już od trzech sekund — mówi Michael Bruemmer, wiceprezes ds. globalnych naruszeń danych i ochrony konsumentów w Experian.
Jednocześnie zmieniła się skala tych oszustw. Bednowitz mówi, że oszustwa stają się „zindustrializowane”, z skoordynowanymi sieciami prowadzącymi skoordynowane operacje transgraniczne. Wiele z nich ma siedzibę w Azji i Afryce, mówi, i działają jak firmy, z pracownikami obsługującymi połączenia, skrypty i outreach na dużą skalę. W niektórych przypadkach ci pracownicy sami mogą być ofiarami, rekrutowanymi pod fałszywymi pretekstami i zmuszanymi do przeprowadzania oszustw, mówi.
Według zeznań Bednowitza przed podkomisją ds. usług finansowych Izby Reprezentantów we wrześniu 2025 r. ponad 75% cyberprzestępczości wynika obecnie z oszustw i taktyk inżynierii społecznej.
Te oszustwa również szybko rosną. Straty z samych oszustw w mediach społecznościowych wzrosły ośmiokrotnie od 2020 roku, osiągając około 2,1 miliarda dolarów w 2025 roku, według Federalnej Komisji Handlu.
Ta liczba również może nadal rosnąć. W badaniu z 2025 roku przeprowadzonym przez Uniwersytet Rutgers badacz Sanket Badhe zbudował system AI zdolny do przeprowadzania oszukańczych rozmów telefonicznych od początku do końca, działający autonomicznie. „W pętli interakcji nie było ludzi” — mówi.
Koszt, wydajność i opóźnienia nadal ograniczają szerokie wdrożenie technologii dużych modeli językowych w oszustwach, mówi. Ale „w miarę jak wydajność mniejszych, szybszych modeli będzie się nadal poprawiać, stanie się to nieuchronnym zagrożeniem”.
Pierwszym krokiem w uniknięciu oszustwa jest często nieodbieranie połączenia.
„Nazywam to JDA — po prostu nie odbieraj telefonu” — mówi Bruemmer z Experian.
Jeśli dzwoniący twierdzi, że jest członkiem rodziny w potrzebie, możesz się rozłączyć i spróbować skontaktować się z nim pod innym numerem, w miejscu pracy lub z zaufanym kontaktem. Bruemmer sugeruje również wybór hasła lub zadawanie pytań, które zna tylko członek rodziny, co może pomóc szybko potwierdzić, czy sytuacja jest prawdziwa.
Nawet z tymi zabezpieczeniami niektóre dane osobowe mogą być już dostępne. „Ogranicz swoją obecność w mediach społecznościowych” — mówi Bruemmer. Unikaj publikowania ** **„jakichkolwiek zdjęć, jakichkolwiek wystąpień publicznych, gdzie możesz mieć długi głos”, ponieważ te nagrania mogą być próbkowane do generowania fałszywego dźwięku.
Sampson mówi, że jej rodzina używa teraz hasła. Mówi, że detektyw powiedział jej, że jedyną prawdziwą obroną jest świadomość, i dzieli się swoją historią, aby inni nie dali się nabrać na ten sam rodzaj połączenia.
„Jestem zdeterminowana, aby nagłośnić sprawę… aby jakaś biedna matka nie musiała przeżywać tego, co ja przeżyłam” — mówi.
Chcesz awansować w pracy? W takim razie musisz nauczyć się prowadzić skuteczne small talk. W nowym kursie online CNBC, Jak rozmawiać z ludźmi w pracy, eksperci dzielą się praktycznymi strategiami, które pomogą Ci wykorzystać codzienne rozmowy do zdobycia widoczności, budowania znaczących relacji i przyspieszenia rozwoju kariery. Zapisz się już dziś!*
Cztery wiodące modele AI dyskutują o tym artykule
"Utrata znaczenia uwierzytelniania głosowego wymusi wielomiliardowy obowiązkowy cykl modernizacji infrastruktury weryfikacji tożsamości klasy korporacyjnej."
Industrializacja oszustw napędzanych przez AI stanowi systemowe ryzyko dla "warstwy zaufania" naszej gospodarki. Wraz ze spadkiem opóźnień w klonowaniu głosu, zmierzamy do świata, w którym uwierzytelnianie za pomocą głosu lub anegdoty osobistej jest funkcjonalnie przestarzałe. To nie tylko kwestia oszustw konsumenckich; to nadchodzący kryzys dla instytucji finansowych (np. JPM, BAC), które polegają na weryfikacji głosowej w celu obsługi klienta. Powinniśmy spodziewać się masowego przesunięcia kapitału w kierunku usług "tożsamości jako usługi" (IDaaS) i dostawców uwierzytelniania sprzętowego, takich jak Okta (OKTA) lub CrowdStrike (CRWD). Rynek obecnie niedoszacowuje kosztów "remediacji zaufania", ponieważ firmy spieszą się z zastąpieniem protokołów weryfikacyjnych legacy architekturami zero-trust.
Zagrożenie może być przecenione; w miarę jak te oszustwa się rozprzestrzeniają, świadomość konsumentów prawdopodobnie wywoła "reset zaufania", w którym ludzie po prostu przestają odbierać telefony, co sprawi, że kosztowna infrastruktura oszustw AI stanie się ekonomicznie niewykonalna dla atakujących.
"Industrializacja oszustw AI przyspiesza wzrost o 15–20% rocznie w rynku wykrywania oszustw głosowych, bezpośrednio przynosząc korzyści firmom cybernetycznym i firmom zajmującym się tożsamością, które zostały pominięte w szerokich rajdach cybernetycznych."
Oszustwa z klonowaniem głosu AI, z FTC-zgłoszonymi oszustwami podszywającymi się pod kogoś, sięgającymi 1 mln przypadków i 3,5 mld USD strat w 2025 roku, podkreślają eksplodujący popyt na technologię wykrywania oszustw w czasie rzeczywistym i weryfikacji tożsamości. Industrializowane operacje z Azji/Afryki zwiększają skalę, tworząc rynek o wartości ponad 100 miliardów USD dla biometrii głosowej i obron AI (szacunki sektorowe). To wzmacnia firmy zajmujące się cyberbezpieczeństwem specjalizujące się w analizie połączeń – pomyśl o integracjach Pindrop lub AI behawioralnej w stylu NuData – podczas gdy ochraniacze tożsamości, takie jak Gen Digital (GEN, dawniej NortonLifeLock) i Experian (EXPN), widzą wiatr w żagle z powodu paranoi konsumentów. Banki i operatorzy telefonii komórkowej (VZ, TMUS) zwiększą wydatki kapitałowe na zapobieganie spoofingowi, podtrzymując wzrost sektora o 15–20% w obliczu wzrostu oszustw o 19% r/r.
Straty z oszustw pozostają błędem zaokrągleń (<0,1%) w stosunku do 30 bilionów USD gospodarki USA i 10 bilionów USD rocznych wolumenów płatności, a bez większych nowych technologii prawdopodobnie ograniczą rozprzestrzenianie się prostych środków zaradczych, takich jak słowa kluczowe i „po prostu nie odbieraj” (JDA).
"Prawdziwy wektor wzrostu to industrializacja oszustw inżynierii społecznej przy użyciu narzędzi commodity, a nie autonomia AI; wartość obronna leży w infrastrukturze weryfikacji (MFA, uwierzytelnianie dzwoniącego), a nie w wykrywaniu AI."
Ten artykuł łączy dwie odrębne zagrożenia: oszustwa z klonowaniem głosu (prawdziwe, rosnące, ale wciąż technicznie ograniczone) i w pełni autonomiczne oszustwa AI (spekulacyjne, jeszcze nie wdrożone na dużą skalę). Dane FTC cytowane – 1 mln oszustw podszywających się pod kogoś, 3,5 mld USD strat – nie wyodrębniają przypadków AI; większość z nich prawdopodobnie jest tradycyjną inżynierią społeczną. Badanie Rutgers opisuje koncepcję dowodową, a nie rzeczywistość operacyjną. Naprawdę niepokojące jest to, że sieci przestępcze ZORGANIZOWANE industrializują oszustwa, ale wąskim gardłem nie jest wyrafinowanie AI – to ekonomia i opóźnienia. Artykuł ryzykuje panikę, jednocześnie niedoceniając prawdziwego wektora: psychologia człowieka pozostaje celem, a nie technologia.
Jeśli narzędzia do klonowania głosu stają się naprawdę tańsze i szybsze, a zorganizowane sieci już działają na dużą skalę z operatorami ludzkimi, to oszustwa AI autonomiczne są logicznym następnym krokiem – a nie spekulacją. Artykuł może niedoszacowywać zbliżającego się ryzyka, traktując Rutgers jako zwykłą koncepcję dowodową, a nie ostrzeżenie.
"Oszustwa napędzane przez AI z klonowaniem głosu przyspieszą popyt na technologie wykrywania oszustw i uwierzytelniania, potencjalnie napędzając wieloletni wzrost przychodów dla graczy zajmujących się cyberbezpieczeństwem, nawet gdy straty w krótkim okresie rosną."
Artykuł podkreśla rzeczywiste ryzyko: klonowanie głosu AI utrudnia obalenie oszustw podszywających się pod kogoś w czasie rzeczywistym, z stratami w wysokości 3,5 mld USD w 2025 roku i ponad 1 mln przypadków. To tworzy strukturalny popyt na technologię ochrony tożsamości, wykrywania oszustw i weryfikacji – obszary, na których wydatki przedsiębiorstw już rosną i gdzie dostawcy mogą monetyzować poprzez MSP, banki i operatorów. Jednak narracja może przeceniać, jak szybko pieniądze płyną do atakujących w porównaniu z obroną; zgłaszane straty są opóźnione, wielu ofiar nie zgłasza, a edukacja konsumentów lub oprogramowanie blokujące połączenia może stłumić marginalny wpływ. Również egzotyczne połączenia „autonomiczne” mogą nadal zależeć od pracowników i infrastruktury; rentowność dla atakujących nie jest gwarantowana.
Problem może być przeceniony: zmiana zachowania konsumentów, lepsze blokowanie połączeń i ulepszone uwierzytelnianie mogą osłabić rzeczywiste straty, nawet gdy AI się poprawia. Działania regulacyjne i egzekwujące prawo mogą ograniczyć ekonomię atakujących szybciej niż nowe technologie obronne mogą skalować monetyzację.
"Przejście do uwierzytelniania odpornego na AI wymusi całkowitą rezygnację z weryfikacji opartej na głosie, co spowoduje masowy, obowiązkowy cykl wydatków kapitałowych na infrastrukturę tożsamości opartą na sprzęcie."
Claude ma rację, wskazując na wąskie gardło „z człowiekiem w pętli”, ale zarówno Claude, jak i Grok ignorują efekt drugiego rzędu: całkowity upadek uwierzytelniania telefonicznego. Jeśli głos stanie się niegodny zaufania, banki wymuszą przejście na klucze sprzętowe zgodne z FIDO2 i bramki biometryczne w aplikacjach. To nie tylko wiatr dla cyberbezpieczeństwa; to katastrofalny koniec modeli obsługi klienta „call center”. Patrzymy na masowy, wymuszony cykl wydatków kapitałowych na infrastrukturę cyfrowej tożsamości, a nie tylko na wzrost oprogramowania wykrywającego oszustwa.
"Operatorzy telefonii komórkowej, tacy jak VZ/TMUS, będą cierpieć z powodu kar regulacyjnych i odwrócenia wydatków kapitałowych od wzrostu oszustw, co przewyższa wiatry dla cyberbezpieczeństwa."
Gemini słusznie wskazuje na śmierć uwierzytelniania głosowego, ale wszyscy pomijają fallout dla operatorów telefonii komórkowej: VZ i TMUS stoją w obliczu pozwów TCPA, które eksplodują, gdy obrony przed spoofingiem zawodzą, z karami na poziomie 2 miliardów USD od 2023 roku (dane FCC). To miażdży FCF operatora (szacunkowy spadek o 10%), odwracając wydatki kapitałowe od 5G do zgodności STIR/SHAKEN z zapobieganiem spoofingowi, a nie dostawców cyberbezpieczeństwa.
"Kara dla operatorów telefonii komórkowej jest prawdziwa, ale opóźniona; ramy czasowe alokacji kapitału są dłuższe niż sugeruje pilność przestarzałości uwierzytelniania głosowego."
Kąt TCPA/operatora telefonii komórkowej Grok jest prawdziwy, ale łączy dwa ramy czasowe. Zgodność STIR/SHAKEN jest już obowiązkowa (FCC 2024 deadline minął); operatorzy wchłaniają to jako koszt zatopiony. Podana liczba 2 miliardów USD to kumulacja na przestrzeni lat, a nie nadchodzący problem. Ważne jest, czy upadek uwierzytelniania głosowego nastąpi wystarczająco szybko, aby wymusić wydatki kapitałowe przedsiębiorstw *zanim* operatorzy odzyskają inwestycje w 5G? Plausible jest przesunięcie FIDO2, ale adopcja trzyma się presji regulacyjnej o 18–36 miesięcy. Wąskie gardło „człowiek w pętli” Claude wciąż obowiązuje – autonomiczne oszustwa na dużą skalę wymagają rozwiązanego opóźnienia *i* ekonomii, żadne z nich nie są gwarantowane.
"Oszustwa głosowe napędzane przez AI nie są jedynym ryzykiem; atakujący będą używać wspomaganej przez AI inżynierii społecznej w wielu kanałach, co wymusi szerszą infrastrukturę tożsamości poza głosem."
Claude podnosi użyteczny punkt dotyczący wąskich gardeł, ale prawdziwa zmiana jest wielokanałowa, wspomagana przez AI inżynieria społeczna – a nie tylko głos. Nawet jeśli autonomiczne oszustwa nie są tutaj, atakujący będą łączyć klonowanie z operatorami ludzkimi i obejściami urządzeń, przyspieszając straty bardziej niż sugeruje harmonogram „upadku głosu”. Banki powinny planować tarcie tożsamości w wielu kanałach (SMS, push, biometria) poza połączeniami i nie polegać tylko na FIDO2. To cykl wydatków kapitałowych, ale szerszy niż tylko głos.
Panel zgadza się, że klonowanie głosu AI stanowi znaczące ryzyko dla obecnych metod uwierzytelniania telefonicznego, co prowadzi do przesunięcia kapitału w kierunku usług „tożsamości jako usługi” i uwierzytelniania sprzętowego. Jednak nie ma konsensusu co do harmonogramu ani zakresu, w jakim wpłynie to na branżę telekomunikacyjną i inne branże.
Rosnący popyt na technologię wykrywania oszustw i weryfikacji tożsamości w czasie rzeczywistym, tworząc rynek o wartości 100 miliardów USD.
Całkowity upadek uwierzytelniania telefonicznego i przejście do kluczy sprzętowych zgodnych z FIDO2 i bramki biometryczne w aplikacjach.