Meta na procesie o bezpieczeństwo dzieci: czy naprawdę może chronić swoje kolejne pokolenie użytkowników?

Meta stoi w obliczu rozliczenia za swoje praktyki w zakresie bezpieczeństwa dzieci, ponieważ proces ujawnia nowe oskarżenia, że firma przedkładała zachęty zysku i zaangażowanie ponad ochronę dzieci.
Przełomowy proces w Nowym Meksyku zakończył już piąty tydzień, a prokurator generalny stanu zakończył sprawę 5 marca. Postępowanie ma się wkrótce przedłużyć o kolejny tydzień, podczas gdy Meta przedstawia swoją obronę przed ławą przysięgłych.
Centralnym punktem sprawy są wewnętrzne dokumenty firmy uzyskane przez urząd prokuratora generalnego podczas postępowania dowodowego, w tym e-maile między dyrektorami Meta wskazujące na pilne problemy wykorzystywania na Facebooku i Instagramie.
„Dane pokazują, że Instagram stał się wiodącym dwustronnym rynkiem handlu ludźmi” – stwierdzono w jednym z e-maili do Adama Mosseriego, szefa Instagrama, wysłanym przez członka zespołu produktowego Meta w 2019 roku, który został odczytany w sądzie.
Prokuratura przedstawiła dowody, które, jak twierdzi, demonstrują opóźnienia i niedociągnięcia w zdolności Meta do wykrywania i zgłaszania szkód dzieciom na swoich platformach, w tym dystrybucję materiałów wykorzystujących seksualnie dzieci – zdjęć i filmów wykorzystywania seksualnego dzieci – oraz handel dziećmi.
Zarówno w procesie w Nowym Meksyku, jak i w równoległych postępowaniach sądowych w Los Angeles, funkcje Facebooka i Instagrama znalazły się również pod lupą ze względu na ich rzekomy wpływ na zdrowie psychiczne dzieci. Pozwani twierdzą, że sieci społecznościowe są celowo uzależniające i wzmacniają treści promujące samookaleczenia, myśli samobójcze i dysmorfie ciała.
Obrona stanowczo odrzuciła oskarżenia prokuratora generalnego jako „sensacyjne, nieistotne i odciągające uwagę argumenty” i że dołożono wszelkich starań, aby platformy były bezpieczne i nadal inwestuje się w nowe funkcje ochronne dla nastolatków. Ława przysięgłych wysłuchała również od przedstawicieli firmy, w tym od Mosseriego i Marka Zuckerberga, dyrektora generalnego Meta, którzy bronili dorobku firmy w zakresie bezpieczeństwa. Argumentowali również, że przy miliardach użytkowników na całym świecie na Facebooku i Instagramie nie da się zapobiec wszystkim przestępstwom i szkodom, które na nich występują.
„Staramy się, aby Facebook był bezpieczny, ale nie możemy tego zagwarantować” – powiedział Mosseri, który przybył do Santa Fe, aby zeznawać na rzecz obrony, po tym jak jego nagranie wideo z zeznań zostało odtworzone w sądzie wcześniej w procesie. „Bezpieczeństwo jest dla nas niezwykle ważne”.
Pozew został wniesiony po dwuletnim dochodzeniu przeprowadzonym przez The Guardian, opublikowanym w 2023 roku, które ujawniło, że Meta miała trudności z powstrzymaniem ludzi od korzystania z jej platform do handlu dziećmi. Dochodzenie jest kilkakrotnie odniesione w dokumentach pozwu.
Obie sprawy dotykają egzystencjalnego pytania dla Meta: czy może chronić swoje kolejne pokolenie użytkowników? Jeśli firma chce, aby jej sieci społecznościowe przetrwały i wzrosły, musi pozyskać nowych, młodszych użytkowników. Meta argumentuje, że jej sieci społecznościowe zapewniają bezpieczniejsze środowisko niż jakiekolwiek inne alternatywy. Prokurator generalny w Nowym Meksyku argumentuje, że firma nie zapewnia odpowiedniej ochrony nastolatkom, którzy już korzystają z jej witryn i aplikacji, podobnie jak pozwani w procesie w Los Angeles, którzy twierdzą, że Meta projektuje swoje produkty tak, aby były uzależniające dla młodych ludzi. Rzecznicy praw dzieci, którzy przemawiali podczas procesu w Santa Fe, powiedzieli, że szyfrowanie Messenger i ogromny zaległy stan w Meta w zgłoszeniach wykorzystywania dzieci utrudniły ich śledztwa w sprawie wykorzystywania dzieci.
Dokumenty z spraw demonstrują, jak bardzo Meta chce, aby młodzi ludzie korzystali z jej platform. Jeden wewnętrzny e-mail głosi: „Mark zdecydował, że priorytetem firmy w 2017 roku są nastolatki” – odnosząc się do Zuckerberga. Dyrektor generalny zaprzeczył na ławie przysięgłych, że firma celuje w użytkowników poniżej 13 roku życia, czyli wiek, w którym można utworzyć konto, choć przyznał, że egzekwowanie ograniczeń wiekowych jest trudne.
Meta stoi w obliczu globalnego nadzoru regulacyjnego, gdy mierzy się z podwójnymi wyrokami w USA. Kraje na całym świecie podążają śladami Australii, zakazując mediów społecznościowych dla osób poniżej 16 roku życia. Czwarte co do wielkości państwo na świecie zobowiązało się już do własnej bramki wiekowej, podobnie jak trzeci co do wielkości stan w USA. Procesy w Nowym Meksyku i Los Angeles, jeśli zakończą się stwierdzeniem odpowiedzialności Meta za wykorzystywanie seksualne dzieci i celowe uzależnianie, mogą skłonić więcej ustawodawców do odcięcia firmy od użytkowników, których potrzebuje.
Operacja MetaPhile
Jednym z głównych filarów sprawy Nowego Meksyku jest dochodzenie o nazwie „Operacja MetaPhile” prowadzone przez urząd prokuratora generalnego. Pod przykrywką agenci, którzy udawali dziewczęta poniżej 13 roku życia, skontaktowali się z trzema podejrzanymi, którzy rzekomo szukali seksu po wyszukaniu nieletnich za pomocą funkcji projektowych na Facebooku i Instagramie. Dwóch z nich zaplanowało spotkanie z „dziewczyną” w motelu w Gallup, w Nowym Meksyku.
Agenci nie rozpoczęli żadnej rozmowy o aktywności seksualnej, zgodnie z dokumentami sądowymi stanu. Jedno z ich kont doświadczyło gwałtownego wzrostu aktywności, z setkami próśb o dodanie do znajomych dziennie i zgromadziło 7000 obserwujących w ciągu miesiąca, powiedział śledczy. Pomimo tej aktywności Meta nie wyłączyła konta, a zamiast tego przesłało mu informacje o tym, jak monetyzować konta i zwiększać liczbę obserwujących, powiedzieli śledczy.
Prokuratura przedstawiła również dowody, które, jak twierdzi, demonstrują, że algorytmy Instagrama łączą pedofilów lub pomagają im znaleźć sprzedawców materiałów wykorzystujących seksualnie dzieci, co Mosseri określił jako „nieszczęsne”.
„Uważamy, że ci szczególnie źli aktorzy naprawdę aktywnie próbują omijać nasze systemy, kamuflując rzeczy” – powiedział Mosseri. „Próbują znaleźć siebie nawzajem na naszej platformie”.
Byli przedstawiciele firmy zeznawali przeciwko byłemu pracodawcy.
„Absolutnie nie wierzyłem, że bezpieczeństwo jest priorytetem, co jest głównym powodem, dla którego odeszedłem” – powiedział Brian Boland, były wiceprezes Meta ds. partnerstw, który spędził 11 lat w firmie przed odejściem w 2020 roku.
Szyfrowane Messenger zablokował dostęp do dowodów przestępstw
Sąd w Nowym Meksyku usłyszał, jak decyzja Meta o zaszyfrowaniu Facebook Messenger, którego drapieżcy używali jako narzędzia do uwodzenia nieletnich i wymiany obrazów wykorzystujących seksualnie dzieci, zablokowała dostęp do kluczowych dowodów tych przestępstw.
W grudniu 2023 roku Meta wprowadziła szyfrowanie end-to-end dla Facebook Messenger, jej platformy do bezpośrednich wiadomości. Szyfrowanie zapewnia, że tylko nadawca i zamierzony odbiorca mogą zobaczyć wiadomości, konwertując je na nieczytelny kod, który jest odszyfrowywany po otrzymaniu. Treść wiadomości nie jest przechowywana na serwerach Meta i nie jest widoczna dla organów ścigania.
National Center for Missing & Exploited Children (NCMEC), które jest częściowo finansowane przez Meta, określiło ten ruch jako „niszczący cios dla ochrony dzieci” i jego przedstawiciele spotkali się kilkakrotnie z Meta w celu zniechęcenia firmy do wdrożenia szyfrowania, jak usłyszano w sądzie.
Firmy mediów społecznościowych z siedzibą w Stanach Zjednoczonych są wymagane przez prawo federalne, aby zgłaszać wszelkie materiały wykorzystujące seksualnie dzieci (CSAM), rzekome naruszenia handlu dziećmi wykorzystującymi seksualnie oraz wskazania przymusu i zwabienia nieletnich na swoich platformach do NCMEC. Działając jako punkt centralny, NCMEC przekazuje te raporty „cyber tip” odpowiednim organom ścigania w całych Stanach Zjednoczonych i na całym świecie.
Szyfrowanie Messenger oznacza, że „pobrano dostęp do treści lub interakcji, które zachodzą. Nie oznacza to, że przestępstwa nie przestają się zdarzać” – zeznała Fallon McNulty, dyrektor wykonawczy dywizji dzieci wykorzystywanych w NCMEC.
NCMEC zgłosiło 6,9 miliona mniej raportów do NCMEC w 2024 roku po wdrożeniu szyfrowania Messenger w porównaniu z rokiem poprzednim.
Meta broniła wcześniej szyfrowania jako bezpiecznego, ponieważ użytkownicy mogą zgłaszać wszelkie niewłaściwe interakcje lub nadużycia, których doświadczają podczas korzystania z Messenger. Zwolennicy prywatności chwalą szyfrowanie jako najsilniejszą ochronę przed inwigilacją ze strony organów ścigania.
„Używamy wyrafinowanych technologii, aby proaktywnie identyfikować treści wykorzystujące dzieci na naszej platformie – a między lipcem a wrześniem 2025 roku usunęliśmy ponad 10 milionów treści wykorzystujących dzieci z Facebooka i Instagrama, z czego 98% znaleźliśmy proaktywnie przed zgłoszeniem” – powiedział przedstawiciel Meta. „Zapewniamy również narzędzia do zgłaszania w aplikacji, z dedykowanymi opcjami, aby poinformować nas, jeśli treść dotyczy dziecka”.
W swoim zeznaniu McNulty podkreśliła, że poleganie na dzieciach w zgłaszaniu nadużyć nie jest wystarczającym substytutem skanowania wiadomości i obrazów, ponieważ Messenger jest zaszyfrowany. Według badań NCMEC większość dzieci nie zgłasza żadnych nadużyć ani zagrożeń, które do nich skierowano na platformach.
Mosseri powiedział, że mechanizmy samo zgłaszania na Instagramie nie są tak skuteczne jak techniczne skanowanie firmy pod kątem nadużyć na platformie, pomimo własnych twierdzeń Meta dotyczących szyfrowania Messenger. Porozmawiał o planach szyfrowania bezpośredniego komunikatora Instagram, które zostały porzucone. Stwierdzono również, że zaszyfrowanie wiadomości Instagram również utrudniłoby zapewnienie bezpieczeństwa dzieciom na platformie, powiedział.
„Uważamy, że użycie technologii wydaje się o wiele skuteczniejsze niż raporty użytkowników w celu znalezienia złej treści” – powiedział.
Zaległości w raportowaniu i błędy wpłynęły na bezpieczeństwo dzieci
Ława przysięgłych usłyszała, że między majem 2017 roku a lipcem 2021 roku Meta miała zaległość w raportowaniu wynoszącą 247 000 cyber tipów dotyczących potencjalnych szkód i nadużyć, które były o kilka tygodni lub miesięcy opóźnione, gdy zostały przekazane do NCMEC. Ponieważ informacje o wykorzystywaniu dzieci są często wrażliwe na czas, te zaległości mogły oznaczać utratę okazji do zapobieżenia przestępstwom lub zidentyfikowania sprawców.
Zgodnie z dokumentami przedstawionymi jako dowód, tysiące innych cyber tipów zostało nieprawidłowo sklasyfikowanych jako o niskim priorytecie. Firma nie przedłożyła NCMEC informacji o przyczynach opóźnień i błędnej klasyfikacji. NCMEC uznało duże błędne klasyfikacje za „poważne niedociągnięcie, które wpłynęło na bezpieczeństwo dzieci”, zeznała McNulty.
Ława przysięgłych usłyszała, jak organy ścigania były sfrustrowane brakiem szczegółów w niektórych raportach Meta, co uniemożliwiało urzędnikom podjęcie dalszych działań i ich zbadanie. Funkcjonariusze organów ścigania, którzy badają potencjalne wykorzystywanie dzieci, wcześniej powiedzieli The Guardian, że Meta zalała system zgłaszania cyber tipów „śmieciami”, które nie były użyteczne dla organów ścigania, a jeden funkcjonariusz wyraził tę samą opinię na ławie przysięgłych. Inne duże platformy lepiej radziły sobie z dostarczaniem organom ścigania wiarygodnych informacji, powiedziała McNulty w swoim zeznaniu.
W 2022 roku 31 z 61 grup zadaniowych Internet Crimes Against Children (ICAC) w kraju zrezygnowało z otrzymywania niektórych cyber tipów o niskim priorytecie od Meta, ponieważ uznały, że informacje są zbyt słabe, aby można je było wykorzystać – jak usłyszała ława przysięgłych.
Problemy z jakością cyber tipów Meta istniały „od lat” i NCMEC oczekiwało, że zostaną „rozwiązane wcześniej” – powiedziała McNulty.
„Nasze systemy dopasowywania obrazów znajdują kopie znanych treści wykorzystujących dzieci w skali, która byłaby niemożliwa do wykonania ręcznie, i pracujemy nad wykrywaniem nowych treści wykorzystujących dzieci za pomocą technologii, raportów z naszej społeczności i śledztw naszych wyspecjalizowanych zespołów ds. bezpieczeństwa dzieci” – powiedział przedstawiciel Meta. „Kontynuujemy również wspieranie NCMEC i organów ścigania w priorytetyzacji raportów, w tym pomagając w budowie narzędzia do zarządzania przypadkami NCMEC i oznaczaniu cyber tipów, aby wiedzieli, które są pilne”.
The Guardian wcześniej informował, że generowane przez AI wskazówki, które nie zostały potwierdzone przez pracownika firmy mediów społecznościowych, często nie mogą być otwierane przez organy ścigania bez nakazu sądowego ze względu na ochronę czwartej poprawki. Prawnicy zaangażowani w takie sprawy twierdzą, że ten dodatkowy krok może również spowolnić śledztwa w sprawie potencjalnych przestępstw.
Podczas procesu ujawniono, że w 2022 roku ponad 14 milionów raportów Meta do NCMEC nie zostało poddanych ocenie przez człowieka, co oznaczało, że NCMEC ani organy ścigania nie mogły ich otworzyć bez nakazu sądowego. Powszechność nieprzetestowanych raportów i wynikające z tego skutki dla organów ścigania zostały kilkakrotnie przekazane Meta, zeznała McNulty.
Nastolatki, uzależnienie, filtry i treści dotyczące samookaleczeń wpłynęły na zdrowie psychiczne
W nagranym wideo zeznaniu Zuckerberg przyznał, że niektórzy użytkownicy, w tym dzieci, uważają platformy Meta za uzależniające, co jest również przedmiotem oddzielnego procesu w Los Angeles.
Wewnętrzne dokumenty Instagrama ujawniły, jak bardzo firma wiedziała o swoich użytkownikach w wieku nastolatków i ich problemach, pomimo swojej polityki dotyczącej wieku 13+. Prawnicy pozwani wskazują na prezentację Instagrama z 2018 roku, która mówi: „Jeśli chcemy wygrać z nastolatkami, musimy wciągnąć ich jako nastolatki”. Inna z 2015 roku szacowała, że około 30% 10-12 latków w USA korzysta z aplikacji do udostępniania zdjęć. Kolejna dokumentowała cel zwiększenia czasu, jaki 10-latkowie spędzają na aplikacji Instagram, a jeszcze jedna dokumentowała, jak często 11-latkowie logowali się do aplikacji w porównaniu z osobami starszymi.
Podczas procesu w Nowym Meksyku Ian Russell, którego córka Molly popełniła samobójstwo w 2017 roku po obejrzeniu dużej ilości szkodliwych treści na Instagramie, zeznał dla stanu na temat potencjalnego wpływu platformy na zdrowie psychiczne.
Russell powiedział: „Niezatarte strumienie szkodliwych treści, kumulatywny wpływ tych treści na rozwijający się mózg, młodą osobę, 14-latkę, zamienił Molly w osobę, która niewiarygodnie uważała, że jest ciężarem i problemem i że najlepszą rzeczą, jaką może zrobić, to zakończyć swoje życie”.
Dowody przedstawione podczas procesu obejmowały wewnętrzne komunikaty dotyczące filtrów rozszerzonej rzeczywistości na Instagramie, które pozwalały użytkownikom zmieniać swój wygląd, takie jak powiększanie ust lub oczu. E-mail od byłego pracownika Meta do Zuckerberga ostrzegał, że nastolatki korzystające z tych funkcji będą bardziej narażone na problemy z wizerunkiem i zdrowiem psychicznym.
„Jako rodzic dwóch nastolatek, jedna z których była dwukrotnie hospitalizowana z powodu dysmorfii ciała, mogę wam powiedzieć, że presja na nich i ich rówieśników pochodząca z mediów społecznościowych jest intensywna pod względem wizerunku ciała” – napisał były pracownik.
Ława przysięgłych usłyszała, że ​​tymczasowy zakaz funkcji rozszerzonej rzeczywistości wprowadzono w październiku 2019 roku i zniesiono w połowie 2020 roku przez Zuckerberga.
„Zawsze wydawało mi się paternalistyczne, że ograniczamy ludziom możliwość przedstawiania się w ten sposób, zwłaszcza gdy nie ma żadnych danych, które sugerowałyby, że robienie tego jest pomocne, a nie robienie tego jest szkodliwe, i że jest wyraźne zapotrzebowanie na tego rodzaju ekspresję” – powiedział dyrektor generalny o swojej decyzji.
„Meta zakazuje tych, które bezpośrednio promują operacje kosmetyczne, zmiany koloru skóry lub ekstremalną utratę wagi” – powiedział rzecznik firmy.
Inne wewnętrzne dokumenty przedstawione w sądzie ujawniły, że Zuckerberg zatwierdził dopuszczenie reklam od firm, takich jak Walmart i Match Group, obok treści seksualizujących dzieci, potencjalnie generując