'A era da invencibilidade acabou': a semana que colocou a big tech de joelhos

A jovem no centro do que foi chamado de "momento big tobacco" da indústria de tecnologia estava no YouTube aos seis anos e no Instagram aos nove. Mais de uma década depois, ela diz que ainda não consegue viver sem as redes sociais das quais se tornou viciada.
"Eu não consigo, é muito difícil ficar sem", disse Kaley, agora com 20 anos, a um júri do tribunal superior de Los Angeles. Esta semana, cinco homens e sete mulheres proferiram um veredicto sobre o design de dois dos aplicativos mais populares do mundo que confirmou a posição de Kaley.
A decisão causou ondas de choque no Vale do Silício e despertou esperança entre famílias e defensores da segurança infantil de que mudanças podem finalmente estar chegando às redes sociais. O Meta, de Mark Zuckerberg, e o YouTube, do Google, foram considerados responsáveis por projetar deliberadamente produtos viciantes usados por Kaley e milhões de outros jovens.
Foi um caso centrado no sofrimento de uma jovem que ficou deprimida aos 10 anos e se automutilava, mas Kaley, referida pelo primeiro nome ou pelas iniciais KGM para proteger sua privacidade, foi a figura central de uma luta muito maior.
"Queríamos que eles sentissem", explicou um dos jurados aos repórteres. "Queríamos que eles percebessem que isso era inaceitável."
"A era da invencibilidade da big tech acabou", disse o Tech Oversight Project, um grupo de vigilância de Washington DC que se apresenta como um Davi contra o Golias do Vale do Silício. Até o príncipe Harry se pronunciou: "A verdade foi ouvida e um precedente foi estabelecido." As ações do Meta e da Alphabet, empresa-mãe do Google, despencaram.
O veredicto foi o segundo golpe em uma semana para a big tech depois que o Meta, que é dono do Facebook e do Instagram, foi condenado a pagar US$ 375 milhões (£ 282 milhões) por um tribunal do Novo México. Um júri considerou que ele enganou os consumidores sobre a segurança de suas plataformas. Estas tinham recursos que "permitiam que pedófilos e predadores se envolvessem na exploração sexual infantil" e foram intencionalmente projetados para viciar os jovens, disse o departamento de justiça do estado.
Com US$ 6 milhões, os danos na ação da Califórnia foram relativamente pequenos, mas as consequências dos dois veredictos serão muito maiores. Foi uma semana em que uma campanha de anos para mudar o equilíbrio de poder entre a big tech e as crianças finalmente pareceu ganhar impulso.
O Meta, YouTube, Snapchat e TikTok enfrentam milhares de processos semelhantes nos tribunais dos EUA, testando se suas plataformas foram projetadas para ser viciantes. Se perderem, os danos podem ser paralisantes.
Internacionalmente, os governos estão começando a conter o domínio da big tech sobre a atenção das crianças. A partir deste fim de semana, o governo da Indonésia está seguindo a Austrália ao determinar a desativação de contas de "alto risco" em redes sociais de crianças menores de 16 anos. Este mês, o Brasil aprovou uma lei de segurança online para proteger as crianças contra o uso compulsivo, e no Reino Unido o primeiro-ministro Keir Starmer respondeu ao veredicto de Los Angeles dizendo: "Precisamos fazer mais para proteger as crianças". Ele citou uma possível proibição de redes sociais para menores de 16 anos no Reino Unido e restrições a recursos viciantes, como rolagem infinita – o aparentemente interminável fornecimento de novo material quando um usuário chega ao fim de seu feed – e vídeos em reprodução automática.
A geopolítica da tecnologia
Os veredictos dos julgamentos também coincidiram com uma mudança na geopolítica da tecnologia. Um medo de irritar Donald Trump, mantido por países de outra forma ansiosos para apertar o controle sobre as redes sociais, parece estar diminuindo. Figuras importantes da ala conservadora do partido Republicano do presidente dos EUA estão agora entre alguns dos mais vocais na exigência de proteções para crianças.
"Há muito tempo os governos delegavam à UE e aos Estados Unidos a definição de políticas de internet", disse Matt Kaufman, chefe de segurança da Roblox, uma plataforma de jogos e mensagens afetada pela proibição na Indonésia. "Agora todos os outros estão se atualizando e dizendo: 'Queremos fazer coisas que sejam certas para o nosso país'."
Tudo isso significa que o otimismo está começando a crescer entre os defensores da segurança. Esther Ghey, mãe da adolescente britânica assassinada Brianna Ghey, que vê muitas semelhanças entre a história de Kaley e a de Brianna, espera que mudanças estejam chegando.
"Finalmente, acho que isso vai criar uma mudança", disse ela ao Guardian após os veredictos desta semana.
A filha de Ghey foi morta em 2023 e ela acredita que o vício em redes sociais contribuiu para os problemas de saúde mental de sua filha, levando-a a correr riscos com sua segurança pessoal. Brianna, que era transgênero, ficou isolada como Kaley pelo uso intensivo de redes sociais e sofria de ansiedade e dismorfia corporal.
No entanto, uma longa luta legal ainda pode estar por vir, à medida que as empresas de tecnologia reagem. O Meta, uma empresa de US$ 1,4 trilhão, disse que "respeitosamente discorda" da decisão do júri e apelará. "A saúde mental dos adolescentes é profundamente complexa e não pode ser vinculada a um único aplicativo", disse. O Google também disse que apelará, acrescentando que o caso "mal-entende o YouTube, que é uma plataforma de streaming construída de forma responsável, não um site de redes sociais". A questão pode acabar indo para a suprema corte.
Também ficou claro esta semana que os barões da tecnologia ainda mantêm muito poder político. No mesmo dia do veredicto de Los Angeles, Trump nomeou Zuckerberg e o ex-chefe do Google Sergey Brin, que continua no conselho da empresa, para seu conselho de ciência e tecnologia.
Foco legal na plataforma, não no conteúdo
No entanto, o caso de Los Angeles está sendo considerado tão importante porque avança uma nova teoria jurídica: que um produto de software como um aplicativo de redes sociais pode ser defeituoso e causar danos pessoais.
Até agora, as plataformas de tecnologia eram protegidas pela seção 230 da Lei de Decência nas Comunicações dos EUA, que absolve as empresas de responsabilidade pelo conteúdo postado. Mas o veredicto de Los Angeles considerou responsável a própria plataforma, não o conteúdo.
"Essencialmente, este é um chamado às armas para advogados de autores, de que eles tiveram sucesso pelo menos uma vez em obter um veredicto de vários milhões de dólares contra a tecnologia", disse Jessica Nall, sócia do escritório de advocacia Withers, em San Francisco, que representa executivos de tecnologia.
A mensagem é: "Vamos em frente."
Os defensores estão falando sobre um "momento big tobacco" – um paralelo à onda de processos que forçou a indústria de cigarros dos EUA a reformular as práticas de marketing e fechar um acordo de bilhões de dólares com os estados dos EUA.
Arturo Béjar, denunciante do Meta e testemunha nos julgamentos do Novo México e da Califórnia, disse que esperava que o Meta redesenhasse seus produtos, voltando a analisar recursos como rolagem infinita e botões de "curtir".
"Acho que um dos aspectos mais importantes desses julgamentos é toda a documentação interna que está vendo a luz do dia, sobre o quanto o Meta sabia sobre esses danos e enganou pais e reguladores sobre isso", disse o ex-engenheiro sênior do Meta. "Espero que isso galvanize os reguladores em todo o mundo a fazer o que for necessário para tornar esses produtos demonstrativamente seguros."
No Reino Unido, os veredictos reforçaram uma expectativa crescente de uma proibição de menores de 16 anos acessarem redes sociais. Um lobista da tecnologia disse que a indústria estava "ciente de que estamos caminhando para uma proibição" e poderia "engoli-la", em parte porque não ganhava muito dinheiro com contas de crianças. Dentro do Whitehall, as pessoas comparam o momento à proibição de fumar em ambientes fechados há quase 20 anos, sugerindo que as pessoas se perguntarão por que não veio antes.
Na terça-feira, a justificativa para a mudança foi trazida para um foco aguçado na escola primária Cadbury Heath, em Bristol. O ministro de segurança online, Kanishka Narayan, encontrou uma classe de crianças de 10 e 11 anos, todas as quais usavam redes sociais.
"Quatro horas e então é [como] onde foi todo esse tempo?" disse um menino sobre seu hábito no YouTube. "Simplesmente se foi, rolando o tempo todo."
"Se torna viciante", disse outro. "Quando você fica muito tempo na tela, simplesmente não consegue dormir e então você fica acordado até duas ou três da manhã e depois tem aula no dia seguinte."
E, no entanto, restam dúvidas sobre quão "viciante" as redes sociais realmente são.
Definindo o vício em redes sociais
"Embora tenhamos uma riqueza de dados sobre o tempo de tela e o comportamento online das crianças, ainda sabemos muito pouco sobre como esses hábitos afetam a saúde, o bem-estar e as habilidades cognitivas das crianças", disse Chi Onwurah, presidente do comitê de seleção de ciência e tecnologia da Câmara dos Comuns, que lançou uma investigação esta semana sobre neurociência e infâncias digitais.
Testes limitados de uma proibição de redes sociais estão apenas começando no Reino Unido e Mark Griffiths, professor emérito de vício comportamental na Universidade de Nottingham Trent, disse: "Muito poucos indivíduos são genuinamente viciados em redes sociais.
"As empresas de redes sociais incorporaram características estruturais que foram projetadas para manter as pessoas nas plataformas pelo maior tempo possível", disse ele. "Esses recursos não afetam as pessoas igualmente, mas para aqueles que são vulneráveis ou suscetíveis, eles desempenham um papel no desenvolvimento do uso problemático."
Durante o julgamento da Califórnia, o CEO do Instagram, Adam Mosseri, disse que as redes sociais não são "clinicamente viciantes".
Isso poderia parecer uma distinção semântica para famílias que sofreram as piores consequências dos danos causados pelas redes sociais.
O advogado de Kaley, Mark Lanier, disse que recursos como notificações e "curtidas", reprodução automática e rolagem infinita equivaliam à "engenharia do vício". "Estes são cavalos de Troia: eles parecem maravilhosos e ótimos", disse ele. "Mas você os convida e eles tomam conta."
Ian Russell vem fazendo campanha pela segurança online desde que sua filha adolescente Molly Russell morreu de o que um legista concluiu ser um ato de automutilação enquanto sofria de depressão e "os efeitos negativos do conteúdo online". Russell disse que "nada mudou materialmente" no cerne das empresas de tecnologia nos últimos nove anos. Ele é cético em relação a uma proibição de redes sociais, argumentando que isso poderia diminuir a pressão sobre as empresas de tecnologia para consertar seus produtos.
"Agora precisamos de vontade política dos governos para transformar esses veredictos históricos em uma mudança fundamental nos modelos de negócios e recursos que impulsionam o conteúdo prejudicial e mantêm nossas crianças viciadas em redes sociais", disse ele.
Testemunhando durante o julgamento de Los Angeles, Zuckerberg admitiu que "uma empresa razoável deveria tentar ajudar as pessoas que usam seus serviços".
Béjar disse que esta semana foi um momento para o mundo impor esse princípio.
"Agora é a vez do mundo", disse ele. "O mundo precisa demonstrar que, com base em todo esse conhecimento, pode regular efetivamente essas empresas."