‘L’era dell’invisibilità è finita’: la settimana che ha messo a repentaglio la big tech

La giovane donna al cuore di ciò che è stato chiamato il “momento big tobacco” dell’industria tecnologica era su YouTube a sei anni e su Instagram a nove. Più di un decennio dopo, dice, non può vivere senza le social media a cui è diventata dipendente.
“Non posso, è troppo difficile essere senza di esse”, ha detto Kaley, ora 20, a un giudice del tribunale superiore di Los Angeles. Questa settimana, cinque uomini e sette donne hanno emesso un verdicto sulla progettazione di due delle app più popolari del mondo che ha giustificato la posizione di Kaley.
La sentenza ha scosso la Silicon Valley e ha suscitato speranza tra le famiglie e i sostenitori della sicurezza dei bambini che forse il cambiamento potrebbe finalmente arrivare nelle social media. Sono state riconosciute la responsabilità di Meta, di Mark Zuckerberg, e di YouTube, di Google, per aver progettato prodotti addictive usati da Kaley e da milioni di altri giovani.
Fu un caso centrato sul sofferenza di una giovane persona che diventò depressa a dieci anni e si autoinflicse ferite, ma Kaley, riferita con il suo nome o con le iniziali KGM per proteggere la sua privacy, è stata la figura testa per una lotta molto più grande.
“Volevamo che li sentissero”, ha spiegato uno dei giudici ai reporter. “Volevamo che realizzassero che questo era inaccettabile”.
“L’era della big tech invincibilità è finita”, ha dichiarato il Tech Oversight Project, un watchdog di Washington DC che si presenta come un David contro il Goliath della Silicon Valley. Anche il principe Harry ha commentato: “La verità è stata udita e un precedente è stato stabilito”. Le quote di Meta e di Alphabet, la società genitore di YouTube, sono scese.
La sentenza è stata la seconda colpo in una settimana per la big tech dopo che Meta, che possiede Facebook e Instagram, è stata condannata a pagare 375 milioni di dollari (£282 milioni) da un tribunale del New Mexico. Un giudice ha trovato che ha mentito ai consumatori sulla sicurezza delle sue piattaforme. Queste avevano funzionalità che “avevano abilitato paedofili e predatori a coinvolgere bambini in esplorazione sessuale” e erano progettate intenzionalmente per rendere i giovani dipendenti, ha detto il dipartimento di giustizia dello Stato.
A 6 milioni di dollari, i danni nel caso californiano sono relativamente piccoli, ma le conseguenze delle doppie sentenze saranno molto maggiori. Fu una settimana in cui una campagna anni lunga per trasferire il bilanciamento del potere tra big tech e bambini sembrava finalmente guadagnare momentum.
Meta, YouTube, Snapchat e TikTok sono sottoposti a migliaia di simili processi in tribunali statunitensi, che testano se le loro piattaforme sono state progettate per essere addictive. Se perdono, i danni potrebbero essere paralizzanti.
Internazionalmente, i governi stanno iniziando a limitare la grip della big tech sul tempo di attenzione dei bambini. Dalla prossima settimana, il governo indonesiano segue l’Australia in imporre la disattivazione di “account a rischio” di social media appartenenti a bambini sotto i 16 anni. Questo mese, il Brasile ha emanato una legge di sicurezza online per proteggere i bambini contro l’uso compulsivo, e nel Regno Unito il primo ministro, Keir Starmer, ha risposto alla sentenza di Los Angeles dicendo: “Dobbiamo fare di più per proteggere i bambini”. Ha citato un potenziale ban del 16 anni in UK e restrizioni su funzionalità addictive, come lo scorrimento infinito – l’apparente offerta illimitata di nuovo materiale quando un utente raggiunge il fine del suo feed – e i video con autoplay.
Il geopolitico del tech
Le sentenze dei processi hanno coinciso anche con un shift nel geopolitico del tech. Sembra che il timore di offensare Donald Trump, che aveva tenuto a bada i paesi altrimenti disposti a stringere il cavo sulle social media, stia diminuendo. Figure importanti sul lato conservatore del partito repubblicano del presidente sono ora tra i più vocali in chiedere protezioni per i bambini.
“Per molto tempo i governi hanno deferito all’UE e agli Stati Uniti il settore internet”, ha detto Matt Kaufman, capo della sicurezza di Roblox, una piattaforma di gioco e messaggistica influenzata dalla banda indonesiana. “Ora tutti gli altri stanno arrivando e dicono: ‘Vogliamo fare le cose che sono giuste per il nostro paese’”.
Tutto significa che l’ottimismo sta iniziando a crescere tra i sostenitori della sicurezza. Esther Ghey, madre dell’adolescente britannica Brianna Ghey, assassinata nel 2023, che vede molte similitudini tra la storia di Kaley e quella di Brianna, è speranzosa che il cambiamento sia vicino.
“Finalmente, credo che questo potrà creare un cambiamento”, ha detto alla Guardian dopo le sentenze di questa settimana.
Ghey’s figlia è stata uccisa nel 2023 e crede che l’addiction alle social media abbia contribuito alle sue problemi di salute mentale, portandola a prendere rischi con la sua sicurezza personale. Brianna, che era trans, si è isolata come Kaley grazie all’uso pesante delle social media, e ha sofferto di ansia e distorsione corporea.
Tuttavia, può ancora attendere un lungo lutto legale mentre le società tech si difendono. Meta, società di 1.4 trilioni di dollari, ha detto “non siamo d’accordo” con la sentenza del giudice e farà appello. “La salute mentale dei teen è profondamente complessa e non può essere collegata a un’unica app”, ha detto. Google ha detto che anche essa farà appello, aggiungendo che il caso “capovolge YouTube, che è una piattaforma streaming responsabilmente progettata, non una social media”. Il caso potrebbe finire a corte suprema.
È stato chiaro questa settimana che i barons del tech conservano abbastanza potere politico. Nella stessa giornata della sentenza di Los Angeles, Trump ha nominato Zuckerberg e il ex capo di Google Sergey Brin, che rimane nel consiglio della società, nel suo consiglio tecnologico e scientifico.
Focus sul piattaforma, non sul contenuto
Nonostante tutto, la sentenza di Los Angeles è considerata così importante perché avanza una nuova teoria legale: che un prodotto software come un’app di social media possa essere difettoso e causare danno personale.
Fino ad ora, le piattaforme tech sono state protette dalla sezione 230 dell’Act of Communications Decency, che ne absolve la responsabilità per il contenuto pubblicato. Ma la sentenza di Los Angeles ha riconosciuto la responsabilità della piattaforma stessa, non del contenuto.
“È essenzialmente un appello ai avvocati dei processi, che hanno avuto successo almeno una volta in ottenere un verdicto di milioni di dollari contro la tech”, ha detto Jessica Nall, partner del firm San Francisco Withers, che rappresenta avvocati della tech. Il messaggio è: “Andiamo a più”.
I sostenitori parlano di un “momento big tobacco” – una parallela alla wave di processi che hanno costretto l’industria dei sigari statunitensi a rivisitare le pratiche di marketing e a stipulare un accordo di settanta miliardi di dollari con gli stati uniti.
Arturo Béjar, whistleblower di Meta e testimone dei processi di New Mexico e California, ha detto spera che Meta rivisitino i suoi prodotti, guardando di nuovo funzionalità come lo scorrimento infinito e i pulsanti “mi piace”.
“Penso che uno degli aspetti più importanti di questi processi sia tutto il documentazione internazionale che sta venendo alla luce, riguardo a quanto Meta sava dei danni e mentiva ai genitori e ai regulatori su di esso”, ha detto l’ex ingegnere senior di Meta. “Spero che galvanizzi i regulatori in tutto il mondo a fare ciò che serve per rendere questi prodotti dimostrabilmente sicuri”.
Nella UK, le sentenze hanno rafforzato l’attesa crescente di un ban per i bambini sotto i 16 anni. Un lobbyist del tech ha detto che l’industria è “conscia che stiamo muovendo verso un ban” e potrebbe “accettarlo”, in parte perché non guadagnano molto da conto dei bambini. All’interno di Whitehall, le persone paragonano il momento alla banda all’interno del treno quasi vent’anni fa, suggerendo che la gente domanderebbe perché non sia arrivato prima.
Martedì, la ragione del cambiamento è stata messa in chiaro in scuola primaria Cadbury Heath a Bristol. Il ministro dell’online, Kanishka Narayan, ha incontrato una classe di bambini dai 10 ai 11 anni, tutti dei quali usano social media.
“Quattro ore e poi è [come] dove sono finiti quei tempi?” ha detto uno dei ragazzi sulle sue abitudini su YouTube. “È solo sparito, scorrendo tutto il tempo”.
“È additivo”, ha detto un altro. “Quando sei in frontale a schermi per molto tempo non puoi dormire e poi sei fino alle due o tre del mattino e poi hai la scuola il giorno dopo”.
Eppure, rimane dubbio su quanto “additivo” sia davvero la social media.
Definire l’addiction alla social media
“Nonostante abbiamo una ricca ricchezza di dati sul tempo di schermo e sul comportamento online dei bambini, sappiamo ancora troppo poco su come queste abitudini influenzano la salute, il benessere e le capacità cognitive dei bambini”, ha detto Chi Onwurah, presidente della commissione della scienza e della tecnologia della Camera dei comuni, che ha lanciato questa settimana un’inchiesta sulla neuroscienze e sui bambini digitali.
Trial limitati di un ban sulle social media sono solo in partenza nel Regno Unito e Mark Griffiths, professore emirato di addiczione comportamentale presso l’Università di Trento, ha detto: “Molte persone non sono veramente addictive alle social media”.
“Le società del tech hanno incorporato caratteristiche strutturali progettate per tenere le persone sulle piattaforme per il più lungo tempo possibile”, ha detto. “Queste funzionalità non influenzano ugualmente le persone, ma per quelle vulnerabili o sottomesse, giocano un ruolo nel sviluppo dell’uso problematico”.
Durante il processo californiano, l’ex direttore di Instagram, Adam Mosseri, ha detto che le social media non sono “addictive clinica”.
Questo potrebbe sembrare un’interpretazione spietata per le famiglie che hanno subito le peggiori conseguenze delle malattie social media.
Il legale di Kaley, Mark Lanier, ha detto che funzionalità come le notifiche e i “mi piace”, lo scorrimento infinito e l’autoplay sono “l’ingegneria dell’addiction”. “Sono trofei: sembrano meravigliose e grandi”, ha detto. “Ma vi invitate e poi vi prendono il controllo”.
Ian Russell ha militato per la sicurezza online da quando sua figlia Molly Russell è morta, nel 2023, per un atto di autoinflicta sofferenza depressiva e “gli effetti negativi del contenuto online”. Russell ha detto “niente è cambiato materialmente al cuore delle società tech negli ultimi nove anni”. È sospettoso di un ban sulle social media, argomentando che potrebbe diminuire la pressione sui firm per rivedere i loro prodotti.
“Ora abbiamo bisogno di una volontà politica dai governi per trasformare queste sentenze fondamentali in un cambiamento fondamentale nei modelli di business e nelle funzionalità che generano contenuti dannosi e mantengono i nostri bambini coinvolti nelle social media”, ha detto.
Testimoniando durante il processo di Los Angeles, Zuckerberg ha ammesso “una compagnia ragionevole dovrebbe cercare di aiutare le persone che usano i suoi servizi”.
Béjar ha detto che questa settimana è un momento per il mondo per far valere il suo principio.
“Ora è il turno del mondo”, ha detto. “Il mondo deve dimostrare che, basato su tutto questo sapere, può regolare efficacemente queste società”.