'Zaman ketidak terkalahkan telah berakhir': pekan yang membawa teknologi besar ke bawah kendali

Perempuan muda di jantung apa yang disebut sebagai “momen tembakau besar” industri teknologi berada di YouTube pada usia enam tahun dan Instagram pada usia sembilan. Lebih dari satu dekade kemudian, dia mengatakan, dia masih tidak bisa hidup tanpa media sosial yang membuatnya kecanduan.
“Saya tidak bisa, terlalu sulit untuk tidak menggunakannya,” Kaley, sekarang berusia 20 tahun, mengatakan kepada juri di pengadilan superior Los Angeles. Minggu ini, lima pria dan tujuh wanita memberikan putusan tentang desain dua aplikasi paling populer di dunia yang membenarkan posisi Kaley.
Putusan itu mengirimkan gelombang kejut ke Silicon Valley dan memicu harapan di antara keluarga dan kampanye keselamatan anak bahwa perubahan mungkin akhirnya datang ke media sosial. Meta milik Mark Zuckerberg dan YouTube milik Google dinyatakan bertanggung jawab karena sengaja mendesain produk-produk adiktif yang digunakan oleh Kaley dan jutaan anak muda lainnya.
Itu adalah satu kasus yang berpusat pada penderitaan satu orang muda yang menjadi depresi pada usia 10 tahun dan menyakiti diri sendiri, tetapi Kaley, yang disebut dengan nama depannya atau inisial KGM untuk melindungi privasinya, adalah tokoh sentral dalam perjuangan yang jauh lebih besar.
“Kami ingin mereka merasakannya,” kata salah satu juri kepada para reporter. “Kami ingin mereka menyadari bahwa ini tidak dapat diterima.”
“Era ketidakmampuan teknologi besar telah berakhir,” kata Tech Oversight Project, sebuah badan pengawas di Washington DC yang menyebut dirinya sebagai David bagi Goliath Silicon Valley. Bahkan Pangeran Harry ikut angkat bicara: “Kebenaran telah didengar dan preseden telah ditetapkan.” Harga saham Meta dan Alphabet, perusahaan induk Google, anjlok.
Putusan itu merupakan pukulan kedua dalam seminggu bagi teknologi besar setelah Meta, yang memiliki Facebook dan Instagram, diperintahkan untuk membayar $375 juta (£282 juta) oleh pengadilan New Mexico. Sebuah juri menemukan bahwa mereka menyesatkan konsumen tentang keamanan platform mereka. Platform-platform tersebut memiliki fitur-fitur yang “memungkinkan paedofil dan predator untuk terlibat dalam eksploitasi seksual anak” dan sengaja dirancang untuk membuat anak muda menjadi kecanduan, kata departemen keadilan negara bagian.
Pada angka $6 juta, ganti rugi dalam gugatan California relatif kecil, tetapi konsekuensi dari putusan ganda itu akan jauh lebih besar. Itu adalah minggu di mana kampanye selama bertahun-tahun untuk menggeser keseimbangan kekuatan antara teknologi besar dan anak-anak akhirnya tampak mendapatkan momentum.
Meta, YouTube, Snapchat, dan TikTok menghadapi ribuan gugatan serupa di pengadilan AS, menguji apakah platform mereka dirancang untuk membuat ketagihan. Jika mereka kalah, ganti rugi bisa melumpuhkan.
Secara internasional, pemerintah mulai membatasi cengkeraman teknologi besar pada perhatian anak-anak. Mulai akhir pekan ini, pemerintah Indonesia mengikuti Australia dalam mewajibkan penonaktifan akun media sosial “berisiko tinggi” yang dimiliki anak di bawah usia 16 tahun. Bulan ini, Brasil mengesahkan undang-undang keselamatan online untuk melindungi anak-anak dari penggunaan kompulsif, dan di Inggris, perdana menteri, Keir Starmer, menanggapi putusan LA dengan mengatakan: “Kita perlu melakukan lebih banyak untuk melindungi anak-anak.” Dia mengutip potensi larangan media sosial untuk anak di bawah usia 16 tahun dan pembatasan fitur-fitur adiktif, seperti menggulir tak terbatas – pasokan materi baru yang tampaknya tak ada habisnya ketika pengguna mencapai akhir umpan mereka – dan video autoplay.
Geopolitik teknologi
Putusan persidangan juga bertepatan dengan pergeseran dalam geopolitik teknologi. Ketakutan untuk menyinggung Donald Trump, yang dipegang oleh negara-negara yang ingin memperketat tali kendali atas media sosial, tampaknya mereda. Tokoh-tokoh terkemuka dari sayap konservatif Partai Republik AS kini menjadi beberapa yang paling vokal dalam menuntut perlindungan bagi anak-anak.
“Selama ini pemerintah menunda-nunda kepada Uni Eropa dan Amerika Serikat untuk menetapkan kebijakan internet,” kata Matt Kaufman, kepala keselamatan di Roblox, sebuah platform permainan dan pesan yang terkena dampak larangan Indonesia. “Sekarang semua orang mengejar dan berkata: ‘Kami ingin melakukan hal-hal yang tepat untuk negara kami.’”
Semua ini berarti optimisme mulai tumbuh di kalangan kampanye keselamatan. Esther Ghey, ibu dari remaja Inggris Brianna Ghey yang dibunuh, yang melihat banyak kesamaan antara kisah Kaley dan Brianna, berharap perubahan akan datang.
“Akhirnya, saya pikir ini akan menciptakan pergeseran,” katanya kepada The Guardian setelah putusan minggu ini.
Putri Ghey dibunuh pada tahun 2023 dan dia percaya kecanduan media sosial berkontribusi pada masalah kesehatan mental putrinya, yang menyebabkan dia mengambil risiko dengan keselamatannya sendiri. Brianna, yang transgender, menjadi terisolasi seperti Kaley melalui penggunaan media sosial yang berlebihan, dan menderita kecemasan dan dismorfia tubuh.
Namun, perjuangan hukum yang panjang mungkin masih ada karena perusahaan teknologi melawan balik. Meta, perusahaan senilai $1,4 triliun, mengatakan “kami tidak setuju dengan keputusan juri” dan akan mengajukan banding. “Kesehatan mental remaja sangat kompleks dan tidak dapat dikaitkan dengan satu aplikasi pun,” katanya. Google mengatakan mereka juga akan mengajukan banding, menambahkan bahwa kasus tersebut “salah memahami YouTube, yang merupakan platform streaming yang dibuat secara bertanggung jawab, bukan situs media sosial.” Masalah ini pada akhirnya dapat dibawa ke Mahkamah Agung.
Juga jelas minggu ini bahwa para baron teknologi masih memiliki pengaruh politik yang besar. Pada hari yang sama dengan putusan LA, Trump menunjuk Zuckerberg dan mantan bos Google, Sergey Brin, yang tetap berada di dewan perusahaan, ke dewan sains dan teknologinya.
Fokus hukum pada platform, bukan konten
Terlepas dari itu, kasus LA dianggap sangat penting karena memajukan teori hukum baru: bahwa produk perangkat lunak seperti aplikasi media sosial dapat cacat dan menyebabkan cedera pribadi.
Hingga saat ini, platform teknologi dilindungi oleh bagian 230 dari Undang-Undang Kesusilaan Komunikasi AS, yang membebaskan perusahaan dari tanggung jawab atas konten yang diposting. Tetapi putusan LA menemukan tanggung jawab dengan platform itu sendiri, bukan kontennya.
“Ini pada dasarnya adalah seruan untuk bertindak bagi pengacara penggugat, bahwa mereka telah berhasil setidaknya sekali mendapatkan putusan jutaan dolar terhadap teknologi,” kata Jessica Nall, mitra di firma hukum San Francisco Withers, yang mewakili eksekutif teknologi.
Pesan itu adalah: “Mari kita mengejar lebih banyak.”
Para aktivis berbicara tentang “momen tembakau besar” – sebuah paralel dengan gelombang gugatan yang memaksa industri rokok AS untuk merevisi praktik pemasaran dan mencapai penyelesaian multi-miliar dolar dengan negara bagian AS.
Arturo Béjar, seorang pembocor Meta dan saksi dalam persidangan New Mexico dan California, mengatakan dia berharap Meta akan mendesain ulang produknya, meninjau kembali fitur-fitur seperti menggulir tak terbatas dan tombol “suka”.
“Saya pikir salah satu aspek terpenting dari persidangan ini adalah semua dokumentasi internal yang mulai terungkap, tentang seberapa banyak Meta tahu tentang bahaya ini dan menyesatkan orang tua dan regulator tentang hal itu,” kata mantan insinyur senior di Meta. “Saya harap ini membangkitkan regulator di seluruh dunia untuk melakukan apa yang diperlukan untuk membuat produk-produk ini terbukti aman.”
Di Inggris, putusan itu memperkuat harapan yang berkembang tentang larangan anak di bawah usia 16 tahun mengakses media sosial. Seorang pelobi teknologi mengatakan industri “sadar kita bergerak menuju larangan” dan dapat “menelannya”, sebagian karena mereka tidak menghasilkan banyak uang dari akun anak-anak. Di dalam Whitehall, orang-orang membandingkan momen itu dengan larangan merokok di dalam ruangan hampir 20 tahun yang lalu, menunjukkan bahwa orang-orang akan bertanya-tanya mengapa itu tidak datang lebih cepat.
Pada hari Selasa, rasional untuk perubahan menjadi fokus tajam di sekolah dasar Cadbury Heath di Bristol. Menteri keselamatan online, Kanishka Narayan, bertemu dengan kelas anak-anak berusia 10 dan 11 tahun, yang semuanya menggunakan media sosial.
“Empat jam dan kemudian [seperti] ke mana perginya semua waktu itu?” kata seorang anak laki-laki tentang kebiasaannya di YouTube. “Hanya hilang, menggulir terus-menerus.”
“Ini membuat ketagihan,” kata yang lain. “Ketika Anda berada di layar untuk waktu yang lama Anda hanya tidak bisa tidur dan kemudian Anda bangun hingga dua atau tiga pagi dan kemudian Anda memiliki sekolah keesokan harinya.”
Dan namun keraguan tetap tentang seberapa “adiktif” media sosial sebenarnya.
Mendefinisikan kecanduan media sosial
“Meskipun kita memiliki banyak data tentang waktu layar anak-anak dan perilaku online, kita masih tahu terlalu sedikit tentang bagaimana kebiasaan ini memengaruhi kesehatan, kesejahteraan, dan kemampuan kognitif anak-anak,” kata Chi Onwurah, ketua komite pemilihan sains dan teknologi Commons, yang meluncurkan penyelidikan minggu ini tentang neurosains dan masa kanak-kanak digital.
Uji coba terbatas dari larangan media sosial baru saja dimulai di Inggris dan Mark Griffiths, profesor emeritus kecanduan perilaku di Nottingham Trent University, mengatakan: “Sangat sedikit individu yang benar-benar kecanduan media sosial.”
“Perusahaan media sosial telah memasukkan karakteristik struktural yang dirancang untuk membuat orang tetap berada di platform selama mungkin,” katanya. “Fitur-fitur ini tidak memengaruhi semua orang secara merata, tetapi bagi mereka yang rentan atau rentan, mereka memainkan peran dalam pengembangan penggunaan yang bermasalah.”
Selama persidangan California, CEO Instagram, Adam Mosseri, mengatakan bahwa media sosial tidak “secara klinis adiktif”.
Ini bisa tampak seperti memilah-milah bagi keluarga yang telah menderita konsekuensi terburuk dari bahaya media sosial.
Pengacara Kaley, Mark Lanier, mengatakan fitur-fitur seperti notifikasi dan “suka”, autoplay, dan menggulir tak terbatas berjumlah “rekayasa kecanduan”. “Ini adalah kuda Troya: mereka terlihat indah dan hebat,” katanya. “Tetapi Anda mengundang mereka masuk dan mereka mengambil alih.”
Ian Russell telah mengkampanyekan keselamatan online sejak kematian putrinya Molly Russell yang tragis dari apa yang disimpulkan seorang coroner sebagai tindakan menyakiti diri sendiri sambil menderita depresi dan “efek negatif dari konten online”. Russell skeptis tentang larangan media sosial, berpendapat bahwa itu dapat mengurangi tekanan pada perusahaan teknologi untuk memperbaiki produk mereka.
“Sekarang kita membutuhkan kemauan politik dari pemerintah untuk mengubah putusan penting ini menjadi pergeseran mendasar dalam model bisnis dan fitur yang mendorong konten berbahaya dan membuat anak-anak kita ketagihan pada media sosial,” katanya.
Menyatakan bahwa “perusahaan yang wajar harus mencoba membantu orang yang menggunakan layanannya,” Zuckerberg.
Béjar mengatakan minggu ini adalah momen bagi dunia untuk menegakkan prinsip itu.
“Sekarang giliran dunia,” katanya. “Dunia perlu menunjukkan, berdasarkan semua pengetahuan ini, bahwa dapat secara efektif mengatur perusahaan-perusahaan ini.”