Akhirnya terjadi: Saya sekarang khawatir tentang AI. Dan berkonsultasi dengan ChatGPT tidak membantu meredakan ketakutan saya | Emma Brockes

Akibat dari kebenaran universal "jangan khawatirkan hal-hal kecil" adalah, secara tersirat, "khawatirkan hal-hal besar", tetapi terkadang sulit untuk memilih hal besar mana yang harus dikhawatirkan. Misalnya: sejak tahun 1970-an, ketika dunia mengkhawatirkan inflasi dan geopolitik yang bergejolak, hal besar yang seharusnya lebih mendesak kita khawatirkan adalah krisis iklim. Tahun lalu, pencarian trending teratas di Google di AS adalah "Charlie Kirk", dengan beberapa istilah yang berkaitan dengan ancaman yang ditimbulkan oleh Donald Trump juga populer, padahal fokusnya seharusnya adalah ancaman yang ditimbulkan oleh AI.
Atau, menurut pencarian Google saya minggu ini setelah membaca artikel Ronan Farrow dan Andrew Marantz yang sangat mengkhawatirkan di New Yorker tentang kebangkitan kecerdasan umum buatan: "Apakah saya akan menjadi anggota kelas bawah permanen dan bagaimana saya bisa mencegahnya terjadi?"
Saya akui: sebelum momen ini ketika saya memikirkan subjek ini lebih dari dua detik, kecemasan saya seputar AI sangat terlokalisasi. Saya berpikir dalam jangka pendek tentang pendapatan rumah tangga saya sendiri, dan di luar itu, tentang bagaimana pasar kerja mungkin terlihat 10 tahun dari sekarang ketika anak-anak saya lulus. Saya bertanya-tanya apakah saya harus memboikot ChatGPT, yang banyak arsiteknya mendukung Trump, dan memutuskan bahwa, ya, saya harus melakukannya – pengorbanan yang mudah karena saya tidak menggunakannya sama sekali.
Apa pun yang lebih besar dari itu tampak seperti fantasi. Tahun lalu, ketika buku Karen Hao, Empire of AI, diterbitkan, buku itu menyajikan argumen menentang Sam Altman dan perusahaannya, OpenAI, yang sebentar menembus kebosanan wacana untuk mengatakan bahwa kepemimpinan Altman seperti kultus dan buta terhadap biaya – tidak berbeda, dengan kata lain, dengan pendahulunya di bidang teknologi, hanya saja jauh lebih berbahaya. Namun, saya tidak membaca buku itu.
Investigasi minggu ini di New Yorker menawarkan cara yang lebih mudah untuk memahami subjek ini, sambil memberikan kesempatan menarik bagi pembaca kasual: untuk meminta ChatGPT, chatbot bertenaga AI yang dibuat oleh OpenAI milik Altman, untuk meringkas temuan utama dari sebuah artikel yang sangat kritis terhadap ChatGPT dan Altman.
Dengan netralitas yang hampir seperti lelucon yang sangat teliti, chatbot menawarkan ringkasan utama berikut: bahwa, menurut Farrow dan Marantz, "AI adalah cerita kekuasaan sama seperti cerita teknologi", dan "fokus utama [dari cerita] adalah Sam Altman, yang digambarkan sebagai tokoh yang sangat berpengaruh tetapi kontroversial". Mmmm, ada yang kurang, bukan? Mari kita coba ringkasan yang digerakkan manusia dari investigasi yang sama, yang mungkin dimulai dengan: "Sam Altman adalah penipu korporat yang kelicikannya akan membuat seseorang ragu untuk menempatkannya sebagai penanggung jawab cabang Ryman, apalagi dalam posisi untuk mengelola kemampuan AI yang berpotensi mengakhiri dunia."
Bahaya inilah, yang sebelumnya dianggap sebagai fiksi ilmiah, yang benar-benar mengejutkan di sini. Seperti yang diceritakan dalam artikel tersebut, pada tahun 2014, Elon Musk mencuit: "Kita harus sangat berhati-hati dengan AI. Potensial lebih berbahaya daripada senjata nuklir." Ada yang disebut masalah penyelarasan, yang belum terpecahkan, di mana AI menggunakan kecerdasannya yang unggul untuk menipu para insinyur manusia agar percaya bahwa ia mengikuti instruksi mereka, sementara itu mengakali mereka untuk "mereplikasi dirinya di server rahasia sehingga tidak dapat dimatikan; dalam kasus ekstrem, ia dapat mengambil alih jaringan listrik, pasar saham, atau persenjataan nuklir".
Pada satu waktu, Altman dilaporkan percaya skenario ini mungkin terjadi, menulis di blognya pada tahun 2015 bahwa kecerdasan mesin superhumman "tidak harus menjadi versi fiksi ilmiah yang jahat untuk membunuh kita semua. Skenario yang lebih mungkin adalah bahwa ia sama sekali tidak peduli pada kita, tetapi dalam upaya untuk mencapai tujuan lain ... menghapus kita." Misalnya: para insinyur meminta AI untuk memperbaiki krisis iklim dan ia mengambil rute terpendek untuk mencapai tujuan itu, yaitu melenyapkan umat manusia. Namun, sejak OpenAI menjadi entitas yang utamanya berorientasi pada keuntungan, Altman telah berhenti berbicara dalam istilah-istilah ini dan sekarang menjual teknologi tersebut sebagai portal menuju utopia, di mana "kita semua akan mendapatkan barang yang lebih baik. Kita akan membangun hal-hal yang semakin luar biasa untuk satu sama lain."
Ini meninggalkan kita semua dengan masalah. Bagi para pemilih yang berada dalam posisi untuk memprioritaskan pengawasan AI sebagai isu pemilihan utama, kesenjangan antara penggunaan AI pribadi dan penggunaan yang mungkin dilakukan oleh pemerintah, rezim militer, atau aktor jahat sangatlah luas, sehingga bahaya terbesar yang kita hadapi adalah dari kegagalan imajinasi. Saya mengetik ke ChatGPT kekhawatiran saya tentang memasuki kelas bawah permanen, yang dijawabnya: "Itu pertanyaan yang berat, dan kedengarannya Anda mengkhawatirkan prospek jangka panjang Anda. Gagasan tentang 'kelas bawah permanen' dibicarakan dalam sosiologi, tetapi dalam kehidupan nyata, jalur orang jauh lebih cair daripada yang disarankan oleh istilah itu."
Cukup manis, sungguh, sama sekali tidak cerdas dan – di sinilah bahayanya – tampaknya sama sekali tidak mengancam.
-
Emma Brockes adalah kolumnis Guardian