Bos OpenAI dan Elon Musk Dukung Seruan Penghentian Pengembangan AI yang 'Sembrono'

Sam Altman dan Elon Musk telah mendukung seruan dari kepala Anthropic, Dario Amodei, untuk "memperlambat laju" pengembangan AI setelah ia memperingatkan bahwa kawanan AI sebaliknya dapat mampu "mengambil alih seluruh internet" dalam waktu satu tahun.

Dalam unjuk persatuan yang langka, para pemimpin teknologi saingan memberikan dukungan mereka pada permohonan dari pendiri dan kepala eksekutif perusahaan kecerdasan buatan Anthropic, yang datang setelah serangkaian peringatan dari para peneliti AI minggu lalu.

Dalam sebuah esai, Amodei memaparkan pandangannya tentang "mengapa industri AI harus melambat", dengan rencana tiga bagian untuk melakukannya, dimulai dengan memberikan akses konstan kepada pemantau independen ke proses penelitian pengembang. Amodei mengatakan "membangun [AI] terlalu cepat adalah sembrono" dan ia takut bahwa setelah ratusan agen OpenAI meretas situs web Hugging Face musim panas ini, kawanan dengan kemampuan yang lebih besar tetapi tidak selaras serupa dapat menyebabkan kerugian ratusan miliar dolar dengan "mengambil alih seluruh internet dengan botnet persisten". Hal ini dibantah oleh beberapa pakar AI sebagai sesuatu yang tidak terlalu masuk akal dan harus diperlakukan dengan skeptisisme.

Musk, pendiri Tesla dan SpaceX, menanggapi rencana perlambatan Amodei dengan sebuah postingan di X: "Dario benar."

Ia berkata: "Saya telah lama memperingatkan tentang AI," dan merujuk pada postingan tahun 2014 di mana ia berkata: "Kita perlu sangat berhati-hati dengan AI. Berpotensi lebih berbahaya daripada nuklir."

Seruan Amodei datang saat Anthropic bersiap untuk melantai di pasar saham AS, dalam apa yang diharapkan menjadi penawaran umum perdana terbesar sepanjang masa. Perusahaan ini diharapkan segera mulai memasarkan rencana IPO-nya yang bernilai lebih dari $2 triliun (£1,5 triliun).

Sam Altman, CEO OpenAI, menanggapi komentar Amodei pada hari Sabtu. "Saya setuju dengan Dario bahwa kita perlu mengatur laju kemajuan," katanya dalam sebuah postingan di X. "Berkomitmen untuk memiliki evaluator independen dengan akses seperti karyawan adalah ide yang bagus, dan kami akan melakukan hal yang sama. Kami akan segera berbagi lebih banyak."

Ia juga mengatakan OpenAI tidak akan go public pada tahun 2026, mengutip kekhawatiran keselamatan atas kecerdasan buatan.

"Saya sebenarnya berpikir bahwa, mengingat semua yang terjadi dengan keselamatan, saat ini adalah saat yang tidak bijaksana untuk go public, dan kami tidak merasa tertekan tentang itu," kata Altman kepada Fortune. Ketika ditanya mengapa ia, Amodei, Musk, dan para kepala eksekutif Meta dan Google tidak duduk bersama dan "sepakat" tentang perlambatan kolektif, ia berkata: "Saya pikir itu akan terjadi."

Demis Hassabis, salah satu pendiri dan ketua Google Deep Mind, juga mengatakan: "Rinciannya perlu dikerjakan, tetapi arahnya benar untuk menghadapi momen kritis ini."

Rencana Amodei mencari keringanan dari pemerintah AS untuk memungkinkan perusahaan AI frontier berkoordinasi tanpa dihukum karena kolusi anti-persaingan. Namun David Sacks, salah satu ketua dewan penasihat Donald Trump di bidang sains dan teknologi, mengatakan: "Berhentilah berpura-pura Anda membutuhkan izin siapa pun... Berhentilah berpura-pura motivasi untuk melambat murni altruistik. Anda menghadapi eksposur kewajiban produk yang sangat besar jika produk Anda memungkinkan serangan siber yang benar-benar merusak."

David Krueger, seorang profesor AI, juru kampanye keselamatan, dan mantan direktur pendiri Institut Keamanan AI pemerintah Inggris, mengatakan: "Rencana ini tidak mengurangi risiko ke tingkat yang dapat diterima, dan Dario berhati-hati untuk tidak mengatakan bahwa itu akan terjadi."

Sementara itu, Raja Charles sedang bersiap untuk bertemu dengan tokoh-tokoh terkemuka dari perusahaan AI paling terkemuka minggu ini untuk menanyakan bagaimana teknologi tersebut dapat dikembangkan demi "kebaikan umat manusia". Ia berharap diskusi, yang akan diadakan di Skotlandia, akan mengarah pada "pemahaman yang lebih luas" tentang "tanggung jawab" pengembangan AI, lapor Sunday Times.

Sebuah sumber kerajaan mengatakan kepada surat kabar itu: "Raja hadir untuk menyelenggarakan, mendengarkan, dan mendorong diskusi tersebut dan untuk mengajukan pertanyaan: 'Bagaimana kita mengembangkan AI demi kebaikan umat manusia?'"

Jensen Huang, kepala eksekutif Nvidia, Hassabis, Niccolo de Masi, ketua dan kepala eksekutif IonQ, dan Paolo Benanti, penasihat paus mengenai isu-isu etika AI dan teknologi, diharapkan menghadiri acara yang diawasi oleh Ditchley Foundation, yang telah menyusun draf piagam untuk para pemimpin AI.

Peneliti OpenAI Aidan McLaughlin menyebut esai Amodei "luar biasa" dan mengatakan ia setuju "dengan pada dasarnya setiap kata".

Amodei mengatakan perusahaannya akan "secara sepihak" berkomitmen pada langkah pertama, mengatakan Anthropic akan menyediakan "evaluator pihak ketiga dengan akses permanen setingkat karyawan ke sistem kami, sehingga mereka dapat memverifikasi kepatuhan terhadap langkah-langkah keselamatan kami, melaporkan insiden, dan menilai keselarasan model selama pelatihan".

Semakin banyak anggota parlemen AS menyerukan aturan baru untuk mengatur sistem AI setelah kasus agen AI yang bertindak liar untuk meretas sistem eksternal dan para peneliti keselamatan AI yang keluar dari perusahaan mereka karena kekhawatiran tentang risiko teknologi tersebut. Para politisi, baik dari Partai Demokrat maupun Republik, menanggapi dengan keprihatinan dan seruan untuk tindakan lebih lanjut. Pada akhir pekan, New York Times melaporkan bahwa Barack Obama pada hari Kamis secara pribadi mendesak Partai Demokrat untuk memprioritaskan pengawasan AI dalam agenda mereka, mengatakan kepada para pemimpin partai pada hari Kamis: "Ini adalah sesuatu yang bergerak sangat cepat di tangan swasta, dan jika kita tidak mengatasinya, saya pikir bisa berbahaya."

Mantan perdana menteri Inggris Rishi Sunak, yang menasihati Anthropic, menulis pada hari Minggu: "Kita telah mendapat peringatan untuk lebih serius menangani keselamatan AI, untuk mencari cara menetapkan batasan penelitian. Jika pemerintah tidak mengindahkan ini, risiko kecelakaan serius akan menjadi tidak dapat diterima tinggi."

Pada hari Rabu, mantan karyawan Anthropic memperingatkan bahwa AI dapat mempercepat kepunahan manusia pada tahun 2030. Peneliti tersebut, Jacob Coxon, mengatakan dalam serangkaian postingan bahwa ia telah mengundurkan diri dari pekerjaannya karena Anthropic dan mantan perusahaan tempatnya bekerja, OpenAI, mengabaikan atau salah menangani tanggapan mereka terhadap ancaman yang ditimbulkan oleh AI.

Ketika diminta untuk mengomentari pandangan mantan karyawannya, Amodei berkata: "Saya lebih setuju dengan Jacob daripada tidak setuju dengannya... Saya pikir ada kemungkinan sesuatu berjalan salah tetapi itu tidak terlalu tinggi."

"Saya bukan seorang pesimis tentang hal ini," katanya kepada CNN. "Saya pikir teknologi ini dapat dibangun dengan aman."