Bukan hipotesis: Bahaya AI sudah ada di depan mata | Granate Kim dan Mohamed Hussein

Dalam beberapa minggu terakhir, kekhawatiran tentang AI telah menciptakan aliansi yang tidak terduga di dunia teknologi dan kebijakan. Para taipan teknologi seperti Sam Altman, Elon Musk, dan Demis Hassabis bergabung dengan Dario Amodei, Satya Nadella, dan Bill Gates dalam membunyikan alarm tentang bahaya AI dan menyerukan perlambatan pengembangan teknologi tersebut meskipun bertahun-tahun berlomba untuk mendominasi. Senator Bernie Sanders bekerja sama dengan Steve Bannon untuk mendesak Kongres agar mengatur AI, yang telah menjadi salah satu dari sedikit isu yang menyatukan orang Amerika di seluruh spektrum politik.

Langkah terbaru ini sebagian dipicu oleh peringatan peneliti AI Jacob Coxon di Twitter/X bahwa perusahaan AI "berjudi dengan nyawa kita" dan percaya bahwa teknologi tersebut "dapat membunuh kita semua pada akhir dekade ini".

Kenyataannya, kita tidak perlu menunggu untuk melihat bagaimana AI akan membawa kematian dan kehancuran yang belum pernah terjadi sebelumnya, karena kita telah menyaksikan peluncurannya.

Esai Bill Gates yang hampir 6.000 kata pada akhir Agustus yang memperingatkan tentang AI dan potensi bahayanya bagi umat manusia bukanlah kejutan. Salah satu dari kami telah menjadi karyawan Microsoft selama hampir satu dekade, menyaksikan semua bahaya terungkap secara real time. Bersama-sama, kami telah menghabiskan dua tahun terakhir mengorganisir dengan karyawan dan aktivis Microsoft lainnya untuk mengungkap peran perusahaan dalam genosida warga Palestina di Gaza. Kami secara kolektif menyerukan Microsoft untuk memutuskan hubungan dengan militer Israel.

Tetapi bukan hanya Microsoft yang terlibat dalam kehancuran yang didorong oleh AI.

Perang genosida Israel di Gaza adalah medan uji coba penggunaan AI dalam peperangan dan hasilnya sangat meresahkan. Militer Israel menggunakan AI untuk mengidentifikasi orang yang akan dibunuh, dengan 12.000 target dihasilkan dan dibom hanya dalam bulan pertama. Hal ini dilakukan dengan sedikit atau tanpa pengawasan manusia yang berarti, sebagaimana didokumentasikan dalam penyelidikan oleh jurnalis Israel pemenang Oscar Yuval Abraham, yang film terbarunya NAZA, sebuah film yang diproduksi oleh Guardian, mencakup kesaksian yang mengerikan dari para prajurit yang terlibat.

Awal tahun ini di Iran, militer AS melancarkan serangan udara yang melibatkan AI yang menghantam Sekolah Dasar Shajareh Tayyebeh di Minab, Iran, menewaskan 156 anak-anak, guru, dan warga sipil lainnya. Serangan yang menyebabkan apa yang hampir pasti merupakan insiden korban sipil terburuk dalam perang tersebut, kemungkinan besar, adalah hasil dari "kesalahan penargetan" yang mengandalkan data yang salah.

Kengerian yang disebabkan oleh AI tidak terbatas pada orang-orang di luar negeri – mereka sudah dirasakan oleh komunitas rentan di AS. Departemen Keamanan Dalam Negeri menggunakan alat AI – termasuk Azure Microsoft – untuk memantau, menangkap, dan mendeportasi imigran dalam skala besar. Lembaga penegak hukum di seluruh negeri mengerahkan teknologi pengenalan wajah meskipun ada bukti bias algoritmik yang telah menyebabkan penangkapan dan pemenjaraan yang salah terhadap warga Amerika Latin dan Kulit Hitam. NYPD juga bermitra dengan Microsoft untuk membangun Sistem Kesadaran Domainnya, menggunakan Azure untuk terhubung ke 18.000 kamera keamanan, menurut New York Daily News, menciptakan sistem pengawasan massal yang telah meluas ke Georgia dan bagian lain dunia, termasuk Brasil dan Singapura. Pusat data yang memberi daya pada AI sedang dibangun di lingkungan pedesaan dan berpenghasilan rendah di seluruh AS di mana banyak orang hidup di bawah garis kemiskinan dan sekarang menghadapi ancaman kesehatan yang signifikan dari polusi udara yang disebabkan oleh fasilitas ini.

Meskipun banyak dari kerugian ini telah didokumentasikan selama bertahun-tahun, para pemimpin pemerintah sayap kanan terus menekan perbedaan pendapat melalui tindakan yang tidak jujur dan represif. Donald Trump menyebut risiko AI sebagai "hoax" dan mengatakan setiap upaya untuk membatasi kekuatan teknologi adalah bagian dari "konspirasi sakit". Anggota DPR dari Partai Republik telah menolak kekhawatiran publik tentang AI, menyalahkan disinformasi pemerintah Tiongkok atas penolakan publik terhadap pusat data. Menteri kebudayaan Israel, Miki Zohar, telah mengancam akan mencabut kewarganegaraan pembuat film NAZA Yuval Abraham dan Rachel Szor, menuduh mereka "pengkhianatan terhadap negara".

Satu hal yang jelas: masa depan berbahaya yang diperingatkan oleh Gates, Amodei, dan lainnya kepada kita sudah ada di sini, dan kita harus bertindak sekarang untuk mencegah kerugian lebih lanjut. Kami yang memiliki keluarga di Gaza, Lebanon, Iran, dan lingkungan AS yang diteror oleh ICE sudah mengenal orang-orang yang hidup melalui mimpi buruk itu.

Dalam beberapa minggu terakhir, kami telah melihat upaya yang menjanjikan dari para pembuat kebijakan AS yang mencoba untuk membatasi potensi kerugian teknologi AI. DPR baru-baru ini mengusulkan Frontier Act untuk menempatkan evaluator pihak ketiga di dalam perusahaan teknologi untuk melakukan penilaian keselamatan, dan awal bulan ini, Sanders dan perwakilan Greg Casar memperkenalkan Ban Artificial Superintelligence Act untuk menghentikan para pemimpin teknologi membangun dan mengembangkan teknologi yang tidak dapat dikendalikan oleh manusia.

RUU ini adalah titik awal yang baik. Tetapi mereka bisa memakan waktu bertahun-tahun untuk disahkan dan tidak mengatasi kehancuran yang sudah terjadi. Perusahaan AI Frontier dan pemerintah harus bertindak sekarang untuk melarang penjualan dan penggunaan teknologi AI dalam penargetan militer, sistem senjata otonom, dan pengawasan massal. Inilah yang diserukan oleh karyawan dari Anthropic, OpenAI, dan Google DeepMind.

Kita hidup melalui momen yang berharga dan singkat ketika kita masih dapat menghadapi kerugian yang telah disebabkan oleh AI kepada yang paling rentan dan melakukan koreksi arah sebelum mereka menjadi tidak dapat diubah, menyebar ke lebih banyak komunitas. Kita perlu menetapkan pagar pembatas yang jelas sekarang dan membentuk masa depan AI sehingga melindungi semua orang, bukan hanya segelintir orang yang memiliki hak istimewa.

- Mohamed Hussein mengorganisir dengan No Azure for Apartheid, sebuah gerakan yang dipimpin karyawan yang menyerukan Microsoft untuk mengakhiri keterlibatannya dengan militer Israel. Dia juga seorang pemimpin di Palestinians and Allies at Microsoft, sebuah kelompok karyawan internal. - Granate Kim bekerja dengan No Azure for Apartheid dan merupakan Direktur Kampanye di MPower Change, sebuah organisasi yang memobilisasi komunitas Muslim untuk membela hak asasi manusia.