Google dilaporkan menandatangani perjanjian AI klasifikasi dengan Pentagon AS

Google dilaporkan telah menandatangani perjanjian dengan Pentagon AS untuk menggunakan model kecerdasan buatan (AI) miliknya untuk pekerjaan klasifikasi. Perusahaan teknologi ini bergabung dengan daftar perusahaan Lembah Silikon yang semakin banyak yang menjalin perjanjian dengan militer AS.

Perjanjian tersebut memungkinkan Pentagon untuk menggunakan AI Google untuk “tujuan pemerintah yang sah”, laporan dari The Information menambahkan, menempatkannya bersama OpenAI dan xAI milik Elon Musk, yang juga memiliki perjanjian untuk memasok model AI untuk penggunaan klasifikasi. Perjanjian serupa, baik di Google maupun perusahaan AI lainnya, telah memicu ketidaksepakatan yang signifikan dengan Pentagon dan penolakan karyawan utama.

Jaringan klasifikasi digunakan untuk menangani berbagai macam pekerjaan sensitif, termasuk perencanaan misi dan penargetan senjata. Pentagon menandatangani perjanjian senilai hingga $200 juta setiap dengan laboratorium AI utama pada tahun 2025, termasuk Anthropic, OpenAI, dan Google. Badan pemerintah tersebut telah mendorong perusahaan AI teratas seperti OpenAI dan Anthropic untuk menyediakan alat mereka pada jaringan klasifikasi tanpa batasan standar yang mereka terapkan untuk pengguna.

Perjanjian Google mengharuskan perusahaan tersebut untuk membantu dalam menyesuaikan pengaturan dan filter keamanan AI perusahaan atas permintaan pemerintah, menurut laporan The Information.

Kontrak tersebut mencakup bahasa yang menyatakan, “para pihak setuju bahwa Sistem AI tidak dimaksudkan untuk, dan tidak boleh digunakan untuk, pengawasan massal domestik atau senjata otonom (termasuk pemilihan target) tanpa pengawasan dan kendali manusia yang tepat.”

Namun, perjanjian tersebut juga menyatakan bahwa perjanjian tersebut tidak memberi Google hak untuk mengendalikan atau memveto pengambilan keputusan operasional pemerintah yang sah, laporan tersebut menambahkan.

Pentagon menolak berkomentar mengenai masalah tersebut.

Google mengatakan mendukung badan pemerintah di seluruh proyek klasifikasi dan non-klasifikasi. Seorang juru bicara perusahaan mengatakan bahwa perusahaan tetap berkomitmen pada konsensus bahwa AI tidak boleh digunakan untuk pengawasan massal domestik atau persenjataan otonom tanpa pengawasan manusia yang tepat.

“Kami percaya bahwa penyediaan akses API ke model komersial kami, termasuk pada infrastruktur Google, dengan praktik dan persyaratan standar industri, mewakili pendekatan yang bertanggung jawab untuk mendukung keamanan nasional,” kata juru bicara Google kepada Reuters.

Pentagon telah mengatakan bahwa pihaknya tidak tertarik menggunakan AI untuk melakukan pengawasan massal terhadap warga Amerika atau untuk mengembangkan senjata mematikan yang beroperasi tanpa keterlibatan manusia, tetapi ingin mengizinkan “setiap penggunaan yang sah” dari AI. Anthropic menghadapi dampak dengan Pentagon sebelumnya pada tahun ini setelah startup menolak untuk menghapus batasan terhadap penggunaan AI-nya untuk senjata otonom atau pengawasan domestik, dan departemen tersebut menunjuk pembuat Claude sebagai risiko rantai pasokan.

Perjanjian Google dengan Pentagon terjadi meskipun ada kekhawatiran karyawan bahwa pekerjaan mereka dapat digunakan dengan cara yang “tidak manusiawi atau sangat berbahaya”, seperti yang tertulis dalam surat dari karyawan Google.

Pada hari Senin, lebih dari 600 pekerja Google menandatangani surat terbuka kepada CEO, Sundar Pichai, yang mengungkapkan kekhawatiran tentang negosiasi antara Google dan Pentagon.

“Kami merasa bahwa kedekatan kami dengan teknologi ini menciptakan tanggung jawab untuk menyoroti dan mencegah penggunaan yang paling tidak etis dan berbahaya,” tulis mereka. “Oleh karena itu, kami meminta Anda untuk menolak membuat sistem AI kami tersedia untuk beban kerja klasifikasi.”

Tahun lalu, pemilik Google, Alphabet, mencabut larangan penggunaan AI untuk alat senjata dan pengawasan. Perusahaan tersebut menghapus bahasa dalam pedoman etisnya yang menjanjikan bahwa perusahaan tidak akan mengejar “teknologi yang menyebabkan atau kemungkinan besar menyebabkan bahaya secara keseluruhan”. Pemimpin AI perusahaan, Demis Hassabis, mengatakan dalam postingan blog bahwa AI telah menjadi penting untuk melindungi “keamanan nasional”.

Beberapa karyawan Google mengungkapkan kekhawatiran mereka tentang perubahan bahasa pada papan pesan internal perusahaan pada saat itu. Salah satu bertanya: “Apakah kita orang jahat?” menurut Business Insider.

Penggunaan AI dan teknologi dalam perang telah lama menjadi sumber kecemasan bagi karyawan Google, di mana aktivisme mereka sebelumnya mengenai masalah ini telah mencapai beberapa keberhasilan. Pada tahun 2018, ribuan karyawan Google menandatangani surat yang memprotes keterlibatan perusahaan mereka dalam kontrak dengan Pentagon yang menggunakan alat AI-nya untuk menganalisis rekaman pengawasan drone. Google memilih untuk tidak memperbarui Kontrak Project Maven tahun itu setelah penolakan internal yang meluas, dan perusahaan analisis pengawasan kontroversial Palantir masuk untuk mengambil alih.