Perusahaan AI Anthropic mencari ahli senjata untuk menghentikan pengguna dari 'penyalahgunaan'

<h1>Perusahaan AI Anthropic mencari ahli senjata untuk menghentikan pengguna dari 'penyalahgunaan'</h1>
<p>Perusahaan kecerdasan buatan (AI) AS, Anthropic, sedang <a href="https://www.linkedin.com/jobs/view/4380096063/?alternateChannel=search&amp;eBP=NOT_ELIGIBLE_FOR_CHARGING&amp;refId=2S9LKNRrah4j4reTIQvVDA%3D%3D&amp;trackingId=XWmjWdtNoQpi0SqgU1q7jA%3D%3D">mencari untuk mempekerjakan</a> seorang ahli senjata kimia dan bahan peledak berdaya tinggi untuk mencoba mencegah "penyalahgunaan yang dahsyat" dari perangkat lunaknya.</p>
<p>Dengan kata lain, ia khawatir bahwa alat AI-nya mungkin memberi tahu seseorang cara membuat senjata kimia atau radioaktif, dan ingin seorang ahli untuk memastikan pengamanannya cukup kuat.</p>
<p>Dalam postingan rekrutmen LinkedIn, perusahaan tersebut mengatakan bahwa pelamar harus memiliki pengalaman minimal lima tahun di bidang "pertahanan senjata kimia dan/atau bahan peledak" serta pengetahuan tentang "perangkat penyebaran radiologis" – juga dikenal sebagai bom kotor.</p>
<p>Perusahaan tersebut memberi tahu BBC bahwa peran tersebut mirip dengan pekerjaan di bidang sensitif lainnya yang telah dibuatnya.</p>
<p>Anthropic bukanlah satu-satunya perusahaan AI yang mengadopsi strategi ini.</p>
<p>Sebuah <a href="https://openai.com/careers/researcher-frontier-biological-and-chemical-risks-san-francisco/">posisi serupa</a> telah diiklankan oleh pengembang ChatGPT, OpenAI. Di situs web karirnya, ia mencantumkan lowongan pekerjaan untuk seorang peneliti di bidang "risiko biologis dan kimia", dengan gaji hingga $455.000 (£335.000), hampir dua kali lipat dari yang ditawarkan oleh Anthropic.</p>
<p>Tetapi beberapa ahli merasa khawatir dengan risiko pendekatan ini, memperingatkan bahwa hal itu memberi alat AI informasi tentang senjata - bahkan jika mereka telah diperintahkan untuk tidak menggunakannya.</p>
<p>"Apakah pernah aman untuk menggunakan sistem AI untuk menangani informasi kimia dan bahan peledak yang sensitif, termasuk bom kotor dan senjata radiologis lainnya?" kata Dr Stephanie Hare, peneliti teknologi dan ko-pembawa acara BBC's AI Decoded TV programme.</p>
<p>"Tidak ada perjanjian internasional atau peraturan lain untuk pekerjaan semacam ini dan penggunaan AI dengan jenis senjata ini. Semua ini terjadi di luar pandangan."</p>
<p>Industri AI terus memperingatkan tentang ancaman eksistensial potensial yang ditimbulkan oleh teknologinya, tetapi belum ada upaya untuk memperlambat perkembangannya.</p>
<p>Isu ini telah mendapatkan urgensi karena pemerintah AS meminta perusahaan AI sambil meluncurkan perang di Iran dan operasi militer di Venezuela.</p>
<p>Anthropic sedang <a href="https://www.bbc.co.uk/news/articles/cq571w5vllxo">mengambil tindakan hukum terhadap Departemen Pertahanan AS</a>, yang menunjuknya sebagai <a href="https://www.bbc.co.uk/news/articles/cn5g3z3xe65o">risiko rantai pasokan</a> ketika perusahaan bersikeras bahwa sistemnya tidak boleh digunakan dalam senjata otonom sepenuhnya atau pengawasan massal terhadap warga Amerika.</p>
<p>Dario Amodei, salah satu pendiri Anthropic, menulis pada bulan Februari bahwa dia tidak berpikir teknologinya cukup bagus, dan tidak boleh digunakan untuk tujuan tersebut.</p>
<p>The White House mengatakan militer AS tidak akan diatur oleh perusahaan teknologi.</p>
<p>Label risiko menempatkan perusahaan AS dalam perahu yang sama dengan perusahaan telekomunikasi Cina, Huawei, yang <a href="https://www.bbc.co.uk/news/world-us-canada-63764450">demikian juga dilarang</a> atas masalah keamanan nasional yang berbeda.</p>
<p>OpenAI mengatakan mereka setuju dengan posisi Anthropic tetapi kemudian <a href="https://www.bbc.co.uk/news/articles/c3rz1nd0egro">bernegosiasi kontrak sendiri dengan pemerintah AS</a>, yang menurut mereka belum dimulai.</p>
<p>Asisten AI Anthropic, yang disebut Claude, belum dihentikan, dan saat ini masih tertanam dalam sistem yang disediakan oleh Palantir dan digunakan oleh AS dalam perang AS-Israel-Iran.</p>
<p><a href="https://www.bbc.co.uk/newsletters/zxh6cxs">Daftar untuk buletin Tech Decoded</a> kami untuk mengikuti kisah dan tren teknologi teratas dunia. <a href="https://cloud.email.bbc.com/techdecoded-newsletter-signup">Di luar Inggris? Daftar di sini</a>.</p>