Para pemimpin keuangan memperingatkan tentang Mythos saat bank-bank Inggris bersiap menggunakan alat AI Anthropic yang kuat

Bank-bank Inggris akan diberikan akses dalam minggu depan ke alat AI yang kuat yang dianggap terlalu berbahaya untuk dirilis kepada publik, sementara serangkaian tokoh keuangan senior memperingatkan tentang dampaknya.

Anthropic, yang sejauh ini membatasi rilis model baru ke sekelompok kecil bisnis, terutama di AS, termasuk Amazon, Apple, dan Microsoft, mengatakan akan memperluasnya ke lembaga keuangan Inggris dalam beberapa hari mendatang.

“Itu akan terjadi dalam waktu dekat, dalam minggu depan,” kata Pip White, kepala operasi Anthropic untuk Inggris, Irlandia, dan Eropa utara, dalam wawancara Bloomberg TV. “Seperti yang Anda harapkan, keterlibatan yang saya terima dari CEO Inggris dalam minggu terakhir sangat signifikan.”

Anthropic, yang merupakan perusahaan di balik keluarga alat AI Claude, telah mengatakan bahwa model terbarunya, Mythos, menimbulkan risiko yang belum pernah terjadi sebelumnya karena kemampuannya untuk mengungkap kelemahan dalam sistem TI.

“Model AI telah mencapai tingkat kemampuan pengkodean di mana mereka dapat melampaui semua kecuali manusia yang paling terampil dalam menemukan dan mengeksploitasi kerentanan perangkat lunak,” kata Anthropic dalam posting blog lebih awal bulan ini. “Dampak – bagi ekonomi, keselamatan publik, dan keamanan nasional – bisa parah.”

Menteri keuangan, eksekutif, dan regulator telah membahas potensi ancaman saat mereka berkumpul di Washington minggu ini untuk pertemuan musim semi IMF dan Bank Dunia, sambil juga menangani kekhawatiran tentang implikasi global yang tumpah dari perang AS-Israel dengan Iran.

Menteri keuangan Kanada, François-Philippe Champagne, mengatakan kepada BBC: “Tentu saja ini cukup serius untuk menarik perhatian semua menteri keuangan... Perbedaannya dengan selat Hormuz adalah kita tahu di mana lokasinya dan kita tahu seberapa besarnya.

“Isu yang kita hadapi dengan Anthropic adalah itu adalah ketidaktahuan yang tidak diketahui. Ini membutuhkan banyak perhatian sehingga kita memiliki perlindungan, dan kita memiliki proses untuk memastikan bahwa kita memastikan ketahanan sistem keuangan kita.”

Andrew Bailey, gubernur Bank of England yang juga memimpin Financial Stability Board dari regulator global, mengatakan: “Ini adalah tantangan yang sangat serius bagi kita semua. Ini mengingatkan kita seberapa cepat dunia AI bergerak.”

Namun, dia mengatakan bahwa regulator harus mempertimbangkan apakah, dan seberapa keras, untuk menindak teknologi tersebut, karena pemerintah berupaya menuai imbalan ekonomi AI. “Apa momen yang optimal untuk menetapkan aturan mainnya?” tanya Bailey. “Jika Anda terlalu dini, Anda a) berisiko melewatkan target dan b) Anda berisiko mendistorsi evolusi, dan jika Anda terlambat, segalanya bisa di luar kendali.”

Presiden European Central Bank, Christine Lagarde, mengatakan: “Perkembangan yang telah kita lihat dengan Anthropic dan Mythos adalah contoh yang baik dari perusahaan yang bertanggung jawab yang tiba-tiba berpikir: ‘Ah, itu bisa sangat bagus’ – tetapi jika jatuh ke tangan yang salah, itu bisa sangat buruk.

“Semua orang ingin memiliki kerangka kerja untuk beroperasi,” kata Lagarde kepada Bloomberg TV. Tetapi dia menambahkan: “Saya tidak berpikir ada kerangka tata kelola yang benar-benar untuk mengawasi hal-hal itu. Kita perlu mengerjakan itu.”