Menteri Keuangan dan Banker Senior Mengemukakan Kekhawatiran Serius Terhadap Model AI Mythos

Menteri keuangan, bank sentral, dan para pemodal telah mengungkapkan kekhawatiran serius mengenai model kecerdasan buatan (AI) yang kuat baru yang berpotensi merusak keamanan sistem keuangan.

Pengembangan model Claude Mythos oleh Anthropic telah menyebabkan pertemuan darurat, setelah ditemukan kerentanan dalam setiap sistem operasi dan peramban utama.

Para ahli memperingatkan bahwa model ini berpotensi memiliki kemampuan yang belum pernah terjadi sebelumnya untuk mengidentifikasi dan mengeksploitasi kelemahan keamanan siber.

Menteri Keuangan Kanada Phillipe Francois Champagne mengatakan kepada BBC bahwa Mythos telah dibahas secara ekstensif oleh rekan-rekannya dalam pertemuan Dana Moneter Internasional (IMF) utama di Washington DC minggu ini.

"Tentu saja ini cukup serius untuk menarik perhatian semua menteri keuangan... Perbedaannya dengan Selat Hormuz adalah kita tahu di mana lokasinya dan kita tahu seberapa besarnya. Isu yang kita hadapi dengan Anthropic adalah itu tidak diketahui, tidak diketahui.

Ini membutuhkan banyak perhatian sehingga kita memiliki perlindungan, dan kita memiliki proses untuk memastikan kita memastikan ketahanan sistem keuangan kita."

Para banker terkemuka akan diberikan akses ke model tersebut terlebih dahulu untuk menguji sistem mereka.

Chief executive Barclays CS Venkatakrishnan mengatakan kepada BBC: "ini cukup serius sehingga orang-orang harus khawatir. Kita harus memahaminya dengan lebih baik, dan kita harus memahami kerentanan yang terungkap dan memperbaikinya dengan cepat".

Dia menambahkan bahwa "ini adalah dunia baru yang akan terjadi" mengacu pada sistem keuangan yang jauh lebih terhubung, dengan peluang dan kerentanan.

Sementara pengembang Anthropic telah mengatakan bahwa model tersebut telah mengungkap beberapa kerentanan keamanan dalam beberapa sistem operasi penting, sistem keuangan, dan peramban web, pemerintah dan bank ditawari akses terlebih dahulu sebelum rilis publiknya untuk membantu melindungi sistem mereka sendiri.

Gubernur Bank of England Andrew Bailey juga mengatakan kepada BBC bahwa perkembangan tersebut harus dianggap sangat serius: "kami harus sekarang melihat dengan sangat hati-hati apa yang dapat diartikan oleh perkembangan AI terbaru ini terhadap risiko kejahatan siber.

Ada perkembangan AI, pemodelan, yang membuat lebih mudah untuk mendeteksi kerentanan yang ada dalam, semacam sistem TI inti, dan kemudian tentu saja pelaku kejahatan siber yang aktor jahat dapat berusaha untuk mengeksploitasinya."

Departemen Keuangan AS mengonfirmasi bahwa pihaknya telah mengangkat masalah ini dengan bank-bank besar mereka, mendorong mereka untuk menguji sistem mereka, sebelum rilis publik Mythos oleh Anthropic.

Sumber-sumber industri keuangan mengindikasikan bahwa perusahaan AI AS terkemuka lainnya dapat segera merilis model yang sama kuatnya tetapi tanpa perlindungan yang sama.