Charles Schwab, JPMorgan Batasi Agen AI Pihak Ketiga Akibat Risiko Keamanan

Charles Schwab, JPMorgan Membatasi Agen AI Pihak Ketiga Akibat Risiko Keamanan

Ditulis oleh Bill Pan melalui The Epoch Times,

Beberapa perusahaan keuangan terbesar di Wall Street sedang memblokir agen kecerdasan buatan (AI) pihak ketiga dari mengakses langsung akun pelanggan atau memindahkan uang, dengan mengutip kekhawatiran tentang keamanan, kontrol, dan akuntabilitas jika sistem otonom membuat kesalahan.

Charles Schwab, yang melaporkan aset klien senilai $13.3 trillion pada akhir kuartal ketiga, adalah salah satu perusahaan terbaru yang menetapkan batasan ini.

"Kami memblokir agen yang tidak berwenang yang mencoba masuk menggunakan nama klien," kata Presiden dan CEO Rick Wurster kepada analis pada 14 Oktober dalam panggilan laba kuartal ketiga Schwab.

Menurutnya, kekhawatiran tidak terletak pada AI itu sendiri, tetapi pada agen eksternal yang menggunakan kredensial pelanggan dan beroperasi di dalam sistem Schwab tanpa kontrol yang diberlakukan oleh perusahaan brokering.

Sebaliknya, Schwab berencana memberikan cara yang terkontrol bagi model AI pihak ketiga untuk terhubung melalui server Model Context Protocol (MCP).

MCP memungkinkan sistem AI berinteraksi dengan data dan layanan eksternal melalui izin yang didefinisikan. Dalam pendekatan Schwab, model AI eksternal dapat mengambil informasi seperti saldo akun atau riset investasi, sementara diblokir dari tindakan berisiko tinggi, termasuk memindahkan uang.

Schwab juga sedang meluncurkan asisten AI generatifnya sendiri, Charley, yang dapat menjawab pertanyaan dan melakukan tugas administratif tertentu atas nama pelanggan.

Schwab tidak sendirian. CEO JPMorgan Chase Jamie Dimon telah mengonfirmasi bahwa bank tersebut tidak akan membiarkan agen AI eksternal sembarangan masuk ke sistemnya untuk melindungi pelanggan dan bank.

"Anda tidak ingin agen yang tidak terkendali, dan bisa ada ribuan di antaranya," kata Dimon dalam panggilan laba pada 13 Oktober.

Agen "rogue" umumnya merujuk pada sistem AI yang mengambil tindakan di luar batas yang disengaja oleh pengguna atau pengembangnya saat mengejar tujuan yang ditentukan.

Dimon juga memperingatkan pelanggan bahwa jika mereka memberikan akses ke akun bank mereka kepada agen AI pihak ketiga, mereka menanggung keputusan tersebut.

"Ada transfer tanggung jawab. Mereka harus memahami transfer tanggung jawab," katanya. "Jika data disalahgunakan, mereka harus memahami bahwa data tersebut disalahgunakan."

Apakah AI Dapat Memindahkan Deposito Lebih Cepat?

Di luar siberkeamanan, AI otonom juga dapat mengubah ekonomi perbankan.

Ekonom kepala eksekutif Apollo Global Management Torsten Sløk memperingatkan pada September bahwa asisten keuangan yang semakin mampu dapat menciptakan apa yang ia sebut "serangan bank otonom" (agentic bank run).

Berbeda dengan serangan bank tradisional, di mana pelanggan menarik uang karena takut bank tersebut akan bangkrut, serangan bank otonom dapat digerakkan oleh perangkat lunak yang secara terus-menerus mencari pengembalian yang lebih tinggi.

Sebagai contoh, asisten AI dapat secara terus-menerus membandingkan suku bunga dan secara otomatis memindahkan kas rumah tangga dari rekening giro rendah ke alternatif yang memberikan suku bunga lebih tinggi.

Apollo mencatat bahwa beberapa akun fintech dan online menawarkan imbal hasil antara 3,3 persen hingga 5 persen, dibandingkan rata-rata nasional sekitar 0,1 persen untuk rekening giro.

Jika AI membuat perpindahan uang menjadi hampir tanpa gesekan, Sløk berargumen, bank dapat kehilangan sebagian dari deposito murah yang menjadi dasar pemberian pinjaman.

Tidak setiap eksekutif bank yakin prospek ini akan terjadi secepat itu.

Dalam panggilan laba pada 13 Oktober, CEO Wells Fargo Charlie Scharf mengatakan bahwa gagasan tentang pengunduran diri yang digerakkan AI ke alternatif dengan imbal hasil lebih tinggi adalah "sangat berlebihan."

"Alternatif dengan suku bunga tinggi sudah ada hari ini. Mereka telah ada sejak lama," kata Scharf kepada analis. "Jika Anda ingin beralih ke suku bunga tinggi, Anda hanya perlu online dan melakukannya sendiri dalam waktu singkat. Itu bukan sesuatu yang baru."

Siapa yang Bertanggung Jawab Ketika Agen AI Menjadi Rogue?

Kekhawatiran tentang pemberian AI sistem otonom yang lebih besar telah diperkuat oleh serangkaian insiden siberkeamanan tahun ini.

Pada Juli, pengembang ChatGPT OpenAI mengungkapkan bahwa sekelompok, atau "sarang," agen AI-nya telah meloloskan diri dari pembatasan dalam lingkungan pengujian dan mengganggu sistem Hugging Face, platform online yang banyak digunakan oleh pengembang AI.

Terpisah, OpenAI meminta maaf kepada pemerintah Australia pada September setelah salah satu model AI-nya mencuri halaman web pemerintah Australia selama latihan pelatihan.

Tidak ada undang-undang federal tunggal yang secara komprehensif menetapkan tanggung jawab antara pengembang AI, perusahaan yang menerapkan sistem, dan pengguna ketika agen otonom menyebabkan kerusakan. Undang-undang yang ada dapat diterapkan tergantung pada keadaan.

Menteri Keuangan Scott Bessent telah berargumen melawan pemberian pengembang AI imunitas luas dari tanggung jawab.

"Apa yang seharusnya kami tidak lakukan dalam hal keselamatan adalah memberikan laboratorium ini bebas dari tanggung jawab, yang merupakan apa yang mereka minta," kata Bessent saat memberikan saksi di depan Komite Layanan Keuangan Rumah Perwakilan pada 15 September.

"Cara terbaik untuk menjamin keselamatan adalah bahwa pencipta bertanggung jawab atas apa yang mereka bangun dan hasilkan."

Pada awal bulan ini, Senator Josh Hawley (R-Mo.) dan Chris Murphy (D-Conn.) memperkenalkan AI Agent Accountability Act secara bipartisan, yang ditujukan khusus untuk hacking yang dilakukan oleh agen AI.

Berdasarkan proposal ini, operator dapat menghadapi tanggung jawab sipil dan pidana di bawah hukum kejahatan komputer federal jika mereka secara sadar mengoperasikan agen AI yang secara ceroboh menyebabkan kerusakan atau kerugian terkait hacking.

Pengembang juga dapat dituntut jika mereka mengetahui bahwa agen mampu melakukan hacking tetapi gagal menerapkan perlindungan yang wajar.

RUU ini juga akan memungkinkan Jaksa Agung AS dan Jaksa Agung negara untuk meminta pengadilan untuk mengeluarkan perintah terhadap aktivitas hacking tertentu yang dilakukan oleh agen AI.

Tyler Durden
Tue, 10/20/2026 - 08:05