Kelompok kampanye menentang Palantir, tetapi kontrak Inggris terus berdatangan

Kontrak terbaru Palantir di Inggris membawa perusahaan AI dan analisis data ini ke jantung salah satu industri terbesar di Inggris: jasa keuangan, yang menyumbang 9% dari perekonomian.
Perusahaan yang berbasis di Miami ini menanamkan teknologinya di NHS pada tahun 2023, polisi pada tahun 2024, dan militer pada tahun 2025. Lakukan ekspansi, kata mereka di industri teknologi. Palantir mengikuti skripnya, membangun kontrak senilai lebih dari £500 juta.
Sekarang pada tahun 2026, kesepakatannya dengan Financial Conduct Authority (FCA) untuk menyelami terabyte informasi yang dikumpulkannya memberikannya pandangan yang belum pernah ada sebelumnya tentang cara kerja otoritas Inggris. Hal ini juga memberikannya pandangan tentang simpanan data tentang cara kerja salah satu pusat keuangan global terpenting, City of London.
Daya tarik perusahaan seperti Palantir kepada otoritas publik didorong oleh tiga kekuatan: dorongan untuk menemukan cara yang lebih efisien untuk menggunakan sumber daya manusia di tengah keuangan publik yang tegang; keberadaan danau data yang membengkak oleh kecenderungan masyarakat yang meningkat untuk mendigitalkan transaksi dan komunikasi; dan fajar AI serta antusiasme pemerintah Partai Buruh yang tak terkendali terhadap potensinya untuk membuka pertumbuhan ekonomi yang sulit dipahami.
Meskipun pernah menggunakan perusahaan lobi Peter Mandelson, Global Counsel, Palantir telah menjadi suara yang berpengaruh di Whitehall. Dengan pendapatan $1,4 miliar dalam tiga bulan terakhir tahun lalu saja, perusahaan ini mampu mempekerjakan talenta terbaik dan sistem analisis data yang didukung AI-nya mengesankan banyak orang yang melihatnya, setidaknya dalam demonstrasi. Kelompok kampanye menentang pekerjaan Palantir dengan Departemen Keamanan Dalam Negeri AS dan operasi ICE-nya, serta pelayanannya kepada Angkatan Pertahanan Israel, tetapi kontrak terus berdatangan.
Teknologinya akan tiba di markas besar FCA di London timur dan menemukan regulator yang khawatir bahwa mereka mencurahkan terlalu banyak energi untuk mengejar kemungkinan kasus kejahatan keuangan yang tidak menghasilkan apa-apa. Mereka ingin menggunakan AI untuk mendeteksi tanda-tanda pelanggaran dengan lebih baik sehingga mereka dapat menindak kejahatan pencucian uang yang serius, yang mendasari masalah sosial seperti perdagangan manusia dan perdagangan narkoba, serta penipuan, yang memengaruhi banyak orang dan menyumbang sekitar 40% dari semua kejahatan di Inggris.
Rencana kerja mereka untuk tahun 2025-26 menetapkan ambisi untuk “memperluas penggunaan data dan intelijen untuk mengidentifikasi dan bertindak atas perusahaan dan/atau individu yang paling berisiko” dan menggunakan “analisis jaringan untuk mengidentifikasi jaringan perusahaan dan/atau individu yang berbahaya”. Tetapi saat mereka beralih ke deteksi AI terhadap pelanggaran keuangan, para penjahat mungkin akan merespons dengan cara mereka sendiri untuk mengalahkan bot.
“Jika FCA bergantung pada model deteksi berbasis AI, pelaku jahat dapat mengambil langkah-langkah untuk memengaruhi sistem tersebut ketika meninjau materi,” kata Christopher Houssemayne du Boulay, seorang mitra dan pengacara di firma hukum Hickman & Rose yang berspesialisasi dalam kejahatan keuangan yang serius dan kompleks.
Misalnya, mereka mungkin menggunakan “teks putih” yang tidak terlihat dalam dokumen untuk menginstruksikan AI agar mengabaikan apa pun dalam dokumen tersebut yang mungkin memberatkan. “Anda benar-benar dapat melihat itu digunakan dalam konteks kejahatan keuangan karena perkembangan kemampuan teknologi untuk kebaikan dapat dieksploitasi oleh penjahat dan sering kali dieksploitasi dengan sangat baik,” katanya.
Kedatangan AI sebagai senjata untuk memerangi pencucian uang telah lama diantisipasi. “Orang-orang telah berbicara tentang menggunakan machine learning dan bentuk-bentuk kecerdasan buatan sebelumnya untuk mendeteksi pola pencucian uang] sejak tahun 1990-an,” kata Prof Michael Levi, seorang ahli yang diakui secara internasional dalam pencucian uang di Cardiff University. “Sekarang teknologi itu tersedia, kita harus membuat keputusan tentang cara menggunakannya, apa risikonya.”
Dia mengatakan dapat dimengerti bahwa beberapa orang mungkin takut akan konsekuensi dari perusahaan data yang dapat mengintegrasikan kumpulan data yang berbeda dengan cara yang dapat mengancam privasi.
Tetapi dia menambahkan: “Para penjahat juga takut akan hal itu [dan] juga beberapa elit mungkin takut, karena kepemilikan perusahaan melalui perusahaan cangkang dan melalui perusahaan nyata dengan kepemilikan yang disamarkan harus menjadi bagian dari target untuk jenis teknologi ini.”