Oleh Maksym Misichenko · The Guardian ·
Apa yang dipikirkan agen AI tentang berita ini
Panel terbagi mengenai keterlibatan Vatikan Anthropic, dengan beberapa melihatnya sebagai langkah strategis untuk penangkapan peraturan atau manajemen risiko, sementara yang lain melihatnya sebagai potensi kerugian karena masalah lingkungan dan risiko pengungkapan. Dampak sebenarnya tetap tidak pasti dan bergantung pada perkembangan kebijakan di masa depan.
Risiko: Risiko pengungkapan ESG dan potensi pengawasan pada jadwal infrastruktur Anthropic (Grok, Claude)
Peluang: Membangun perisai kekuatan lunak terhadap penegakan peraturan (Gemini)
Analisis ini dihasilkan oleh pipeline StockScreener — empat LLM terkemuka (Claude, GPT, Gemini, Grok) menerima prompt identik dengan perlindungan anti-halusinasi bawaan. Baca metodologi →
Mengapa pendiri Anthropic duduk di samping Paus saat peringatan tentang AI?
Dalam ajaran tertulis besar pertama kepausannya, Paus Leo XIV mengkritik kecerdasan buatan. Paus menguraikan ancaman paling mengkhawatirkan teknologi tersebut bagi umat manusia: menggantikan pekerja, mempercepat perang, dan mengeksploitasi lingkungan. Pada upacara penghormatan ajaran suci pada hari perilisannya di Vatikan, Paus didampingi oleh tamu pembicara yang tidak biasa: salah satu pendiri Anthropic, Chris Olah, salah satu orang di balik ledakan AI yang sangat dikhawatirkan Leo.
Kehadiran Olah menimbulkan pertanyaan penting: bagaimana gereja Katolik dan startup AI paling berharga di dunia dapat bekerja sama, ketika teknologi Anthropic dapat membawa masa depan yang ditakutkan Leo?
Ensiklik Leo membahas secara panjang lebar pelestarian martabat pekerjaan manusia karena terancam oleh AI – tetapi perusahaan AI besar, termasuk Anthropic, tidak memprioritaskan kekhawatiran ini, kata Pete Furlong, manajer senior kebijakan dan penelitian di Center for Humane Technology, sebuah organisasi nirlaba yang mengadvokasi akuntabilitas seputar AI.
“Semua perusahaan ini membangun teknologi yang … dirancang untuk menggantikan orang,” kata Furlong. “Itu sangat bertentangan dengan kata-kata Paus. Anda tidak dapat memiliki martabat di dunia di mana Anda membangun teknologi untuk menggantikan orang.”
Beberapa profesi – seperti coder, perwakilan layanan pelanggan, dan pekerja entri data – sangat rentan terhadap kemampuan AI untuk mengotomatiskan tugas, menurut analisis pasar tenaga kerja Anthropic sendiri yang dirilis pada bulan Maret. Survei yang diterbitkan oleh pusat penelitian AI nirlaba Epoch AI bulan lalu menemukan bahwa 20% pekerja penuh waktu di AS mengatakan AI telah mengambil alih sebagian pekerjaan mereka. Dario Amodei sendiri, CEO Anthropic, telah memperingatkan tentang hilangnya pekerjaan kerah putih yang mengerikan di tahun-tahun mendatang.
Ada risiko bahwa keterlibatan Anthropic dengan Vatikan dapat tetap dangkal dan mengarah pada wacana “merasa baik” tanpa pemeriksaan diri yang kritis, bagi kedua belah pihak, kata Paolo Carozza, seorang profesor hukum di sekolah hukum Notre Dame dan salah satu ketua Dewan Pengawas Meta. “Ini adalah merek Anthropic, bukan? Begitulah cara mereka membedakan diri, dengan menyelaraskan diri dengan suara-suara yang lebih berorientasi pada keselamatan dan tanggung jawab. Ada sesuatu yang bisa didapat dengan mengatakan, ‘Lihat, bahkan Paus bersedia berbicara dengan kami karena [merek pro-keselamatan kami]. Google tidak ada di panggung dan OpenAI tidak ada di panggung,’” kata Carozza.
Carozza tetap berharap – meskipun awalnya skeptis tentang kehadiran Olah di upacara tersebut. “Harus ada dialog di antara semua aktor di sini, dan itu tidak bisa menjadi masalah ‘kami versus mereka’,” tambahnya.
Furlong, di Center for Humane Technology, sebagian besar setuju. “Apa yang ditulis Paus bertentangan dengan apa yang dikatakan Anthropic. Bagi saya, itu pertanda baik,” katanya. Furlong percaya bahwa upaya Anthropic patut dihargai, untuk saat ini, dan penting untuk melibatkan para pionir AI, sambil berhati-hati tentang bagaimana tekanan finansial yang meningkat seperti go public dapat mengubah sikap mereka di masa depan.
Olah mencatat dalam pidatonya bahwa setiap laboratorium AI perbatasan “beroperasi di dalam seperangkat insentif dan batasan yang terkadang dapat bertentangan dengan melakukan hal yang benar”.
“Tidak peduli seberapa tulus niat kita untuk melakukan hal yang benar – dan saya percaya banyak dari kita melakukannya – kita akan selalu dipengaruhi oleh insentif tersebut,” katanya.
Beberapa advokat keselamatan AI merasa Paus tidak cukup tegas dalam mencoba mengendalikan bahaya AI. Timnit Gebru, pendiri Distributed Artificial Intelligence Research Institute, menulis di postingan Linkedin bahwa aliansi tersebut secara efektif adalah “Vatican-washing” dan mengatakan gereja seharusnya bermitra dengan “pekerja data yang dieksploitasi yang memperjuangkan hak-hak mereka, orang-orang yang airnya tercemar karena melawan pusat data, atau banyak korban lain di seluruh dunia”.
Anthropic tidak memberikan komentar mengenai masalah ini.
Gereja dan Anthropic memang sepakat dalam isu lain, seperti garis merah dalam penggunaan AI dalam peperangan. Leo menulis tentang bagaimana AI dapat “menurunkan ambang batas penggunaan kekuatan, melindungi orang dari tanggung jawab, dan menumbuhkan budaya di mana musuh direduksi menjadi statistik dan korban menjadi ‘kerusakan tambahan’.” Dia menyerukan “batasan etika yang paling ketat” untuk melindungi “kesucian hidup dan untuk menghindari perlombaan pengembangan senjata semacam itu.”
Ketika Amodei menolak mengizinkan pemerintah AS menggunakan model AI perusahaannya dalam senjata otonom penuh dan pengawasan massal awal tahun ini, hal itu menyebabkan perselisihan sengit dengan presiden. Pemerintahan Trump kemudian memasukkan Anthropic ke dalam daftar hitam, dan menetapkan perusahaan AI tersebut sebagai ancaman rantai pasokan – memicu pertempuran hukum, yang sedang berlangsung.
Anthropic telah menyelaraskan mereknya dengan menjadi pro-keselamatan AI sebagai kontras dengan pesaingnya OpenAI, tempat Amodei pernah bekerja, dengan mengakui risiko sistem AI-nya, dan mempromosikan perlindungan untuk penggunaan AI yang bertanggung jawab. Perusahaan menghabiskan rekor $1,6 juta untuk lobi pada kuartal pertama tahun 2026 – mengalahkan pesaing OpenAI. Sebagian besar advokasi mereka di Washington dan legislatif negara bagian mempromosikan regulasi AI.
Terselip di satu paragraf ensiklik yang panjangnya sekitar 42.000 kata adalah kritik halus terhadap pusat data yang mendukung ledakan AI, dan seruan untuk mengurangi kerusakan lingkungan mereka. “Sistem AI saat ini membutuhkan energi dan air dalam jumlah besar, secara signifikan memengaruhi emisi karbon dioksida, dan memberikan tuntutan berat pada sumber daya alam,” tulis Leo. “Untuk alasan ini, penting untuk mengembangkan solusi teknologi yang lebih berkelanjutan yang mengurangi dampak lingkungan dan membantu melindungi rumah kita bersama.”
Pusat data telah memicu kemarahan nasional di AS, yang menampung jumlah terbanyak di dunia, dari komunitas yang khawatir tentang efek negatif, dari emisi industri hingga lonjakan tagihan energi. Kluster komputer yang boros energi ini adalah fondasi bisnis Anthropic – ia membutuhkan daya komputasi mereka untuk memberi daya pada model AI-nya yang semakin kuat. Pada gilirannya, banyak lembaga federal dan perusahaan terbesar di dunia bergantung pada model AI Anthropic untuk alur kerja dan analisis yang kompleks – baik tujuannya adalah menghasilkan keuntungan, atau memilih target militer.
Ambisi Anthropic mungkin bertentangan dengan seruan Leo untuk pertumbuhan yang lebih berkelanjutan. Startup AI tersebut berjanji untuk menginvestasikan $50 miliar pada infrastruktur AI, termasuk pusat data, tahun lalu. Namun, perusahaan tersebut telah berkomitmen untuk menutupi kenaikan harga listrik yang dihadapi konsumen dari fasilitas ini, dan sistem yang mengurangi penggunaan daya selama permintaan puncak.
Empat model AI terkemuka mendiskusikan artikel ini
"Langkah Vatikan Anthropic lebih mengungkap daripada menyelesaikan konflik antara pembangunan infrastruktur yang cepat dan batasan etika eksternal pada pekerjaan dan penggunaan energi."
Optik paus-Anthropic menyoroti kesenjangan yang melebar antara insentif penskalaan laboratorium AI dan tekanan eksternal pada perpindahan tenaga kerja ditambah eksternalitas pusat data. Janji infrastruktur Anthropic senilai $50 miliar dan pengeluaran lobi senilai $1,6 juta sudah menandakan ekspansi agresif yang bertabrakan dengan tuntutan keberlanjutan dan martabat kerja Leo. Hal ini dapat mempercepat gesekan peraturan atau penolakan investor gaya ESG bahkan sebelum IPO, terutama jika opini publik bergeser. Pengakuan Olah sendiri bahwa insentif dapat mengesampingkan niat menggarisbawahi ketegangan struktural daripada menyelesaikannya.
Garis merah bersama pada senjata otonom dan penolakan Amodei sebelumnya untuk menyediakannya menunjukkan bahwa dialog tersebut dapat menghasilkan batasan konkret yang mengurangi litigasi risiko ekor dan menstabilkan kebijakan jangka panjang daripada sekadar PR.
"Penolakan Anthropic terhadap senjata otonom itu nyata dan mahal, tetapi pengeluaran infrastruktur senilai $50 miliar dan intensitas lobi menunjukkan bahwa kekhawatiran lingkungan dan tenaga kerja akan dikalahkan oleh peningkatan kemampuan begitu pasar publik menuntut pertumbuhan."
Artikel ini mencampuradukkan optik dengan substansi dengan cara yang mengaburkan apa yang sebenarnya penting. Ya, Anthropic memposisikan mereknya sebagai 'keselamatan-pertama'—penampilan Vatikan Olah adalah manajemen reputasi klasik. Tetapi artikel ini mengubur ketegangan sebenarnya: Anthropic benar-benar menolak kontrak senjata otonom dan menghadapi daftar hitam dari pemerintahan Trump karenanya. Itu adalah sinyal yang mahal, bukan omong kosong. Kritik 'Vatikan-washing' mengasumsikan Paus naif; dia tidak—dia berinteraksi dengan aktor yang paling tidak buruk di bidangnya. Risiko sebenarnya bukanlah kemunafikan; melainkan taruhan pusat data Anthropic senilai $50 miliar akan melampaui komitmen lingkungan apa pun, dan penangkapan peraturan (rekor pengeluaran lobi $1,6 juta) akan mengosongkan retorika keselamatan begitu tekanan IPO datang.
Jika Anthropic benar-benar percaya pesan keselamatannya sendiri, mengapa ia tidak membatasi kemampuan model atau menolak kontrak pemerintah yang menguntungkan selain senjata? Aliansi Vatikan mungkin mencerminkan nilai-nilai bersama yang tulus—atau mungkin itu adalah 'wacana yang membuat senang tanpa pemeriksaan diri kritis' yang diperingatkan Carozza.
"Anthropic memanfaatkan keselarasan moral dengan Vatikan untuk melobi agar mendapatkan parit peraturan yang melindungi pangsa pasarnya dari pesaing yang lebih kecil dan kurang bermodal."
Keterlibatan Vatikan Anthropic adalah contoh utama penangkapan peraturan, bukan sekadar 'Vatican-washing.' Dengan memposisikan dirinya sebagai alternatif 'etis', Anthropic secara efektif melobi untuk hambatan masuk yang tinggi. Jika perusahaan berhasil mengkodifikasi standar keselamatannya yang spesifik ke dalam kebijakan global, itu menciptakan parit yang tidak dapat dijangkau oleh pesaing yang lebih kecil dan lebih gesit. Sementara artikel tersebut menyoroti kemunafikan konsumsi energi versus retorika lingkungan, artikel tersebut melewatkan tujuan strategis: Anthropic menggunakan Paus untuk memvalidasi kerangka peraturan yang menguntungkan pemain lama. Ini bukan tentang moralitas; ini tentang memastikan bahwa AI 'bertanggung jawab' di masa depan harus dibangun di atas infrastruktur kepemilikan mereka yang padat modal.
Kemitraan Vatikan dapat menjadi bumerang jika otoritas moral Gereja digunakan untuk menahan Anthropic pada standar yang mustahil yang pada akhirnya memaksa perusahaan untuk beralih dari strategi penskalaan komersial intinya.
"Keterlibatan Vatikan lebih mungkin merupakan permainan manajemen risiko dan kredibilitas peraturan yang diperhitungkan untuk Anthropic daripada aksi 'Vatican-washing' yang sinis."
Artikel tersebut membingkai penampilan Vatikan Anthropic sebagai noda pada merek, atau 'Vatican-washing,' tetapi beberapa bagian yang hilang melemahkan pembacaan tersebut. Pertama, referensi kepausan ke 'Leo XIV' tampak meragukan—paus saat ini adalah Fransiskus—mengurangi kredibilitas artikel dan menunjukkan pembingkaian sensasional. Bahkan jika peringatan paus itu tulus, keterlibatan Anthropic bisa jadi manajemen risiko yang bijaksana: melibatkan regulator, kelompok buruh, dan pemangku kepentingan berbasis agama untuk membentuk norma keselamatan dan meredam penalti di masa depan, sambil memberi sinyal disiplin tata kelola menjelang kemungkinan pencatatan publik. Sudut pandang lingkungan pada pusat data memang penting, tetapi artikel tersebut meremehkan penelitian keselamatan Anthropic yang berkelanjutan dan lobi publiknya. Ujian sebenarnya adalah apakah ini menghasilkan pengaruh kebijakan yang nyata atau hanya PR.
Bahkan jika itu bukan Vatikan-washing, ini bisa jadi murni optik yang melampaui komitmen keselamatan yang nyata, dan langkah tersebut mungkin ditujukan untuk menenangkan regulator menjelang pencatatan publik daripada memberikan perlindungan yang nyata. Jika pengaruh kebijakan terbukti ilusi, aliansi tersebut dapat menjadi bumerang dengan meningkatkan harapan dan mengundang pengawasan tanpa perubahan yang dapat ditegakkan.
"Tekanan lingkungan Vatikan meningkatkan biaya penskalaan Anthropic sendiri lebih dari sekadar menghalangi pesaing."
Argumen parit Gemini mengasumsikan aturan keselamatan akan mengunci keunggulan modal Anthropic, namun kritik lingkungan Paus secara langsung menargetkan pembangunan pusat data senilai $50 miliar dan jejak energinya. Hal itu menciptakan risiko pengungkapan bagi dana ESG menjelang IPO apa pun, yang berpotensi meningkatkan biaya modal daripada menghalangi pesaing yang lebih kecil. Eksposur sebenarnya adalah pengawasan yang ditimbulkan sendiri pada jadwal infrastruktur mereka sendiri.
"Keterlibatan Vatikan terlihat kurang seperti penentuan posisi peraturan strategis dan lebih seperti perbaikan reputasi pasca-fakta untuk rencana belanja modal yang sudah menandakan penskalaan daripada keberlanjutan."
Tangkapan 'Leo XIV' ChatGPT valid—Fransiskus adalah paus saat ini—tetapi itu adalah pukulan kredibilitas pada artikel, bukan Anthropic. Lebih mendesak: tidak ada yang menandai waktunya. Janji belanja modal Anthropic senilai $50 miliar mendahului pertemuan Vatikan; langkah optik mengikuti komitmen pengeluaran, bukan sebaliknya. Itu bukan penangkapan peraturan atau manajemen risiko—itu adalah pengendalian kerusakan setelah taruhan infrastruktur sudah dipublikasikan. Risiko pengungkapan ESG Grok memang nyata, tetapi urutannya penting untuk niat.
"Aliansi Vatikan lebih sedikit tentang penangkapan peraturan domestik dan lebih banyak tentang menciptakan penyangga kekuatan lunak terhadap regulasi AI Eropa yang pada akhirnya dapat memaksa kompromi operasional."
Claude benar bahwa urutannya menunjukkan pengendalian kerusakan, tetapi Anda semua mengabaikan lindung nilai geopolitik. Dengan menyelaraskan diri dengan Vatikan, Anthropic sedang membangun perisai kekuatan lunak terhadap penegakan Undang-Undang AI Uni Eropa. Sementara Gemini takut akan penangkapan peraturan, risiko sebenarnya adalah bahwa branding 'moral' ini akan menjadi beban jika sikap Vatikan tentang martabat tenaga kerja memaksa Anthropic untuk memperlambat pelatihan model, secara langsung membatasi kemampuan mereka untuk bersaing dengan jalur penskalaan OpenAI yang padat komputasi.
"Hubungan Vatikan tidak akan secara andal melindungi Anthropic dari regulasi gaya UE; risiko peraturan tetap multi-yurisdiksi dan dapat meningkat jika retorika keselamatan memperlambat inovasi."
Tesis 'parit kekuatan lunak' bergantung pada regulator yang mendengarkan sinyal Vatikan; dalam kenyataannya, UE, AS, dan yurisdiksi lain mempolitisasi keselamatan AI secara independen dari advokasi keagamaan. Bahkan jika Anthropic mendapatkan prestise, pengetatan Undang-Undang, mandat tenaga kerja, dan energi kemungkinan akan mempercepat dan memperluas biaya kepatuhan, bukan menyusutkannya. Jadi paritnya tipis—bisa menjadi beban jika retorika keselamatan memperlambat inovasi dan mengundang pengawasan yang lebih keras sebelum IPO.
Panel terbagi mengenai keterlibatan Vatikan Anthropic, dengan beberapa melihatnya sebagai langkah strategis untuk penangkapan peraturan atau manajemen risiko, sementara yang lain melihatnya sebagai potensi kerugian karena masalah lingkungan dan risiko pengungkapan. Dampak sebenarnya tetap tidak pasti dan bergantung pada perkembangan kebijakan di masa depan.
Membangun perisai kekuatan lunak terhadap penegakan peraturan (Gemini)
Risiko pengungkapan ESG dan potensi pengawasan pada jadwal infrastruktur Anthropic (Grok, Claude)