Vatikan menerbitkan kerangka etika mengenai kecerdasan buatan (AI), yang mendesak umat Katolik agar berhati-hati terhadap potensi penyalahgunaannya.

Dalam dokumen baru itu, para pemimpin gereja menekankan perlunya kesadaran mengenai kemampuan AI, khususnya dalam peperangan. Vatikan menyoroti masalah yang ditimbulkan oleh persenjataan yang didukung dengan AI, misalnya operasi militer jarak jauh dapat berkontribusi pada “kurangnya persepsi” kehancuran yang disebabkan oleh sistem tersebut, serta “beban tanggung jawab” yang menyertainya.

Dokumen itu mengatakan “sangat penting” untuk memahami dampak etis AI terhadap kemanusiaan, dan mendesak agar penerapannya digunakan tidak hanya untuk mengurangi risiko dan mencegah bahaya, tetapi juga untuk mendorong kemajuan manusia dan kebaikan bersama. AI harus digunakan untuk memperlengkapi kecerdasan manusia daripada menggantikan kekayaannya.

Dokumen yang telah disetujui oleh Paus Fransiskus pada 14 Januari itu dikembangkan selama enam bulan oleh tim Vatikan dari Departemen Doktrin Iman, Kebudayaan, dan Pendidikan, dengan melakukan konsultasi bersama para ahli di bidang tersebut.

Masa depan AI tidak dapat diprediksi, tetapi mesin otonom harus selalu tetap berada di bawah kendali manusia. “Kekejaman yang dilakukan sepanjang sejarah sudah cukup untuk menimbulkan kekhawatiran mendalam tentang potensi penyalahgunaan AI,” tulis dokumen itu. “Tidak ada mesin yang seharusnya memilih untuk mengambil nyawa manusia.”

Vatikan juga menyuarakan kekhawatiran akan kemampuan AI untuk menyebarkan misinformasi, yang dapat mengikis kepercayaan dalam masyarakat.

“Media palsu yang dihasilkan AI secara bertahap dapat merusak fondasi masyarakat,” kata dokumen itu, dilanjutkan dengan anjuran penggunaan regulasi yang hati-hati untuk mencegah misinformasi yang memicu “polarisasi politik dan keresahan sosial.”

Dokumen itu juga membahas topik-topik lain, termasuk dampak AI pada hubungan, pekerjaan, perawatan kesehatan, pendidikan, dan keamanan.

Merujuk pada Pesan Hari Perdamaian Dunia 2024 dari Paus Fransiskus, Vatikan mengutuk penggunaan AI militer otonom, dengan menekankan bahwa AI tidak memiliki “kapasitas manusia yang unik untuk penilaian moral dan pengambilan keputusan etis.”

Paus Fransiskus sebelumnya telah meminta militer untuk menghentikan penggunaan sistem ini, dengan mengatakan bahwa sangat penting untuk memastikan kontrol manusia yang lebih besar atas sistem tersebut.

Dalam surat kepada para pemimpin politik, ekonomi, dan bisnis di Forum Ekonomi Dunia di Davos, Swiss pekan lalu, Paus memperingatkan bahwa AI dapat memperburuk “krisis kebenaran” yang sedang berkembang, menggemakan pernyataan serupa yang dibuatnya pada pertemuan G7 tahun lalu. Ia menggambarkan AI sebagai “revolusi kognitif-industri sejati” yang akan berkontribusi pada terciptanya sistem sosial baru yang ditandai dengan transformasi yang lebih mendalam.

Bulan lalu, Vatikan juga menerbitkan dokumen peraturan terpisah, yang menguraikan pedomannya untuk penggunaan AI di dalam gereja.