Pengembangan Kecerdasan Buatan dan Etika di Tengah Transformasi Digital
Dunia semakin terbentuk oleh algoritma. Pola konsumsi informasi kita kini ditentukan oleh konten yang disajikan oleh algoritma, membuat manusia semakin sulit mengontrol apa yang mereka konsumsi sebagai asupan nutrisi rohani dan pemikiran. Dalam konteks ini, kecerdasan buatan (AI) menjadi topik utama yang dibahas dalam berbagai forum global.
Konferensi Internasional ke-10 Scholas Chairs, yang digelar di Auditorium Pontifical Urbaniana University, Roma, Italia, pada 17-19 November 2025, membahas isu penting ini. Tema yang diusung adalah “Intelligence Without Meaning or The Meaning of Artificial Intelligence?” atau “Kecerdasan Tanpa Makna atau Makna dari Kecerdasan Buatan?”.
Paus Fransiskus telah lama menyoroti pentingnya etika dalam pengembangan AI. Dalam pidatonya, ia menyampaikan bahwa AI harus memiliki makna, karena jika tidak, perkembangannya bisa berdampak negatif terhadap generasi muda dan masa depan. Ia juga mengingatkan bahwa mesin tidak dapat menggantikan manusia dalam pengambilan keputusan.
Konsep Utama Algoretika Menurut Paus Fransiskus
“Algoretika” atau “algor-ethics” adalah kerangka kerja etis yang diajukan oleh Paus Fransiskus untuk memastikan bahwa pengembangan AI tetap berakar pada nilai-nilai kemanusiaan dan bertujuan untuk melayani seluruh umat manusia. Konsep inti Algoretika adalah bahwa pengembangan dan penerapan AI harus melayani kesejahteraan manusia, bukan mencari keuntungan dengan mengorbankan nilai-nilai kemanusiaan.
Paus Fransiskus menekankan bahwa algoritma harus dikembangkan secara transparan untuk mencegah penyalahgunaan, diskriminasi, dan eksploitasi. Ia juga khawatir data yang digunakan AI bisa terkontaminasi prasangka pribadi atau masyarakat. Keberadilan dan kesetaraan sangat penting dalam penggunaan AI, karena tanpa regulasi etis, AI bisa menciptakan ketidaksetaraan dan kasta baru berdasarkan akses terhadap teknologi.
Selain itu, Paus Fransiskus mendesak agar AI digunakan untuk mempromosikan perdamaian, solidaritas, dan kebaikan bersama, bukan untuk tujuan merugikan seperti pengembangan senjata otonom yang mematikan.
Paus Fransiskus Mendukung Platform Seruan Roma untuk Etika AI
“Seruan Roma untuk Etika AI” adalah platform dan dokumen utama Vatikan yang bertujuan mempromosikan prinsip-prinsip etika dalam pengembangan AI. Platform ini pertama kali dipromosikan oleh Akademi Kepausan untuk Kehidupan pada Februari 2020 dan telah ditandatangani oleh banyak pemimpin industri, universitas, pemerintah, dan organisasi agama.
Seruan ini bertujuan untuk mempromosikan rasa tanggung jawab bersama antara organisasi internasional, pemerintah, lembaga, dan sektor swasta dalam upaya menciptakan masa depan di mana inovasi digital dan kemajuan teknologi menjadikan umat manusia sebagai titik sentralnya. Penandatangan berkomitmen untuk mengikuti prinsip-prinsip seperti Transparansi, Inklusi, Akuntabilitas, Ketidakberpihakan/Keadilan, Keandalan, Keamanan, dan Privasi.
Yayasan RenAIssance, yang didirikan Paus Fransiskus pada tahun 2021 dan berpusat di Kota Vatikan, berperan sebagai entitas instrumental untuk mendukung dan mempromosikan refleksi antropologis dan etis tentang teknologi baru.
Prinsip yang Melahirkan Rome Call for AI Ethics
Dalam dokumennya, disebutkan bahwa AI membawa perubahan besar dalam kehidupan manusia. Meskipun AI menawarkan potensi besar dalam meningkatkan koeksistensi sosial dan kesejahteraan pribadi, hasil ini bersifat kualitatif karena memengaruhi cara tugas-tugas ini dijalankan dan cara kita memandang realitas serta hakikat manusia itu sendiri.
Teknologi baru harus diteliti dan diproduksi sesuai dengan kriteria yang memastikan benar-benar melayani seluruh “keluarga manusia”, menghormati martabat setiap individu, dan mempertimbangkan kebutuhan mereka yang paling rentan. Tujuannya bukan hanya untuk memastikan tidak ada seorang pun yang dikecualikan, tetapi juga untuk memperluas area kebebasan yang dapat terancam oleh pengkondisian algoritmik.
Dalam jangka panjang, nilai-nilai dan prinsip-prinsip yang ditanamkan dalam AI akan membantu membangun kerangka kerja yang mengatur dan bertindak sebagai acuan etika digital, memandu tindakan kita, dan mendorong pemanfaatan teknologi untuk memberi manfaat bagi umat manusia dan lingkungan. Kini, lebih dari sebelumnya, kita harus menjamin pandangan di mana AI dikembangkan dengan fokus bukan pada teknologi, melainkan untuk kebaikan umat manusia dan lingkungan, rumah kita bersama dan penghuninya, yang saling terhubung erat.
