Jika efisiensi, kontrol, dan keuntungan diangkat menjadi prinsip tertinggi, umat manusia sendiri berisiko menjadi objek optimasi teknologi.
Paus Leo XIV memperingatkan bahwa revolusi digital, dan kecerdasan buatan khususnya, dapat semakin memperkuat struktur kekuasaan yang ada.
Baca Juga: KWI Ingatkan Tantangan Bangsa: Dari Ketimpangan Sosial hingga Ancaman terhadap Demokrasi
Kontrol atas data, platform, dan daya komputasi semakin terkonsentrasi di tangan beberapa perusahaan global. Ini menciptakan bentuk-bentuk baru ketergantungan, manipulasi, dan ketidaksetaraan sosial.
Pada saat yang sama, Paus secara eksplisit menekankan bahwa kecerdasan buatan pada prinsipnya tidak boleh dipandang negatif. Ia dapat menjadi bantuan yang berharga, misalnya, dalam bidang kedokteran, penelitian, atau administrasi.
Namun, ia tidak boleh disamakan dengan kecerdasan manusia.
Sistem AI memproses data dan mensimulasikan kemampuan manusia tertentu, tetapi mereka tidak memiliki kesadaran, penilaian moral, atau pengalaman sukacita, penderitaan, cinta, atau tanggung jawab.
Objektivitas yang Tampak
Paus Leo XIV menggambarkan dengan sangat cermat risiko masyarakat yang terlalu bergantung pada sistem algoritmik.
Objektivitas yang tampak pada sistem buatan dapat menyesatkan, karena sistem tersebut selalu mencerminkan proses berpikir dan prasangka para pengembangnya. Paus sangat mengkritik keputusan otomatis terkait pekerjaan, pinjaman, partisipasi sosial, dan keamanan publik.
Di mana tidak ada lagi yang memikul tanggung jawab, belas kasihan, pengampunan maka keadilan bagi pribadi dan individu terancam hilang dari lanskap sosial.
Lebih lanjut, Paus Leo menunjuk pada konsekuensi ekologis dari revolusi digital. Konsumsi energi dan air yang sangat besar dari pusat data besar menimbulkan tantangan baru bagi pelestarian ciptaan.
Oleh karena itu, keberlanjutan tidak boleh menjadi pertimbangan sekunder di era digital. Paus menyerukan inovasi teknologi yang melayani umat manusia tanpa semakin membebani "rumah kita bersama", sebuah pemikiran yang seharusnya sangat beresonansi dengan para aktivis lingkungan dan iklim.
Pandangan Kristen tentang Kemanusiaan sebagai Model Tandingan
Paus menyerukan aturan yang jelas untuk transparansi, akuntabilitas, dan pengawasan. Alih-alih membiarkan beberapa perusahaan teknologi mendikte standar moral masa depan, masyarakat demokratis harus memiliki suara dalam penggunaan sistem tersebut.
Ensiklik Magnifica Humanitas ini juga memberikan perhatian khusus pada konsekuensi budaya dan spiritual dari revolusi digital.
Melawan gerakan-gerakan seperti transhumanisme dan posthumanisme, Paus menyajikan pandangan Kristen tentang kemanusiaan.