“Tepatnya sebagai buah dari cara-cara khusus manusia dalam mendekati dunia di sekitar kita, yang terakhir selalu memiliki dimensi etis, terkait erat dengan keputusan-keputusan yang dibuat oleh mereka yang merancang eksperimen mereka dan mengarahkan produksi mereka ke arah yang sama. tujuan tertentu,” kata Paus Fransiskus.
Hal ini juga berlaku pada AI, karena dampak dari setiap perangkat kecerdasan buatan -- terlepas dari teknologi yang mendasarinya -- tidak hanya bergantung pada desain teknisnya, namun juga pada tujuan dan kepentingan pemilik dan pengembangnya, serta pada situasi di mana perangkat tersebut berada. akan dipekerjakan.
“Oleh karena itu, kita tidak dapat secara apriori berasumsi bahwa perkembangannya akan memberikan kontribusi yang bermanfaat bagi masa depan umat manusia dan perdamaian antar bangsa. Hasil positif tersebut hanya akan tercapai jika kita menunjukkan diri kita mampu bertindak secara bertanggung jawab dan menghormati nilai-nilai fundamental kemanusiaan seperti 'inklusi, transparansi, keamanan, kesetaraan, privasi, dan keandalan'”, tulis Paus Fransiskus.
Masalah Etika
Oleh karena itu diperlukan “untuk membentuk badan-badan yang bertugas memeriksa isu-isu etika yang timbul di bidang ini dan melindungi hak-hak mereka yang menggunakan bentuk-bentuk kecerdasan buatan atau yang terkena dampaknya.”
Baca Juga: Real Madrid Berpotensi Kehilangan Luka Modric dan 5 Pemain Lainnya
“Kita mempunyai tugas untuk memperluas pandangan kita dan mengarahkan penelitian tekno-ilmiah menuju upaya mencapai perdamaian dan kebaikan bersama, demi kepentingan pembangunan integral individu dan komunitas.”
“Perkembangan teknologi yang tidak mengarah pada peningkatan kualitas hidup seluruh umat manusia, namun malah memperburuk kesenjangan dan konflik, tidak pernah bisa dianggap sebagai kemajuan sejati,” kata Paus.
Pesan tersebut selanjutnya menyoroti banyak tantangan yang ditimbulkan oleh AI yang bersifat “antropologis, pendidikan, sosial dan politik.”
Kemampuan perangkat tertentu untuk menghasilkan teks yang koheren, misalnya, “tidak menjamin keandalannya.” Hal ini, kata Paus, “menimbulkan masalah serius ketika kecerdasan buatan digunakan dalam kampanye disinformasi yang menyebarkan berita palsu dan menyebabkan semakin besarnya ketidakpercayaan terhadap media komunikasi.”
Penyalahgunaan teknologi ini juga dapat menimbulkan konsekuensi negatif lainnya “seperti diskriminasi, campur tangan dalam pemilu, meningkatnya pengawasan masyarakat, pengucilan digital dan semakin parahnya individualisme yang semakin terputus dari masyarakat”, yang semuanya merupakan ancaman terhadap perdamaian dunia.
Baca Juga: Ira Nandha Bongkar Bukti Baru Perselingkuhan Pilot dan Pramugari
Paus Fransiskus kemudian memperingatkan risiko terhadap masyarakat demokratis dan hidup berdampingan secara damai dari paradigma teknokratis dominan di balik AI dan kultus kekuatan manusia yang tidak terbatas: “Dengan mengusulkan untuk mengatasi setiap batasan melalui teknologi, dalam keinginan obsesif untuk mengendalikan segalanya, kita berisiko kehilangan kendali. atas diri kita sendiri.”
Algoritma tidak boleh menentukan bagaimana kita memahami hak asasi manusia
Ia menegaskan isu-isu etika “yang membara” yang ditimbulkan oleh AI, termasuk diskriminasi, manipulasi, atau kontrol sosial: “Ketergantungan pada proses otomatis yang mengkategorikan individu, misalnya, melalui penggunaan pengawasan atau penerapan sistem kredit sosial, juga dapat menyebabkan hal yang sama. mempunyai dampak besar pada tatanan sosial dengan menetapkan peringkat di antara warga negara.”
“Algoritma tidak boleh dibiarkan menentukan bagaimana kita memahami hak asasi manusia, mengesampingkan nilai-nilai esensial kemanusiaan yaitu kasih sayang, belas kasihan, dan pengampunan”, Paus menekankan, juga menyoroti dampak teknologi baru di tempat kerja.
Persenjataan kecerdasan buatan
Paus Fransiskus mengungkapkan keprihatinan khusus terhadap “persenjataan kecerdasan buatan,” khususnya dengan mengutip Sistem Senjata Otonomi Mematikan (LAWS), yang menarik perhatian pada risiko senjata canggih berakhir di tangan teroris.