Paus Fransiskus meminta para pemimpin teknologi untuk mengukur nilai inovasi mereka bukan dalam kekuatan pemrosesan atau potensi keuntungan, tetapi dalam kapasitas mereka untuk meningkatkan martabat manusia. Dalam pertemuan di Vatikan pada 27 Maret bersama para ilmuwan, insinyur, pebisnis, dan pengacara yang bekerja di industri teknologi, paus merenungkan dampak sosial dan budaya kecerdasan buatan (AI). Manfaat AI dan pembelajaran otomatis bagi umat manusia akan terwujud hanya jika pengembang bertindak dengan “cara yang etis dan bertanggung jawab” yang menghormati martabat setiap orang, kata paus.

Namun, dia menyatakan keprihatinan bahwa rasa hormat seperti itu hilang ketika, misalnya, perangkat lunak AI digunakan untuk menghasilkan hukuman dengan menganalisis catatan kriminal individu dan data umum. “Perilaku masa lalu seseorang tidak boleh digunakan untuk menyangkal kesempatannya untuk berubah, tumbuh dan berkontribusi pada masyarakat,” katanya. “Kita tidak boleh mengizinkan algoritme untuk membatasi atau mengkondisikan penghormatan terhadap martabat manusia, kita juga tidak dapat mengizinkan mereka untuk mengecualikan kasih sayang, belas kasihan, pengampunan dan, di atas segalanya, keterbukaan untuk mengharapkan perubahan pribadi.”

Pakar teknologi khawatir bahwa data yang digunakan untuk membangun algoritme dalam perangkat lunak hukum yang cerdas secara artifisial dapat memperkuat bias yang sudah ada sebelumnya dalam sistem peradilan, yang semakin menindas kelompok yang sudah terpinggirkan. “Data itu bisa terkontaminasi oleh prasangka dan prasangka sosial,” kata paus. “Nilai fundamental seseorang tidak dapat diukur dengan sekumpulan data.” Dia mencatat bagaimana teknologi digital telah meningkatkan ketidaksetaraan global baik secara ekonomi maupun dalam hal pengaruh politik dan sosial. Ketidaksetaraan seperti itu, katanya, berakar pada “rasa meritokrasi yang salah”. “Ada risiko menganggap keuntungan ekonomi segelintir orang sebagai yang diperoleh atau pantas, sementara kemiskinan banyak orang dilihat, dengan cara tertentu, sebagai kesalahan mereka,” katanya.

Paus Fransiskus mengundang para pemimpin industri untuk mempertimbangkan bagaimana inovasi mereka dapat menciptakan masyarakat yang lebih setara dan inklusif. “Apakah institusi nasional dan internasional kita dapat meminta pertanggungjawaban perusahaan teknologi atas dampak sosial dan budaya dari produk mereka? Apakah ada risiko meningkatnya ketidaksetaraan dapat membahayakan rasa solidaritas manusia dan sosial kita?” tanyanya. Paus mengingat prinsip-prinsip etis dalam pengembangan AI yang disepakati oleh para pemimpin agama, pemerintah, dan industri teknologi di Vatikan: transparansi, inklusi, tanggung jawab, ketidakberpihakan, keandalan, keamanan, dan privasi.

Pada Januari, para eksekutif dari Microsoft dan IBM serta perwakilan dari komunitas Muslim dan Yahudi bertemu di Vatikan untuk menandatangani dokumen yang menyerukan pendekatan yang berpusat pada manusia untuk pengembangan AI di mana prinsip-prinsip tersebut telah disepakati. Dokumen tersebut menganjurkan untuk menetapkan “pandangan di mana AI dikembangkan dengan fokus bukan pada teknologi, melainkan untuk kebaikan umat manusia dan lingkungan.”

Pada pertemuan bulan Maret, paus berterima kasih kepada para pemimpin teknologi karena telah terlibat dalam diskusi tentang penggunaan teknologi yang bertanggung jawab yang “terbuka untuk nilai-nilai agama”, dan mengatakan dialog antara penganut agama dan non-agama tentang sains dan etika “adalah jalan menuju pembangunan perdamaian dan pembangunan manusia seutuhnya.”

(Sumber: https://indonesia.ucanews.com/)