fost-nepal.org – Paus Leo XIV mempersembahkan ensiklik pertamanya tentang kecerdasan buatan di Vatikan pada Senin lalu, dengan mengundang Christopher Olah, salah satu pendiri perusahaan Anthropic. Langkah ini menandakan adanya aliansi baru antara Gereja Katolik dan perusahaan teknologi di Silicon Valley. Menelusuri sejarah berdirinya Anthropic, perusahaan ini didirikan pada tahun 2021 setelah sekelompok peneliti dari OpenAI, termasuk Dario dan Daniela Amodei, memutuskan untuk mendirikan laboratorium pesaing dengan tujuan menjadikan pengembangan kecerdasan buatan lebih bertanggung jawab.

Anthropic fokus pada keselamatan AI, berusaha menciptakan model-model yang bukan hanya kuat, tetapi juga dapat dikendalikan dan dipandu oleh prinsip etika. Salah satu konsep kunci yang diusung adalah “Constitutional AI,” yang berarti pelatihan sistem berdasarkan prinsip dan aturan bukannya sekadar mengoreksi respon yang berisiko.

Kehadiran Olah di Vatikan tidaklah kebetulan. Upaya Gereja Katolik untuk terlibat langsung dengan industri AI telah berjalan lama, dimulai dengan inisiatif “Rome Call for AI Ethics” pada tahun 2020. Inisiatif ini menggandeng Microsoft, IBM, dan organisasi internasional lainnya untuk membangun prinsip etika dalam pengembangan AI.

Setelah AI mulai memengaruhi berbagai aspek kehidupan, Vatikan menyadari pentingnya masalah etika dalam teknologi tidak hanya berimplikasi teknis, tetapi juga pada masa depan umat manusia. Anthropic dilihat sebagai mitra penting oleh Vatikan karena fokus perusahaan ini pada keselamatan AI.

Christopher Olah, dalam perannya, dikenal sebagai peneliti terkemuka di bidang interpretasi model. Ia berupaya menjembatani pemahaman neural networks dengan cara yang dapat dipahami oleh manusia, sesuai dengan kekhawatiran Paus Leo XIV terhadap potensi bahaya teknologi yang terlalu kuat dan sulit dikendalikan.