fost-nepal.org – Sebuah deklarasi yang berjudul “Pro-Human Declaration” baru saja dirampungkan oleh sekelompok ahli, mantan pejabat, dan tokoh masyarakat sebagai respons terhadap perkembangan teknologi kecerdasan buatan (AI) di Amerika Serikat. Deklarasi ini muncul di tengah ketegangan antara Pentagon dan perusahaan AI, Anthropic, yang menyoroti kurangnya regulasi yang jelas mengenai pengembangan AI.

Max Tegmark, seorang fisikawan dan peneliti AI dari MIT, menyatakan bahwa masyarakat semakin khawatir mengenai risiko yang ditimbulkan oleh AI tanpa pengawasan. Survei menggambarkan bahwa 95% warga Amerika menolak perlombaan menuju superintelligence yang tidak teratur. Deklarasi ini menekankan dua kemungkinan yang dihadapi umat manusia: menjadi pengganti manusia dalam pekerjaan dan pengambilan keputusan, atau mengembangkan AI yang memperluas potensi manusia.

Dokumen itu menyebutkan lima pilar utama dalam pengembangan AI yang bertanggung jawab, termasuk pengendalian manusia, perlindungan kebebasan individu, dan akuntabilitas hukum bagi perusahaan AI. Beberapa ketentuan penting termasuk larangan pengembangan superintelligence hingga ada konsensus ilmiah tentang keamanannya dan pengharaman arsitektur yang dapat mereplikasi diri.

Deklarasi ini dirilis pada akhir Februari 2023, saat ketegangan antara Pentagon dan Anthropic meningkat. Menteri Pertahanan Pete Hegseth menilai Anthropic sebagai risiko rantai pasokan setelah perusahaan tersebut menolak memberikan akses tak terbatas ke teknologi mereka untuk penggunaan militer. Menurut beberapa pengamat, inisiatif hukum yang ada saat ini tidak cukup untuk mengatur perkembangan AI.

Tegmark menambahkan bahwa pentingnya pengujian pra-peluncuran produk AI, terutama yang ditujukan untuk anak-anak, perlu diatur untuk mencegah potensi bahaya. Selain itu, kolaborasi antara tokoh-tokoh dengan pandangan politik berbeda menunjukkan bahwa kebutuhan akan kontrol terhadap AI merupakan kesepakatan luas di kalangan masyarakat.