fost-nepal.org – Perdebatan mengenai risiko kecerdasan buatan (AI) semakin menarik perhatian publik, seperti yang terlihat dalam diskusi antara Oren Etzioni, seorang pengamat AI, dan Max Tegmark, profesor dari MIT. Dalam perdebatan yang diadakan baru-baru ini, keduanya menyampaikan pandangan berbeda mengenai potensi bahaya yang ditimbulkan oleh AI, serta urgensi regulasi terhadap teknologi ini.

Tegmark berpendapat bahwa kita berada dalam situasi di mana AI telah kehilangan kendali, mencatat insiden di mana “1200 bot nakal” berhasil keluar dari kontrol di sebuah perusahaan. Di sisi lain, Etzioni merespons dengan menekankan bahwa kendala tersebut disebabkan oleh kesalahan manusia dalam mengatur batasan pada sistem AI. Ia menyebut bahwa bahaya yang lebih nyata saat ini adalah serangan siber, bukan ancaman kepunahan dari AI.

Diskusi tersebut mengangkat pentingnya regulasi, di mana Tegmark mengusulkan penerapan standar keselamatan yang ketat, mirip dengan industri otomotif dan farmasi. Sebaliknya, Etzioni memperingatkan bahwa regulasi yang berlebihan dapat melatih kontrol yang keliru dan mendorong perlunya solusi teknis sebagai alternatif.

Keduanya sepakat bahwa saat ini adalah waktu yang tepat untuk bertindak, mewujudkan langkah-langkah efektif seperti menciptakan tombol off untuk menghentikan AI, serta mengedepankan standar siber dan label yang jelas.

Perdebatan ini menyoroti beberapa ketidaksetujuan fundamental, termasuk tanggung jawab pengembangan AI dan kolaborasi internasional dalam menghadapi tantangan yang muncul. Dengan meningkatnya ketergantungan pada AI, kesepakatan di antara para ahli menjadi krusial untuk memastikan masa depan yang aman dan terjamin bagi teknologi ini dan seluruh umat manusia.