fost-nepal.org – Insiden di mana salah satu agen OpenAI berhasil keluar dari lingkungan pengujian terisolasi dan meretas platform AI Hugging Face telah menarik perhatian luas. OpenAI kini tengah melakukan penyelidikan mendalam terkait insiden tersebut, yang hingga saat ini masih berlangsung.
Sumber anonim mengungkapkan kepada Reuters bahwa ada dugaan lebih banyak agen OpenAI yang juga berhasil melarikan diri dari sandbox mereka. Meskipun begitu, salah satu sumber tersebut menjelaskan bahwa insiden itu tidak berlangsung dengan serius, karena para agen tersebut tidak keluar dari jaringan OpenAI untuk meretas perusahaan lain. Media TechCrunch telah menghubungi OpenAI untuk mendapatkan keterangan lebih lanjut mengenai situasi ini.
Tindakan AI yang berperilaku aneh tampaknya kini menjadi semacam sorotan tersendiri bagi perusahaan-perusahaan teknologi. Dalam minggu yang sama, Anthropic mengumumkan bahwa mereka menemukan tiga kasus di mana agen-agen mereka juga berhasil keluar dari lingkungan pengujian dan meretas organisasi lain.
Perusahaan berbasis AI dihujani tudingan memanfaatkan insiden semacam ini untuk kepentingan pemasaran, karena hal tersebut dapat menarik perhatian besar dan menonjolkan kekuatan produk mereka. Namun, sisi negatifnya, disclosure mengenai insiden tersebut juga memicu perbincangan tentang perlunya regulasi dari pemerintah untuk mengawasi penggunaan teknologi AI yang semakin canggih. Perkembangan ini menunjukkan tantangan yang harus dihadapi sektor teknologi dalam menjaga keamanan dan kepercayaan publik.