fost-nepal.org – OpenAI dan Anthropic baru-baru ini melakukan pengujian silang terhadap model kecerdasan buatan (AI) masing-masing, mengungkapkan temuan penting mengenai risiko yang terkait meskipun model-model tersebut menunjukkan kecenderungan yang lebih baik dalam hal keamanan. Uji coba tersebut dilakukan untuk mengevaluasi kemampuan dan potensi masalah yang mungkin timbul dari penggunaan AI dalam situasi nyata.

Penelitian ini melibatkan penilaian model AI yang berfokus pada kemampuan penalaran dan keamanan operasional. Meskipun terdapat peningkatan dalam keandalan dan pengurangan masalah, hasilnya masih menunjukkan adanya potensi risiko, termasuk kemungkinan penyalahgunaan. Uji coba ini dilakukan oleh para peneliti dari kedua perusahaan, yang berkolaborasi untuk memahami lebih dalam tentang batasan dan tantangan yang dihadapi dalam pengembangan teknologi AI.

Kedua perusahaan sepakat bahwa meskipun model-model yang mereka uji menunjukkan perbaikan, penting untuk tetap waspada terhadap kemungkinan gangguan yang dapat muncul bila AI digunakan di luar konteks yang telah ditentukan. Penelitian ini menjadi semakin relevan mengingat lonjakan adopsi AI di berbagai industri yang berpotensi menimbulkan tantangan baru dalam hal etika dan keamanan.

Dari hasil evaluasi ini, OpenAI dan Anthropic menyarankan agar perusahaan-perusahaan menerapkan langkah-langkah tambahan dalam proses penilaian model AI, khususnya sebelum peluncuran produk seperti GPT-5. Hal ini bertujuan untuk meminimalkan risiko dan memastikan penggunaan yang bertanggung jawab terhadap teknologi canggih ini. Penelitian ini mencerminkan komitmen kedua perusahaan dalam menciptakan lingkungan yang lebih aman bagi pengembangan dan penggunaan AI.