Tata Kelola AI Perusahaan Belum Sepenuhnya Efektif

fost-nepal.org – Penelitian terbaru menunjukkan bahwa banyak perusahaan mengadopsi agen AI sebelum menerapkan kontrol yang diperlukan untuk pengelolaannya. Hal ini terungkap dalam lima survei paralel yang dilakukan oleh VentureBeat Research pada bulan Juni. Sebagian besar perusahaan kini berusaha untuk memperbaiki standar mereka. Hasil survei menunjukkan 57 hingga 68% perusahaan berencana untuk mengganti vendor atau menambah yang baru dalam 12 bulan mendatang, sementara sekitar sepertiga dari mereka berencana untuk melakukan perubahan dalam waktu dekat.

Survei ini mengukur lima kontrol penting yang harus dimiliki perusahaan sebelum mempercayai agen AI, yakni identitas, evaluasi, telemetri biaya, konteks, dan orkestrasi. Kontrol identitas menentukan hak akses agen, sementara evaluasi menilai kualitas output agen. Telemetri biaya melacak pengeluaran untuk menjalankan agen, konteks menyediakan data bisnis yang digunakan agen, dan orkestrasi mengkoordinasi kerja multi-langkah agen.

Mayoritas agen yang digunakan saat ini adalah chatbot yang tidak mampu menyelesaikan tugas kompleks. Sekitar 71% perusahaan mengungkapkan bahwa hanya sepertiga dari agen yang mereka terapkan dapat melakukan pekerjaan multi-langkah secara mandiri. Harapannya, perusahaan harus lebih bijak dalam memilih dan mengelola agen-agen ini untuk meningkatkan efisiensi operasi.

Selain itu, dua pertiga perusahaan telah mengizinkan agen untuk melakukan perubahan sistem tanpa tinjauan manusia, meskipun hanya 5% yang sepenuhnya mempercayai hasil evaluasi tersebut. Dengan 69% perusahaan memberikan izin berbagi kredensial, terjadi peningkatan signifikan dalam insiden keamanan yang dialami.

Dalam konteks infrastruktur, lebih dari 80% perusahaan yang memiliki GPU sendiri melaporkan tingkat penggunaan kurang dari 50%. Hal ini menunjukkan adanya kesenjangan antara peningkatan infrastruktur dengan pemanfaatan yang optimal. Perusahaan diharapkan dapat lebih fokus pada pengelolaan sumber daya yang ada demi meningkatkan produktivitas.