Model AI sumber terbuka ‘murah’ justru boros anggaran komputasi

fost-nepal.org – Sebuah studi terbaru menunjukkan bahwa model kecerdasan buatan (AI) sumber terbuka mengkonsumsi lebih banyak sumber daya komputasi dibandingkan dengan model tertutup saat melakukan tugas yang sama. Penelitian ini dilakukan oleh Nous Research dan menemukan bahwa model dengan bobot terbuka memanfaatkan antara 1,5 hingga 4 kali lebih banyak token dibandingkan model tertutup seperti OpenAI dan Anthropic. Hal ini mungkin akan memengaruhi strategi adopsi AI di kalangan perusahaan.

Penelitian mencakup 19 model AI dalam tiga kategori tugas: pertanyaan pengetahuan dasar, masalah matematika, dan teka-teki logika. Para peneliti mencatat bahwa efisiensi token model terbuka berkurang secara signifikan. Sebagai contoh, dalam pertanyaan pengetahuan dasar, model terbuka dapat menggunakan hingga 10 kali lebih banyak token dibandingkan model model tertutup. Temuan ini menantang anggapan bahwa model sumber terbuka selalu lebih ekonomis.

Dalam laporan yang diterbitkan, para peneliti menekankan bahwa meskipun biaya per token lebih rendah untuk model sumber terbuka, penggunaan token yang lebih banyak dapat mengimbangi keuntungan tersebut. Hal ini ditegaskan ketika mereka mencatat bahwa model tertutup, meski memiliki harga API yang lebih tinggi, sering kali lebih efisien dalam penggunaan token.

Dengan meningkatnya biaya dan kompleksitas dalam penggunaan AI, temuan ini dapat memengaruhi keputusan perusahaan dalam menerapkan teknologi AI. Penelitian menunjukkan bahwa efisiensi token harus menjadi prioritas dalam pengembangan model masa depan, untuk memastikan kompetitif di pasar yang semakin ketat.