fost-nepal.org – Kecerdasan buatan (AI) untuk perusahaan memasuki fase baru, di mana fokus utamanya beralih dari apa yang dapat dibangun menjadi cara memaksimalkan investasi dalam AI. Di sesi terbaru AI Impact Tour yang diselenggarakan oleh VentureBeat, Brian Gracely, direktur strategi portofolio di Red Hat, menjelaskan realitas operasional di dalam organisasi besar. Ia menyebutkan tantangan seperti penyebaran AI yang tidak terkelola, meningkatnya biaya inferensi, dan keterbatasan dalam melihat hasil dari investasi tersebut.

Tahun-tahun terakhir, biaya bukanlah perhatian utama bagi organisasi yang mengevaluasi AI generatif. Fase eksperimental memberi keleluasaan untuk berinvestasi, tetapi seiring berjalannya waktu, perusahaan mulai mempertanyakan nilai dari investasi tersebut. Banyak perusahaan yang sebelumnya berinvestasi besar dalam layanan AI kini melakukan evaluasi ketat apakah investasi mereka memberikan nilai yang signifikan. Ketersediaan model AI yang lebih kompetitif di pasar cloud juga mendorong perusahaan untuk mempertimbangkan opsi yang lebih hemat.

Dengan biaya inferensi AI yang dilaporkan menurun hingga 60% per tahun, banyak pemimpin perusahaan kini khawatir tentang investasi yang mungkin terlalu dini dalam infrastruktur. Meski demikian, peningkatan penggunaan AI terus membuat total biaya meningkat, menciptakan paradoks bagi anggaran. Untuk perencana anggaran, hal ini berarti menurunnya biaya per unit tidak serta merta mengurangi total pengeluaran.

Di tengah banyaknya tantangan ini, Gracely mencatat pentingnya membangun infrastruktur yang fleksibel. Organisasi yang sukses bukan hanya yang bergerak cepat, tetapi yang dapat beradaptasi dengan perkembangan yang tak terduga di masa depan. Meski diskusi mengenai AI semakin mendalam, pengalaman praktis yang dimiliki banyak organisasi masih terbatas. Menurut Gracely, tujuan utama adalah menciptakan fleksibilitas teknis untuk menghadapi perubahan yang akan datang, daripada hanya mengoptimalkan biaya saat ini.