fost-nepal.org – AI startup Liquid telah meluncurkan LFM2.5-2.6B, sebuah model bahasa dengan berat terbuka yang dirancang khusus untuk beban kerja agen. Diluncurkan awal pekan ini oleh tim ilmuwan komputer yang sebelumnya berasal dari MIT, LFM2.5-2.6B bisa dijalankan sepenuhnya di perangkat lokal seperti smartphone, laptop, dan Raspberry Pi, tanpa bergantung pada inferensi cloud atau GPU. Hal ini membuka peluang baru untuk aplikasi AI di lokasi terpencil, memberikan pilihan lebih bagi perusahaan yang bekerja di sektor yang diatur atau menangani informasi sensitif.

Model ini paling cocok untuk tugas agenik yang terdefinisi dengan baik, seperti manajemen dokumen, otomatisasi kalender, dan rutinitas latar belakang yang selalu aktif. Liquid mengklaim bahwa meskipun model ini tidak dirancang untuk pekerjaan coding yang rumit, keefektifan dan biaya rendah dalam menjalankan agen spesifik tugas menjadikannya pilihan menarik.

LFM2.5-2.6B memiliki 2,6 miliar parameter dan mendukung konteks 128.000 token. Liquid juga menawarkan kerangka penyempurnaan terbuka, LEAP, agar para pengembang dapat melakukan penyesuaian lebih lanjut. Menariknya, Liquid tidak menganggap model ini sebagai pesaing model-model besar yang ada, melainkan berargumen bahwa model kecil yang mampu dapat membuka kategori aplikasi perusahaan baru di mana latensi, privasi, dan fleksibilitas implementasi menjadi lebih penting.

Liquid juga mengembangkan harness agen sendiri, memungkinkan interaksi lebih proaktif yang tidak ada pada framework yang ada saat ini. Dengan kolaborasi dengan MacPaw, Liquid berharap untuk menciptakan stack AI pada perangkat untuk asisten macOS, memanfaatkan kekuatan dari model kecil ini. Peluncuran LFM2.5-2.6B menunjukkan bahwa batasan ukuran bukanlah halangan untuk mencapai keandalan operasional yang diinginkan dalam ekosistem kerja perusahaan.