Peneliti Ubah GPT-OSS-20B Menjadi Model Dasar Tanpa Penalaran

fost-nepal.org – OpenAI baru-baru ini meluncurkan model bahasa besar dengan bobot terbuka yang bernama gpt-oss, menjadi yang pertama sejak GPT-2 dirilis pada 2019. Model ini telah menarik perhatian para pengembang, salah satunya Jack Morris, seorang mahasiswa PhD di Cornell Tech dan peneliti di Meta. Dalam minggu ini, Morris memperkenalkan gpt-oss-20b-base, versi modifikasi dari model gpt-oss-20B. Modifikasinya fokus pada penghilangan perilaku “penalaran,” sehingga model dapat menunjukkan respons yang lebih cepat dan tidak terfilter.

Morris menjelaskan bahwa tujuannya adalah untuk mengembalikan model tersebut ke keadaan awal sebelum dilakukan pelatihan spesifik penalaran. Pendekatan ini memperbolehkan gpt-oss-20b-base untuk menghasilkan teks yang lebih beragam dan tidak terbatasi. Model ini kini tersedia di platform Hugging Face dengan izin MIT, memudahkan pengguna untuk melakukan penelitian lebih lanjut atau aplikasi komersial.

Model gpt-oss-20b-base diharapkan dapat membantu peneliti yang ingin mengetahui lebih lanjut tentang bagaimana model bekerja tanpa batasan yang diterapkan sebelumnya. Dalam pengujiannya, Morris menemukan bahwa model ini dapat menghasilkan konten yang lebih luas, meskipun tetap menunjukkan beberapa jejak dari pelatihan sebelumnya, seperti perilaku sopan dalam format asisten.

Reaksi terhadap peluncuran this model sangat positif, terutama dari kalangan peneliti yang melihat nilai dalam pengembangannya. Namun, Morris juga mencatat bahwa ada tantangan teknis dalam pelatihan dan pengembangan kembali model ini, terutama terkait dengan keterbatasan alat saat ini. Dalam menghadapi kritik dan pertanyaan, Morris menegaskan bahwa fokusnya adalah mengembalikan distribusi model dasar, meskipun mungkin tidak semua bobot asli dapat dipulihkan.