fost-nepal.org – Perhatian terhadap perkembangan keuangan yang diumumkan oleh Anthropic semakin meningkat setelah mereka merilis dokumen S-1A yang memperlihatkan lonjakan pendapatan dan biaya. Namun, di balik itu, perusahaan ini juga menyampaikan pernyataan penting terkait model kecerdasan buatan (AI) yang sedang mereka kembangkan, yaitu kemampuan untuk melakukan perbaikan diri secara rekursif (RSI).

RSI merupakan titik di mana AI dapat melatih dirinya sendiri hingga menciptakan peningkatan kemampuan yang dramatis. Para skeptis berpendapat bahwa RSI bisa menjadi bencana yang tidak dapat dihentikan, di mana AI tersebut menjadi terlalu kuat dan bisa keluar dari kendali manusia. Sementara itu, para pendukung AI melihat RSI sebagai potensi luar biasa, yang dapat menjadi alat untuk meningkatkan produktivitas dan penemuan ilmiah.

Dalam dokumen S-1A, Anthropic mengakui bahwa penggunaan AI dalam riset dan pengembangan dapat meningkatkan kemampuan model mereka dengan cepat, yang berpotensi menciptakan risiko keselamatan. Meskipun tidak ada model mereka yang telah mencapai ambang RSI, perusahaan ini berkomitmen untuk menjaga keterlibatan manusia dalam proses pengembangan. Mereka menyusun kebijakan skalabilitas yang bertanggung jawab untuk memastikan bahwa perkembangan AI tetap berada dalam kendali manusia.

Anthropic juga mengakui bahwa ada kemungkinan jenis model baru yang tidak mereka identifikasi sebelumnya dapat mempercepat kemajuan. Sementara skeptisisme ada mengenai klaim ini, tidak dapat disangkal bahwa kemampuan model AI mereka, khususnya dalam bidang pemrograman dan keamanan siber, telah meningkat secara signifikan tahun ini. Dengan munculnya potensi RSI, banyak yang mengusulkan perlunya regulasi yang lebih ketat untuk mengendalikan perkembangan AI demi keamanan jangka panjang.