fost-nepal.org – OpenAI mengumumkan rencana untuk menambahkan watermark tak terlihat pada teks yang dihasilkan oleh ChatGPT dan Codex di Uni Eropa, sebagai langkah kepatuhan terhadap EU AI Act. Kebijakan ini mulai berlaku sejak 2 Agustus dan mengharuskan perusahaan AI untuk menandai konten yang dihasilkan oleh AI agar bisa dikenali oleh sistem lain.

Watermark ini dijadwalkan akan diluncurkan dalam beberapa minggu ke depan untuk pengguna ChatGPT dan Codex yang memenuhi syarat di semua paket, namun hanya untuk wilayah Uni Eropa. Sementara itu, pengembang yang menggunakan API OpenAI di seluruh dunia dapat mengaktifkannya untuk model tertentu mulai sekarang, meskipun secara default dalam keadaan mati. OpenAI menyatakan bahwa watermark ini tidak akan diterapkan secara global pada saat peluncuran.

Watermark tersebut tidak berupa simbol visible, melainkan mempengaruhi pilihan kata model, sehingga menciptakan pola yang tidak terlihat oleh pembaca namun bisa dideteksi. Watermark ini selamanya tersemat dalam teks, termasuk saat teks disalin dan ditempel. OpenAI menegaskan bahwa watermark ini tidak mengidentifikasi pengguna dan tidak berpengaruh signifikan terhadap kinerja model.

OpenAI juga merilis laporan teknis tentang metode watermarking ini, yang disebut textGrain, bersama pengumuman tersebut. Metode ini melibatkan penggunaan kunci rahasia untuk memprediksi kata berikutnya. Pengujian menunjukkan bahwa pengeditan teks, seperti mengganti 10% kata dengan sinonim, dapat menurunkan tingkat deteksi dari 92% menjadi 66%. Perusahaan mengingatkan bahwa watermark yang hilang tidak selalu menunjukkan bahwa teks ditulis oleh manusia.

Pengumuman ini datang setelah perusahaan lain seperti Anthropic juga menyatakan rencana serupa untuk watermarking, yang diterapkan secara global. OpenAI, bersama perusahaan-perusahaan teknologi terkemuka lainnya, telah berkomitmen untuk mengikuti kode praktik yang ditetapkan oleh Uni Eropa terkait konten yang dihasilkan oleh AI.