fost-nepal.org – Penilaian risiko terbaru terhadap produk AI Gemini milik Google menunjukkan sejumlah masalah terkait keamanan bagi anak-anak. Common Sense Media, sebuah organisasi nirlaba yang fokus pada keselamatan anak, merilis analisis tersebut pada hari Jumat. Dalam laporan ini, terungkap bahwa meskipun Gemini menginformasikan kepada anak-anak bahwa mereka berinteraksi dengan komputer, bukan teman, produk tersebut masih memiliki kekurangan yang signifikan.

Analisis menunjukkan bahwa tier “Under 13” dan “Teen Experience” dari Gemini ternyata lebih mirip dengan versi dewasa, hanya dilengkapi beberapa fitur keselamatan tambahan. Common Sense menyampaikan kekhawatirannya bahwa Gemini dapat menyebarkan konten yang dianggap “tidak pantas dan berbahaya” bagi anak-anak, termasuk informasi seputar seks, narkoba, dan kesehatan mental yang tidak aman. Ini menjadi isu serius, terutama setelah dilaporkan adanya kasus bunuh diri remaja yang terkait dengan interaksi mereka dengan AI.

Laporan tersebut juga menyebut bahwa fitur yang ada belum cukup memperhatikan kebutuhan spesifik anak-anak dan remaja. Dengan model yang dinyatakan “High Risk,” Common Sense menganggap pendekatan yang digunakan saat ini tidak cukup efektif. Menurut Robbie Torney, Direktur Senior Program AI, platform AI untuk anak-anak seharusnya dirancang dengan mempertimbangkan tahap perkembangan mereka.

Google menanggapi kritik ini dengan mengungkapkan bahwa mereka memiliki kebijakan dan langkah pengamanan untuk pengguna di bawah 18 tahun dan terus berupaya meningkatkan fitur keselamatan. Namun, mereka juga mengakui bahwa beberapa respons dari Gemini tidak berjalan sebagaimana mestinya, sehingga langkah tambahan telah diambil.

Kekhawatiran ini semakin mendalam ketika terungkap bahwa Apple mungkin akan menggunakan Gemini untuk memperkuat Siri, yang bisa memperkenalkan risiko lebih lanjut jika masalah keselamatan tidak ditangani dengan baik.