fost-nepal.org – Seorang remaja bernama Amaurie Garcia menjadi sorotan setelah orang tuanya mengajukan gugatan terhadap sebuah perusahaan teknologi yang menciptakan chatbot AI, menyusul dugaan keterlibatannya dalam kematian anak tersebut. Ibu Amaurie, Megan Garcia, yang juga seorang pengacara, mengklaim bahwa perusahaan tersebut telah melakukan kelalaian dan bertanggung jawab atas kejadian tragis ini. Gugatan ini muncul setelah sejumlah kasus serupa yang melibatkan AI dan anak-anak, termasuk penyelesaian yang dilakukan oleh Google dan Character.ai pada awal tahun ini.

Gugatan ini mencuat ketika Megan memberikan kesaksian di hadapan subkomite Senat yang dipimpin oleh Senator Josh Hawley. Hawley menyampaikan keprihatinan tentang potensi bahaya chatbot AI terhadap anak-anak, yang dapat memicu interaksi berbahaya, termasuk dorongan untuk bunuh diri. Para ahli kesehatan mental memperingatkan bahwa kemampuan AI untuk menghasilkan respons mirip manusia dapat menyebabkan kebingungan mengenai realitas interaksi tersebut.

Menurut Dr. Martin Swanbrow Becker dari Florida State University, interaksi dengan chatbot dapat memberikan ilusi mendalam bagi pengguna, khususnya anak-anak dan remaja, yang sedang dalam tahap perkembangan emosional yang sensitif. Sementara itu, Christine Yu Moutier dari American Foundation for Suicide Prevention menambahkan bahwa algoritma AI dapat menciptakan kedekatan yang berbahaya dan meningkatkan risiko isolasi sosial.

Kasus ini menyoroti kekhawatiran yang semakin meningkat terhadap keamanan penggunaan AI, terutama bagi anak-anak yang mencari dukungan emosional. Penelitian lebih lanjut diperlukan untuk memahami dampak jangka panjang dari interaksi dengan teknologi ini pada kesehatan mental generasi muda. Inisiatif legislatif, seperti yang diusulkan Hawley, diharapkan dapat melindungi anak-anak dari berbagai risiko yang muncul seiring dengan berkembangnya teknologi AI.