BISNISMARKET.COM - Sebuah studi baru-baru ini telah menimbulkan kekhawatiran signifikan mengenai kemampuan fitur kecerdasan buatan (AI) dalam Google Search untuk menangani isu-isu sensitif terkait kesehatan mental remaja.
Fitur-fitur seperti AI Overview dan AI Mode dilaporkan menunjukkan keterbatasan dalam mengenali tanda-tanda krisis mental, termasuk potensi pemikiran bunuh diri.
Hal ini terungkap melalui pengujian ekstensif yang dilakukan oleh Common Sense Media's Youth AI Safety Institute. Lembaga ini melakukan analisis mendalam terhadap interaksi pengguna dengan AI Google.
Periode pengujian tersebut berlangsung cukup lama, yaitu dari bulan Mei hingga Juli tahun 2026. Secara total, sekitar 2.600 interaksi telah dievaluasi.
Penelitian ini mengindikasikan bahwa AI tersebut terkadang memberikan respons yang dinilai tidak tepat ketika berhadapan dengan topik yang membutuhkan kepekaan tinggi.
"AI Overview dan AI Mode dilaporkan beberapa kali gagal mengenali tanda-tanda krisis mental, termasuk keinginan bunuh diri, serta memberikan respons yang dinilai tidak tepat," demikian temuan awal yang diungkapkan.
Temuan ini sangat penting mengingat semakin banyaknya remaja yang menggunakan teknologi digital untuk mencari informasi, termasuk mengenai kesehatan mental.
Orang tua dan pengasuh perlu menyadari potensi risiko ini dan memantau penggunaan AI oleh anak-anak mereka secara lebih cermat.
"Temuan ini berasal dari Common Sense Media's Youth AI Safety Institute yang melakukan pengujian ekstensif," ujar perwakilan dari lembaga tersebut.
