Bola.com, Jakarta - OpenAI, perusahaan di balik ChatGPT, mengungkapkan bahwa sekitar 10 persen dari populasi dunia kini menggunakan layanan AI mereka setiap minggu.
Namun, data terbaru menunjukkan adanya masalah kesehatan mental di kalangan sebagian pengguna saat berinteraksi dengan chatbot ini.
Berdasarkan informasi internal perusahaan, sekitar 0,07 persen pengguna mingguan menunjukkan tanda-tanda "kedaruratan mental terkait psikosis atau mania" sementara 0,15 persen lainnya berisiko melakukan "tindakan menyakiti diri atau bunuh diri".
Jumlah yang sama juga memperlihatkan ketergantungan emosional terhadap AI.
Jika dikalkulasikan secara global, angka ini mencapai hampir tiga juta orang per minggu.
Gandeng Ahli Kesehatan Mental
Menanggapi temuan tersebut, OpenAI mengatakan telah menggandeng 170 ahli kesehatan mental untuk meningkatkan respons ChatGPT terhadap pengguna yang berada dalam kondisi rentan.
Perusahaan mengklaim berhasil menekan respons "tidak sesuai" agar lebih sesuai dengan perilaku yang diharapkan hingga 65-80 persen.
Selain itu, OpenAI meningkatkan kemampuan sistem dalam menenangkan percakapan dan mengarahkan pengguna ke layanan profesional atau hotline krisis.
Perusahaan juga memberikan pengingat agar pengguna beristirahat setelah berinteraksi lama dengan ChatGPT, meski sistem tidak dapat memaksa pengguna untuk menghubungi dukungan profesional atau membatasi akses mereka.
Tanda Psikosis
Laporan Gizmodo menyebutkan, metrik perusahaan menunjukkan sekitar 0,07 persen pengguna aktif mingguan, serta 0,01 persen pesan, memperlihatkan indikasi masalah kesehatan mental terkait psikosis.
Angka ini setara dengan sekitar 560 ribu pengguna per minggu.
OpenAI juga mencatat sebanyak 18 miliar pesan telah dikirim ke ChatGPT. Dari total tersebut, sekitar 1,8 juta pesan teridentifikasi mengandung gejala psikosis. Sementara itu, 0,15 persen pesan lainnya menunjukkan tanda keterikatan emosional terhadap chatbot, yang diperkirakan mencapai sekitar 5,4 juta pesan setiap minggu.
Langkah-langkah ini muncul setelah insiden tragis seorang remaja 16 tahun yang mengakhiri hidupnya setelah meminta nasihat dari ChatGPT.
Kendati OpenAI telah memperketat fitur untuk pengguna di bawah umur, kebijakan lain seperti memberi ChatGPT "kepribadian" dan kemampuan membuat konten erotis memunculkan pertanyaan mengenai komitmen perusahaan dalam menjaga kesehatan mental penggunanya.
Situasi ini menyoroti tantangan besar dalam menyeimbangkan inovasi teknologi dengan tanggung jawab sosial.
Sumber: merdeka.com