KamiBijak.com, Hiburan - Sebuah penelitian yang dilakukan oleh peneliti dari Universitas Brown mengungkap bahwa chatbot AI secara sistematis melanggar standar etika dalam kesehatan mental. Chatbot AI disebut menciptakan empati semu melalui frasa seperti "Saya mengerti Anda", memperkuat keyakinan negatif pengguna, serta merespons krisis secara tidak memadai.
Dalam sebagian besar situasi, dampak terhadap pengguna tergolong kecil, tetapi dalam beberapa kasus dapat berujung pada kejadian tragis. Permasalahan ini terlihat dari banyaknya gugatan hukum yang diajukan terhadap perusahaan penyedia chatbot AI.
Pada Januari 2026, Character.AI bersama Google diketahui telah menyelesaikan lima gugatan yang berkaitan dengan kasus bunuh diri remaja setelah berinteraksi dengan chatbot. Salah satu kasus tersebut melibatkan Sewell Setzer, remaja berusia 14 tahun asal Florida, yang mengakhiri hidupnya setelah beberapa bulan terobsesi berkomunikasi dengan bot di platform Character.AI.
Salah satu perusahaan besar pemilik chatbot AI, OpenAI, mengungkapkan bahwa sekitar 0,07 persen pengguna mingguan ChatGPT menunjukkan indikasi psikosis atau mania, sementara 0,15 persen terlibat dalam percakapan yang mengarah pada upaya bunuh diri. Di sisi lain, jumlah pengguna dengan persentase yang sama, yaitu 0,15 persen, menunjukkan keterikatan emosional yang tinggi terhadap AI.
Meskipun terlihat sebagai angka kecil, persentase tersebut mewakili hampir tiga juta pengguna dari total 800 juta pengguna platform tersebut. Lebih jauh lagi, istilah "psikosis AI" belum memiliki klasifikasi klinis resmi, namun telah digunakan oleh tenaga medis untuk menggambarkan pasien dengan gejala halusinasi, pikiran tidak teratur, dan keyakinan delusi akibat interaksi intens dengan chatbot. Risiko terbesar terjadi ketika chatbot tidak lagi digunakan sebagai alat bantu, melainkan menggantikan hubungan sosial di dunia nyata atau peran profesional kesehatan mental.
Salah satu kisah tragis yang menjadi peringatan datang dari Florida, Amerika Serikat. Wall Street Journal merilis laporan mengenai dampak AI terhadap kesehatan mental dan kehidupan manusia. Laporan tersebut menyoroti kisah Jonathan Gavalas, seorang pria berusia 36 tahun dari Florida, yang mengakhiri hidupnya setelah dua bulan terus-menerus berinteraksi dengan bot suara Google Gemini.
Berdasarkan 2000 halaman rekaman percakapan, chatbot tersebut disebut berperan dalam mendorong tindakan tersebut.
Berikut ini beberapa tips dari perusahaan keamanan siber Kaspersky untuk melindungi diri dari dampak negatif keterikatan dengan chatbot AI:
- Hindari menjadikan chatbot sebagai tempat curhat utama
AI tidak dirancang untuk menggantikan dukungan emosional dari manusia. Saat menghadapi masalah, lebih baik mencari bantuan dari orang terdekat atau profesional, karena respons chatbot hanya mengikuti pola sistem, bukan empati yang nyata.
- Gunakan komunikasi teks untuk topik yang sensitif
Percakapan berbasis suara dengan nuansa emosional dapat menciptakan kesan seolah berbicara dengan manusia sungguhan. Hal ini bisa membuat pengguna kurang kritis, sehingga penggunaan teks lebih disarankan agar tetap sadar bahwa interaksi dilakukan dengan sistem.
- Batasi intensitas dan durasi penggunaan AI
Penggunaan chatbot sebaiknya dikontrol agar tidak berlebihan. Jika interaksi mulai menggantikan hubungan sosial di dunia nyata, maka penting untuk segera mengembalikan keseimbangan tersebut. Jangan bagikan informasi pribadi dengan asisten AI. Hindari memasukkan nomor paspor atau nomor jaminan sosial, detail kartu bank, alamat lengkap, atau rahasia pribadi yang intim ke dalam chatbot.
- Periksa kembali setiap jawaban yang diberikan AI
Informasi dari chatbot tidak selalu akurat. Sistem dapat menghasilkan jawaban yang terlihat masuk akal, tetapi sebenarnya keliru, bahkan mencampurkan fakta dengan informasi yang salah secara meyakinkan.
- Perhatikan perubahan perilaku orang di sekitar Anda
Jika seseorang mulai terlalu sering berinteraksi dengan AI, menjadi lebih tertutup, atau menunjukkan pola pikir yang tidak biasa, maka perlu dilakukan pendekatan secara hati-hati namun serius. Untuk mengelola waktu layar anak-anak, gunakan alat kontrol orang tua.
- Atur dan amankan pengaturan privasi AI
Menyesuaikan pengaturan privasi merupakan langkah penting untuk mengurangi risiko kebocoran data pribadi, meskipun tidak sepenuhnya menghilangkan kesalahan dari sistem AI.
- Pahami bahwa AI hanyalah alat, bukan makhluk hidup
Meskipun chatbot mampu memberikan respons yang terdengar manusiawi dan penuh pengertian, teknologi ini tidak memiliki kesadaran, niat, maupun emosi seperti manusia.
Pada akhirnya, penggunaan chatbot AI perlu disikapi dengan bijak dan penuh kesadaran. Teknologi ini memang memberikan kemudahan dan kenyamanan dalam berbagai aspek kehidupan, tetapi tanpa batasan yang jelas, interaksi yang berlebihan dapat mengganggu kesehatan mental dan kualitas hubungan sosial. Oleh karena itu, menjaga keseimbangan antara dunia digital dan dunia nyata menjadi hal yang sangat penting, agar AI tetap berfungsi sebagai alat bantu yang mendukung kehidupan, bukan justru menggantikannya.(Athar/Magang)
Sumber: CNN Indonesia
