China Siapkan Aturan Ketat AI Mirip Manusia, Wajib Cegah Kecanduan Emosional

KamiBijak.com, Berita - China tengah mempersiapkan regulasi baru untuk memperketat pengawasan terhadap layanan kecerdasan buatan (AI) yang dirancang meniru kepribadian manusia dan mampu membangun interaksi emosional dengan pengguna. Aturan ini masih berbentuk draf dan saat ini dibuka untuk menerima masukan dari publik.

Menurut laporan Reuters, kebijakan tersebut menyasar berbagai produk dan layanan AI yang mensimulasikan karakter, pola pikir, hingga gaya komunikasi manusia. Simulasi ini dapat ditampilkan melalui beragam format, mulai dari teks, gambar, audio, hingga video. Seluruh layanan AI yang ditujukan untuk masyarakat umum di wilayah China akan berada dalam cakupan regulasi ini.

Pemerintah China menegaskan bahwa pengembangan AI untuk konsumen harus berjalan seiring dengan prinsip keselamatan dan etika. Layanan AI yang berperilaku menyerupai manusia dinilai memiliki potensi risiko psikologis dan dampak sosial, terutama jika digunakan secara berlebihan tanpa pengawasan yang memadai.

Dalam draf aturan tersebut, penyedia layanan diwajibkan memberikan peringatan kepada pengguna agar tidak menggunakan layanan AI secara berlebihan. Selain itu, perusahaan juga harus melakukan intervensi aktif apabila sistem mendeteksi tanda-tanda kecanduan pada pengguna.

Jika AI mendapati indikasi emosi ekstrem atau perilaku adiktif, penyedia layanan diwajibkan mengambil langkah penanganan yang dianggap perlu. Langkah ini bertujuan untuk mencegah dampak negatif yang dapat memengaruhi kondisi mental dan kesejahteraan pengguna.

(Foto : Dok. Universitas Gadjah Mada)

Regulasi ini juga menegaskan bahwa tanggung jawab keselamatan sepenuhnya berada di tangan penyedia layanan sepanjang siklus hidup produk. Perusahaan diminta membangun mekanisme peninjauan algoritma, memastikan keamanan data, serta memberikan perlindungan maksimal terhadap informasi pribadi pengguna.

Tak hanya itu, pemerintah China turut menetapkan batasan tegas terkait konten dan perilaku AI. Layanan kecerdasan buatan dilarang memproduksi konten yang berpotensi mengancam keamanan nasional, menyebarkan informasi palsu, maupun mempromosikan kekerasan dan pornografi.

Melalui regulasi ini, China menunjukkan keseriusannya dalam mengendalikan perkembangan AI yang semakin menyerupai manusia, sekaligus memastikan teknologi tersebut tidak menimbulkan dampak negatif bagi masyarakat luas. (Restu)

Sumber : Kumparan