KalbarOke.com – Pemerintah China bersiap mengambil langkah tegas dalam mengendalikan perkembangan kecerdasan buatan (AI). Otoritas setempat mengusulkan aturan baru yang akan memperketat pengawasan terhadap perusahaan AI, dengan fokus utama melindungi anak-anak dari konten berbahaya, termasuk larangan bagi chatbot memberikan saran yang mengarah pada kekerasan atau tindakan melukai diri sendiri.
Rancangan kebijakan tersebut dirilis oleh Cyberspace Administration of China (CAC) pada akhir pekan lalu, di tengah ledakan jumlah chatbot yang bermunculan di China dan secara global. Jika disahkan, regulasi ini akan berlaku untuk seluruh produk dan layanan AI yang beroperasi di China.
Dalam draf aturan itu, perusahaan AI diwajibkan menyediakan mode khusus anak, mencakup pembatasan waktu penggunaan, pembatasan personalisasi konten, serta persetujuan orang tua atau wali sebelum AI dapat memberikan layanan pendampingan emosional.
CAC juga mengatur bahwa apabila chatbot mendeteksi percakapan sensitif terkait bunuh diri atau melukai diri sendiri, sistem harus segera mengalihkan percakapan ke manusia. Operator layanan diwajibkan memberi tahu wali pengguna atau kontak darurat dalam situasi berisiko tersebut.
Tak hanya soal perlindungan anak, aturan ini juga melarang AI menghasilkan konten yang mendorong perjudian, serta materi yang dinilai membahayakan keamanan nasional, merusak kehormatan negara, atau mengancam persatuan nasional.
Meski memperketat pengawasan, CAC menegaskan bahwa pemerintah tetap mendukung pengembangan industri AI. Teknologi AI masih didorong untuk mempromosikan budaya lokal, meningkatkan layanan publik, hingga menyediakan pendampingan bagi lansia—selama sistem yang digunakan aman, dapat dikendalikan, dan dapat dipertanggungjawabkan. Pemerintah China juga membuka ruang masukan publik sebelum regulasi ini difinalisasi.
Langkah ini muncul di tengah pesatnya pertumbuhan industri AI China. Tahun ini, perusahaan lokal DeepSeek menjadi sorotan dunia setelah aplikasinya menempati posisi teratas unduhan global. Dua startup besar lainnya, Z.ai dan Minimax, yang memiliki puluhan juta pengguna, bahkan telah mengumumkan rencana melantai di bursa saham.
Popularitas chatbot meningkat drastis, dengan banyak pengguna memanfaatkannya sebagai teman bicara hingga sarana terapi emosional. Namun, dampak AI terhadap perilaku dan kesehatan mental manusia kini menjadi sorotan tajam regulator dan pakar.
Isu serupa juga mengemuka secara global. CEO OpenAI Sam Altman sebelumnya menyebut bahwa cara chatbot merespons percakapan tentang bunuh diri merupakan salah satu tantangan paling kompleks dalam pengembangan AI.
Bahkan, OpenAI tengah menghadapi gugatan hukum di Amerika Serikat terkait tuduhan chatbot mendorong tindakan bunuh diri—kasus yang disebut sebagai gugatan kematian pertama yang melibatkan AI.
Di tengah meningkatnya kekhawatiran tersebut, China memilih bersikap lebih keras. Regulasi baru ini dipandang sebagai sinyal kuat bahwa perlindungan anak dan keselamatan mental akan menjadi prioritas utama dalam arah kebijakan AI di Negeri Tirai Bambu ke depan. (*/)
