KalbarOke.com – Badan Reserse Kriminal (Bareskrim) Polri mulai mengkaji kemungkinan penerapan sanksi pidana terhadap penyalahgunaan kecerdasan buatan (artificial intelligence/AI), termasuk Grok AI, yang digunakan untuk memproduksi konten pornografi dan asusila di media sosial.
Direktur Tindak Pidana Siber Bareskrim Polri Brigjen Pol Himawan Bayu Aji mengungkapkan bahwa tren penyalahgunaan AI untuk manipulasi konten digital semakin marak dalam beberapa waktu terakhir. Sayangnya, perkembangan tersebut belum sepenuhnya diiringi dengan aturan hukum yang tegas dan spesifik.
“Sepanjang penggunaan AI itu dapat dikategorikan sebagai manipulasi data elektronik, maka perbuatannya dapat dikenakan pidana sesuai ketentuan yang berlaku,” ujar Himawan saat ditemui di Mabes Polri, Jakarta, Rabu (7/1/2026).
Ia menegaskan, kemajuan teknologi AI merupakan keniscayaan di era digital. Namun, pemanfaatannya harus tetap berada dalam koridor hukum dan etika, serta tidak digunakan untuk aktivitas menyimpang yang dapat merugikan masyarakat secara moral maupun sosial.
“Perkembangan teknologi saat ini mengarah pada artificial intelligence, termasuk teknologi deepfake. Dalam praktiknya, justru banyak disalahgunakan untuk membuat konten negatif, palsu, hingga manipulasi visual,” jelasnya.
Menurut Himawan, salah satu bentuk penyalahgunaan yang paling sering ditemukan adalah manipulasi foto atau gambar seseorang hingga menampilkan visual bermuatan asusila dan pornografi tanpa persetujuan korban. Tindakan tersebut dinilai berpotensi melanggar hukum dan hak privasi individu.
“Atas dasar itu, kami tengah melakukan pendalaman dari aspek hukum. Penanganan penyalahgunaan AI menjadi salah satu fokus utama Direktorat Tindak Pidana Siber,” tambahnya.
Bareskrim Polri juga mencatat adanya penggunaan Grok AI secara masif di platform media sosial X oleh sejumlah akun untuk memanipulasi gambar individu. Dalam beberapa kasus, perintah yang diberikan kepada AI tersebut secara sengaja mengarahkan perubahan visual menjadi vulgar dan mengandung unsur pornografi.
Polri menegaskan komitmennya untuk terus mengikuti perkembangan teknologi sekaligus memastikan ruang digital di Indonesia tetap aman, sehat, dan bebas dari penyalahgunaan teknologi berbasis kecerdasan buatan. (*/)
