RADARBEKASI.ID, BEKASI – Baru-baru ini, manipulasi foto asusila dengan menggunakan Grok AI di platform media sosial X sering bermunculan dan menjadi kekhawatiran bagi warganet.
Melihat celah potensi kejahatan ini, yang dapat disalahgunakan oleh orang yang tidak bertanggungjawab, Bareskrim Polri mengingatkan adanya potensi pidana terhadap pelaku yang memerintahkan manipulasi foto asusila dengan menggunakan Grok AI tersebut tanpa persetujuan figur atau pribadi yang foto dirinya dimanipulasi.
”Memang perkembangan teknologi itu sekarang mengarah kepada Artificial Intelligence (AI), termasuk deepfake itu menggunakan AI. Karena itu, memang kami sedang melakukan penyelidikan ke arah sana,” ungkap Direktur Tindak Pidana Siber (Dittipid Siber) Bareskrim Polri Brigjen Pol Himawan Bayu Aji kepada awak media di Jakarta dikutip dari JawaPos pada Kamis (8/1/2026).
BACA JUGA: Begini Cara Mencoba Fitur Gemini Live di Android, Dapat Berbicara Bahasa Indonesia
Jenderal bintang satu Polri itu menegaskan bahwa jika terbukti ditemukan indikasi manipulasi data elektronik berupa foto yang diubah menggunakan AI tanpa persetujuan figur dalam foto tersebut, pihak kepolisian bisa mengambil tindakan hukum dan melaksanakan proses pidana.
”Selama bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang (dapat) dipidana,” tegas Himawan.
Sebelumnya merujuk pada akun media sosial resmi @CCICPolri, sudah disampaikan bahwa tindakan mengedit foto yang kini ramai dilakukan oleh warganet dengan menggunakan Grok AI tengah didalami. Dalam unggahan akun tersebut juga meminta masyarakat segera melapor ke pihak berwajib jika ada hal-hal yang perlu ditindaklanjuti melalui proses hukum.
”Kami akan melakukan pendalaman dan penyelidikan terhadap kasus yang dimaksud. Jika ada informasi lain yang perlu kami tindak lanjuti silakan menghubungi kami melalui patrolisiber.id,” unggah akun tersebut.
Di sisi lain, pihak Kementerian Komunikasi dan Digital (Komdigi) juga sudah siap untuk mengambil langkah tegas terhadap Grok AI dan X, yaitu dengan memberikan sanksi administratif hingga pemblokiran akses jika tidak mentaati dan kooperatif terhadap aturan yang berlaku di Indonesia.
Langkah tegas ini ditempuh menyusul maraknya penyalahgunaan Grok AI pada platform media sosial X. Termasuk diantaranya manipulasi foto pribadi tanpa persetujuan dan sepengetahuan pemilik foto dan sosok dalam foto tersebut. Khususnya manipulasi foto untuk dijadikan sebagai konten maupun ancaman bermuatan asusila. (cr1)
