KabarIndonesia.id — Penyalahgunaan Grok AI untuk mengubah foto seseorang menjadi konten yang memuat asusila di media sosial X kini menjadi sorotan serius aparat penegak hukum karena berpotensi menjerat pelakunya ke ranah pidana.
Badan Reserse Kriminal (Bareskrim) Polri menegaskan, siapa pun yang dengan sengaja memerintahkan atau memanfaatkan Grok AI untuk memanipulasi foto tanpa izin pemilik dapat dikenakan sanksi hukum. Praktik tersebut dinilai sebagai bentuk manipulasi data elektronik yang peraturan perundang-undangan.
Direktur Tindak Pidana Siber Bareskrim Polri, Brigjen Pol. Himawan Bayu Aji, menyebut pesatnya perkembangan teknologi kecerdasan buatan, termasuk teknik deepfake, membuka peluang di ruang digital yang semakin kompleks.
“Perkembangan teknologi sekarang memang mengarah ke Artificial Intelligence. Deepfake sendiri merupakan salah satu bentuk pemanfaatan AI, dan saat ini kami sedang melakukan penyelidikan ke arah tersebut,” ujar Himawan, dikutip Kamis (8/1/2026).
Ia menegaskan, perubahan atau rekayasa foto menggunakan AI tanpa izin pemiliknya merupakan perbuatan yang dapat diproses secara hukum, keseluruhannya dapat dibuktikan sebagai hasil manipulasi data elektronik.
“Jika bisa diklarifikasi bahwa itu adalah manipulasi data elektronik, maka itu menjadi suatu hal yang dapat dipidana,” tegasnya.
Bareskrim Polri memastikan, fenomena manipulasi foto dengan Grok AI yang belakangan ramai dilakukan warganet masih dalam tahap pendalaman. Aparat membuka ruang partisipasi publik untuk melaporkan konten-konten yang diduga melanggar hukum.
“Kami akan melakukan penyelidikan lebih lanjut terhadap kasus tersebut. Apabila masyarakat menemukan informasi atau konten yang perlu ditindaklanjuti, silakan melapor melalui patrolisiber.id,” tambah Himawan.
Di sisi lain, Kementerian Komunikasi dan Digital (Komdigi) juga menyiapkan langkah tegas terhadap perlindungan Grok AI di platform X.
Sanksi administratif hingga pemutusan akses disebut dapat diterapkan jika pihak terkait tidak kooperatif dan terbukti peringatan yang berlaku di Indonesia.
Langkah pengawasan ini diambil setelah meningkatkan praktik manipulasi foto pribadi tanpa persetujuan pemiliknya, khususnya yang diubah menjadi konten yang memuat asusila, yang dinilai tidak hanya melanggar hukum tetapi juga berdampak serius secara psikologis dan sosial bagi korban.
