KabarIndonesia.id — Langkah pemerintah mengadopsi teknologi kecerdasan AI secara massal dalam sistem birokrasi dinilai melanggar prinsip kehati-hatian hukum. Pasalnya, implementasi teknologi pemindai wajah (face recognition) dan pengolahan data jutaan warga negara belum ditopang oleh regulasi yang mengikat secara hukum (hard law).
Hingga saat ini, acuan pemanfaatan AI di Indonesia baru sebatas Surat Edaran (SE) Kementerian Komunikasi dan Digital (Komdigi) yang hanya bersifat panduan etik (soft law).
Ketua Dewan Ekonomi Nasional (DEN) Luhut Binsar Pandjaitan sebelumnya menyatakan bahwa sistem GovTech yang terintegrasi AI ini akan memanfaatkan teknologi face recognition berbasis data biometrik wajah masyarakat Indonesia. Integrasi fase pertama mencakup data delapan kementerian utama per 1 Juni 2026.
Menanggapi hal tersebut, PIKAT Demokrasi mendesak pemerintah segera menetapkan taksonomi risiko penggunaan AI secara transparan, meniru standardisasi Uni Eropa yang membagi risiko AI dari kategori rendah hingga risiko yang tidak dapat ditoleransi (unacceptable risk).
”Data biometrik muka warga negara Indonesia akan diolah oleh AI. Kita harus tahu pengelompokannya, ini ada di high risk atau di unacceptable risk? Kita tidak bisa mencari tanggung jawab hukumnya karena dasar hukum penggunaan AI di pemerintahan kita belum jelas,” kata Ketua PIKAT Demokrasi, Hanif Abdul Halim kepada KabarIndonesia, Senin (15/6/2026).
Ketiadaan regulasi kuat ini juga, dinilai membuka celah terjadinya pengawasan massal (mass surveillance) terhadap warga negara, mulai dari pelacakan aktivitas publik hingga digitalisasi penyaluran bantuan sosial (bansos).
Merujuk pada Pasal 10 UU Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi (UU PDP), Hanif menekankan bahwa warga negara memiliki hak hukum untuk mempertanyakan, bahkan menolak datanya diproses oleh sistem pengambilan keputusan otomatis (automated decision making) jika berjalan tanpa intervensi manusia.
PIKAT Demokrasi menyatakan tidak menolak modernisasi birokrasi, namun menuntut adanya pagar pengaman (safeguard) serta keterlibatan manusia yang bermakna (meaningful human in the loop) dalam setiap keputusan klinis AI.
”Jangan sampai kita menyerahkan 100 persen nasib warga negara kepada sistem AI yang sistem back-end-nya sendiri masih banyak dipertanyakan,” tutup Hanif.
