KOTA CIREBON — Penggunaan kecerdasan buatan (Artificial Intelligence/AI) dalam kegiatan pemrograman kini semakin umum, termasuk dalam proses pembuatan aplikasi. Namun, di balik kemampuan AI menghasilkan kode secara cepat, muncul pertanyaan yang menjadi fokus pembahasan Dinas Komunikasi, Informatika dan Statistik (DKIS) Kota Cirebon dalam “Sosialisasi Secure AI Coding: Pemanfaatan AI untuk Pemrograman yang Aman” yang digelar secara daring, Kamis (13/8/2026), bahwa: apakah kode yang dihasilkan AI benar-benar aman untuk digunakan?
Kegiatan yang diikuti perwakilan teknis IT perangkat daerah di lingkungan Pemerintah Kota Cirebon tersebut tidak hanya membahas cara menggunakan AI untuk coding, tetapi juga menyoroti risiko ketika hasil AI diterima tanpa proses verifikasi yang memadai.
Kepala Bidang Pemerintah Digital DKIS Kota Cirebon, Iid Anwar Hidayat, S.Kom., M.Si., menegaskan bahwa percepatan pengembangan aplikasi tidak boleh mengorbankan aspek keamanan.
“Hasil coding dari AI tidak bisa langsung diproduksi. Tetap harus dikaji dan diuji terlebih dahulu agar tahapan pengembangan berjalan dengan benar,” ujarnya.
Menurutnya, setiap aplikasi yang dikembangkan di lingkungan Pemerintah Kota Cirebon tetap harus melalui pengujian keamanan, termasuk penetration testing oleh Bidang Persandian dan Keamanan Informasi DKIS.
Pandangan tersebut diperkuat oleh Suharyanto Budimulyawan, ST., yang menilai persoalan utama bukan terletak pada AI itu sendiri, melainkan pada kepercayaan berlebihan terhadap AI. Ia mengingatkan bahwa kode yang terlihat berjalan dengan baik belum tentu aman dari celah keamanan.
“AI sering dianggap sudah pasti benar dan aman untuk digunakan di lingkungan produksi, padahal belum tentu. Pemberi instruksi tetap harus memahami alur logika dari kode yang dihasilkan,” katanya.
Suharyanto juga menyoroti dampak ketergantungan yang berlebihan terhadap AI, seperti menurunnya kualitas kode dan munculnya risiko keamanan sistem. Karena itu, ia mendorong penerapan pendekatan zero trust terhadap AI.
“AI itu co-pilot, bukan autopilot. Gunakan AI untuk mempercepat pekerjaan, bukan menggantikan analisis dan tanggung jawab teknis developer,” tegasnya.
Sebagai contoh penerapan pengawasan terhadap hasil AI, narasumber mendemonstrasikan penggunaan script audit berbasis AI agent untuk membantu memeriksa potensi kerentanan pada kode program secara otomatis. AI agent tersebut bekerja sebagai alat pemeriksa, sehingga proses analisis dapat dilakukan tanpa mengubah kode asli aplikasi.
Sementara itu, Pandu Satria, Relawan TIK (RTIK) Kota Cirebon, menekankan bahwa keamanan penggunaan AI sangat dipengaruhi oleh cara pengguna menyusun instruksi atau prompt. Ia memperkenalkan formula empat komponen prompt AI.
“Prompt yang baik bukan sekadar meminta AI membuat kode. Pengguna harus menjelaskan perannya, tugasnya, konteks dan batasannya, serta bentuk hasil yang diharapkan agar output yang dihasilkan benar-benar sesuai kebutuhan,” ujarnya.
Ia juga mengingatkan bahwa tidak semua pekerjaan layak diserahkan kepada AI, terutama aplikasi yang berkaitan dengan data penting, sistem resmi pemerintah, atau pengambilan keputusan yang memiliki konsekuensi hukum dan administratif.
Untuk membantu peserta menerapkan prinsip tersebut, Pandu memperkenalkan ceklis penggunaan AI untuk coding, mulai dari memastikan instruksi sudah lengkap sebelum mengirim prompt hingga melakukan pengujian dan verifikasi manual sebelum hasil AI digunakan.
“Kode yang dihasilkan AI bisa salah tanpa memberi tanda apa pun. Karena itu harus diverifikasi secara manual sebelum digunakan untuk laporan resmi atau sistem produksi,” katanya.
Melalui pembahasan tentang zero trust, validasi manual, penyusunan prompt yang tepat, hingga ceklis sebelum kode dipakai, sosialisasi ini menempatkan AI sebagai alat bantu yang tetap memerlukan pengawasan manusia dan harus dikendalikan oleh proses kerja yang disiplin. Pendekatan tersebut dinilai penting agar percepatan pengembangan aplikasi tetap berjalan seiring dengan terjaganya keamanan, keandalan, dan kualitas kode yang dihasilkan.
Penulis: Elsi Yuliyanti
Penyunting: Arul Rachman
Dokumentasi: Elsi Yuliyanti
Dinas Komunikasi, Informatika dan Statistik Kota Cirebon
Jalan Dr. Sudarsono No. 40, Kota Cirebon, 45134
https://dkis.cirebonkota.go.id
Instagram: @dkiskotacirebon @pemdakotacrb @ppidlapor.cirebonkota
