AIGEO / HALAMAN

AI Cybersecurity Watch — Keamanan AI, Ancaman dan Sumber Verifikasi

Pusat rujukan keamanan sistem AI untuk organisasi Indonesia. Halaman ini memuat taksonomi ancaman dan tautan sumber yang diperbarui oleh lembaga masing-masing; AIGEO belum mengklaim pemantauan insiden 24 jam secara otomatis.

Jenis ancaman utama pada sistem AI

  • Prompt injection: instruksi berbahaya yang disisipkan dalam masukan atau dokumen untuk mengubah perilaku sistem.
  • Data exposure: kebocoran informasi pribadi, dokumen internal, atau rahasia bisnis melalui model dan konektornya.
  • Model dan supply-chain compromise: risiko dari model, dataset, dependensi, atau paket perangkat lunak yang terkontaminasi.
  • Output berbahaya: respons salah atau manipulatif yang dapat memicu keputusan berisiko.
  • Agentic AI misuse: ketika sistem beralat menjalankan tindakan dengan otorisasi yang terlalu luas.

Sumber primer yang harus dipantau

Checklist implementasi bagi organisasi

  • Pemetaan sumber data dan klasifikasi informasi sebelum model dihubungkan.
  • Kontrol hak akses tools dan konektor; prinsip least privilege.
  • Uji red teaming aman untuk prompt injection dan kebocoran output.
  • Log aplikasi, evaluasi respons, dan jalur eskalasi insiden yang jelas.
  • Audit pembaruan model, dataset, dan ketergantungan pihak ketiga.
  • Kewajiban pengawasan manusia untuk keputusan penting.

Untuk membaca konteks pertahanan dan geopolitik, lihat Geopolitical Risk Monitor, Verification Lab, dan Perang Siber.