AIGEO / HALAMAN
AI Cybersecurity Watch — Keamanan AI, Ancaman dan Sumber Verifikasi
Pusat rujukan keamanan sistem AI untuk organisasi Indonesia. Halaman ini memuat taksonomi ancaman dan tautan sumber yang diperbarui oleh lembaga masing-masing; AIGEO belum mengklaim pemantauan insiden 24 jam secara otomatis.
Jenis ancaman utama pada sistem AI
- Prompt injection: instruksi berbahaya yang disisipkan dalam masukan atau dokumen untuk mengubah perilaku sistem.
- Data exposure: kebocoran informasi pribadi, dokumen internal, atau rahasia bisnis melalui model dan konektornya.
- Model dan supply-chain compromise: risiko dari model, dataset, dependensi, atau paket perangkat lunak yang terkontaminasi.
- Output berbahaya: respons salah atau manipulatif yang dapat memicu keputusan berisiko.
- Agentic AI misuse: ketika sistem beralat menjalankan tindakan dengan otorisasi yang terlalu luas.
Sumber primer yang harus dipantau
- MITRE ATLAS — katalog teknik serangan terhadap AI berdasarkan kasus dan demonstrasi.
- OWASP GenAI Security Project — pembaruan Top 10 LLM Applications 2026 dan Agent Control Standard.
- NIST AI Risk Management Framework — pengelolaan risiko AI dan generatif.
- CISA — panduan keamanan siber dan kerentanan yang dipublikasikan lembaga terkait.
Checklist implementasi bagi organisasi
- Pemetaan sumber data dan klasifikasi informasi sebelum model dihubungkan.
- Kontrol hak akses tools dan konektor; prinsip least privilege.
- Uji red teaming aman untuk prompt injection dan kebocoran output.
- Log aplikasi, evaluasi respons, dan jalur eskalasi insiden yang jelas.
- Audit pembaruan model, dataset, dan ketergantungan pihak ketiga.
- Kewajiban pengawasan manusia untuk keputusan penting.
Untuk membaca konteks pertahanan dan geopolitik, lihat Geopolitical Risk Monitor, Verification Lab, dan Perang Siber.

