Guardrail AI adalah pembatas perilaku atau aturan pengamanan untuk mengurangi keluaran dan tindakan AI yang berisiko. Continuous monitoring berarti pengujian, pemantauan dan pembaruan perlindungan sepanjang masa penggunaan sistem, bukan hanya pada saat peluncuran.
Mengapa diperlukan?
NIST pada 9 Juni 2026 menjelaskan bahwa seperangkat guardrail statis tidak dapat menjamin kekebalan universal terhadap prompt adversarial adaptif. Temuan ini tidak berarti guardrail sia-sia; pengamanan perlu dilapisi otorisasi alat, pengujian berulang, log, dan kontrol penghentian.
Contoh penggunaan
Agen AI yang membaca email dan dapat mengirim dokumen harus membedakan pesan dari sumber tidak tepercaya dengan instruksi yang memiliki otoritas. Tindakan sensitif perlu izin minimum dan konfirmasi. Ulasan lengkap: Mengapa Guardrail AI Tak Pernah Cukup?
