Penilaian dampak algoritmik

Inti pelajaran: Petakan warga yang terdampak, akibat kesalahan, kelompok rentan, serta mekanisme pengaduan. Keputusan berisiko tinggi perlu jalur tinjauan manusia. Materi Penilaian dampak algoritmik berfokus pada kualitas layanan dan hak warga, bukan pada banyaknya aplikasi yang dibeli instansi.

Pelajaran 4/7 dalam Tingkat 13: AI untuk Layanan Publik. Contoh adalah simulasi dan bukan peraturan resmi pemerintah; setiap keputusan nyata harus merujuk ketentuan yang berlaku.

Mengapa sektor publik berbeda?

Petakan warga yang terdampak, akibat kesalahan, kelompok rentan, serta mekanisme pengaduan. Keputusan berisiko tinggi perlu jalur tinjauan manusia.

Layanan pemerintah menyangkut hak, kewajiban dan kebutuhan warga dengan kemampuan digital yang tidak sama. Kesalahan sistem bisa membuat seseorang kehilangan waktu, biaya, atau akses layanan. Karena itu standar keberhasilan tidak cukup berupa penghematan kerja petugas. Perlu ketepatan sumber, perlindungan data, penjelasan yang dapat dipahami, prosedur pengaduan, dan akses ke manusia.

Kasus hipotetis yang dapat dianalisis

Sistem hipotetis membantu memilah permohonan bantuan sosial. Kesalahan ‘tidak layak’ berpotensi merugikan warga, sehingga dampak harus dinilai sebelum otomasi.

Saat membahas kasus ini, bedakan secara tertulis: persyaratan resmi, pengumuman administratif, kebiasaan operasional, dan asumsi perancang sistem. AI tidak boleh menciptakan peraturan baru, memberi kepastian atas aturan yang belum berlaku, atau menolak hak warga hanya karena model memberi skor.

Metode perancangan layanan

1. Identifikasi: Petakan jenis keputusan, populasi terdampak, data sensitif, risiko diskriminasi, jalur keberatan dan tinjauan manusia.
2. Buktikan masalah: gunakan data layanan yang sah, wawancara, dan rekam konsekuensi saat informasi salah.
3. Bangun pilot kecil: batasi hak sistem dan pastikan sumber resmi ditampilkan beserta tanggalnya.
4. Uji beragam pengguna: periksa aksesibilitas, salah paham bahasa, keluhan, dan jalur manusia.
5. Audit dan perbaiki: simpan versi sumber, riwayat perubahan, kesalahan dan siapa yang menyetujuinya.

Bukti hasil belajar

Artefak: matriks dampak dan prosedur banding yang dapat diakses.

Dalam dokumen akhir, cantumkan pejabat atau unit penanggung jawab, daftar layanan yang termasuk cakupan, cara menangani informasi yang tidak ditemukan, dan batas waktu peninjauan. Hasil kerja dapat diuji ulang oleh petugas lain dengan pertanyaan contoh yang sama.

Risiko dan akuntabilitas

Skor model tinggi tidak menghapus hak warga untuk mendapatkan penjelasan dan koreksi.

Risiko publik mencakup kebocoran data pribadi, diskriminasi, informasi keliru tentang aturan, pengadaan yang tidak efisien, dan tersisihnya warga dengan keterbatasan perangkat. Lakukan penilaian dampak yang sebanding dengan konsekuensi; pertahankan mekanisme keberatan dan keputusan manusia pada tindakan berisiko.

Latihan

Pilih satu layanan publik terkait Penilaian dampak algoritmik lalu gambarkan alur permohonannya.
Tuliskan tiga sumber informasi resmi yang perlu diverifikasi dan tanggal berlaku masing-masing.
Rancang lima pertanyaan warga: normal, ambigu, di luar cakupan, tidak lengkap dan konflik aturan.
Jelaskan cara warga meminta koreksi jika sistem salah.

Pertanyaan evaluasi

Apakah chatbot publik boleh menentukan hak warga?

Keputusan berakibat penting memerlukan dasar aturan, kontrol yang sesuai, penjelasan dan pengawasan manusia.

Bagaimana mengukur mutu layanan AI?

Periksa ketepatan sumber, tingkat kesalahan, aksesibilitas, keluhan, biaya keseluruhan dan kemampuan koreksi.

Apa yang dilakukan jika aturan berubah?

Perbarui sumber resmi, lakukan uji regresi, dan berikan jalur pelayanan manusia sementara sistem belum tervalidasi.

Rujukan

Catatan editorial: contoh disusun dengan bantuan AI sebagai simulasi pendidikan. Bukan panduan hukum atau dokumen kebijakan pemerintah yang berlaku.