Akurasi AI 95%, Mengapa Masih Bisa Tidak Adil?

Jawaban singkat: Akurasi agregat dapat menyesatkan ketika kasus positif jarang. Simulasi AIGEO menunjukkan model dengan akurasi 95,8 persen bisa menghasilkan presisi alarm hanya 16,7 persen.

Akurasi rata-rata menyembunyikan siapa yang dirugikan

Artificial intelligence (AI), atau kecerdasan buatan, dapat memperoleh akurasi 95 persen pada pengujian keseluruhan namun masih merugikan kelompok tertentu. Angka agregat tidak menunjukkan siapa yang salah ditolak, berapa banyak kasus positif sebenarnya, dan bagaimana ambang keputusan memengaruhi kelompok dengan prevalensi berbeda. Dalam kredit, bantuan sosial, dan seleksi administratif, jenis kesalahan sering lebih penting daripada satu angka akurasi.

Artikel ini membangun simulasi terbuka agar pembaca dapat menghitung ulang. Angka tidak berasal dari bank, lembaga pemerintah, atau riset lapangan. Tujuannya menunjukkan mengapa audit keputusan otomatis perlu menyajikan confusion matrix, perbedaan prevalensi, dan dampak biaya kesalahan sebelum menyatakan model sudah adil.

Empat kotak yang harus muncul dalam laporan model

Confusion matrix terdiri dari true positive (TP), false positive (FP), true negative (TN), dan false negative (FN). Dalam kasus penipuan, FP berarti transaksi sah ditandai mencurigakan; FN berarti penipuan lolos. Dalam seleksi penerima bantuan, definisi positif harus dijelaskan lebih dulu agar pembaca tidak keliru membaca salah tolak.

Akurasi = (TP+TN)/(TP+FP+TN+FN). Precision = TP/(TP+FP), recall = TP/(TP+FN), dan false positive rate = FP/(FP+TN). Tidak ada satu ukuran yang otomatis lebih etis; pilihan metrik harus mengikuti kerugian yang hendak dicegah. Laporan tanpa jumlah kasus absolut sulit ditafsirkan karena satu persen dari jutaan transaksi tetap menyangkut banyak orang.

Simulasi pertama: akurasi tinggi, presisi rendah

Misalkan dari 10.000 transaksi terdapat 100 penipuan nyata dan 9.900 transaksi sah. Model menangkap 80 penipuan (TP=80), melewatkan 20 (FN=20), keliru menandai 400 transaksi sah (FP=400), dan membiarkan 9.500 transaksi sah (TN=9.500). Akurasi = (80+9.500)/10.000 = 95,8 persen. Angka ini terdengar sangat baik jika berdiri sendiri.

Namun precision = 80/(80+400) = 16,7 persen. Artinya dari 480 alarm, hanya 80 benar-benar penipuan; 400 lainnya adalah gangguan terhadap transaksi sah. Recall = 80/100 = 80 persen. Model tersebut bisa berguna sebagai penyaring awal untuk pemeriksaan manusia, tetapi tidak layak otomatis memblokir semua alarm tanpa penilaian biaya dan mekanisme pemulihan.

Base rate: mengapa prevalensi mengubah pengalaman pengguna

Prevalensi adalah proporsi kasus positif nyata dalam populasi. Pada kasus langka, false positive dapat mendominasi hasil meskipun model memiliki sensitivitas dan spesifisitas yang tampak baik. Jika prevalensi berbeda antarwilayah atau kelompok, presisi masing-masing kelompok dapat berbeda walaupun aturan model sama.

Katakan sensitivitas tetap 80 persen dan false positive rate sekitar 4 persen. Pada kelompok dengan prevalensi 1 persen, dari 10.000 kasus kira-kira ada 80 TP dan 396 FP sehingga presisi 16,8 persen. Pada kelompok dengan prevalensi 10 persen, TP sekitar 800 dan FP 360 sehingga presisi 69 persen. Ini perbandingan matematis, bukan bukti bahwa kelompok sosial tertentu memiliki prevalensi nyata yang berbeda.

Mengapa semua metrik keadilan tidak selalu dapat disamakan

Ada ketegangan matematis antara menyamakan false positive rate, menyamakan precision, dan mempertahankan kalibrasi ketika prevalensi kelompok berbeda. Pengambil kebijakan harus menyatakan nilai apa yang diprioritaskan, dampak terhadap siapa, dan batas toleransi kesalahan. Mengklaim satu skor fairness universal tanpa konteks dapat menutupi pilihan politik dan administratif.

AIGEO mengusulkan agar laporan memuat metrik per kelompok dengan interval ketidakpastian, jumlah kasus, metode penentuan label kebenaran, dan analisis sensitivitas terhadap ambang. Jangan mengumumkan angka untuk kelompok dengan sampel sangat kecil tanpa menjelaskan ketidakstabilannya. Kerahasiaan data individu tetap perlu dilindungi.

Matriks keputusan: kapan model boleh otomatis bertindak

Untuk rekomendasi berisiko rendah, seperti menyusun prioritas pemeriksaan dokumen, model dapat membantu staf dengan pencatatan keputusan. Untuk pembatasan transaksi, penolakan bantuan, atau keputusan yang memengaruhi hak, mekanisme verifikasi dan banding menjadi lebih penting. Tingkat otonomi seharusnya ditentukan oleh besarnya kerugian yang dapat terjadi jika model salah.

Matriks AIGEO memiliki empat kolom: dampak kesalahan, kemungkinan kesalahan, kemampuan memulihkan, dan kebutuhan persetujuan manusia. Keputusan yang mudah dibalik dan berdampak kecil dapat memakai otomasi lebih tinggi; keputusan sulit dipulihkan harus memiliki kontrol lebih kuat. Ini kerangka evaluasi, bukan aturan hukum universal.

Rumus biaya kesalahan untuk direksi

Misalkan tiap FP menyebabkan biaya investigasi Rp30.000 dan tiap FN menimbulkan kerugian rata-rata Rp2 juta. Dengan simulasi pertama, biaya kesalahan = 400×Rp30.000 + 20×Rp2.000.000 = Rp52 juta per 10.000 transaksi. Jika ambang diubah, FP mungkin turun tetapi FN meningkat. Perbandingan harus menghitung total biaya dan kerugian nonfinansial, bukan hanya akurasi.

Kerugian reputasi, pembekuan akses warga, stres, dan hilangnya kepercayaan tidak otomatis dapat dinilai dengan rupiah. Karena itu, optimasi biaya tidak boleh menggantikan penilaian hak. Sebelum produksi, tim harus menguji setidaknya tiga ambang, membandingkan metrik dan biaya, serta menentukan pemicu penghentian bila kesalahan melebihi batas.

Hubungan dengan NIST AI RMF

NIST AI RMF menekankan empat fungsi Govern, Map, Measure, dan Manage. Untuk audit keadilan, Govern menetapkan tanggung jawab; Map mendefinisikan konteks dan kelompok terdampak; Measure menguji metrik dan mutu data; Manage menentukan respons terhadap temuan. Kerangka ini bersifat sukarela, bukan sertifikasi otomatis atas sebuah produk.

Baca pula contoh audit dampak algoritmik Kanada dan indikator ROI AI untuk direksi. Artikel ini berbeda: fokusnya bukan kepatuhan administratif atau pengembalian investasi, melainkan matematika salah klasifikasi yang memengaruhi hak dan pengalaman pengguna.

Protokol pengujian yang dapat diulang

Tetapkan definisi label, periode pengamatan, ukuran sampel, kelompok evaluasi, dan kriteria pengecualian sebelum menjalankan model. Simpan prediksi serta label aktual secara aman. Hitung confusion matrix total dan per kelompok. Bandingkan hasil terhadap baseline non-AI. Catat setiap perubahan ambang beserta alasan dan pengaruhnya.

Uji ulang setelah data bergeser atau kebijakan layanan berubah. Model yang tampak baik pada data lama mungkin memburuk ketika pola transaksi atau populasi berganti. Publikasikan ringkasan yang tidak mengungkap data pribadi sehingga pihak terdampak memahami cara mengajukan koreksi.

Kesimpulan

Akurasi 95 persen tidak berarti 95 persen keputusan aman atau adil. Tanpa prevalensi, jumlah kasus, precision, recall, biaya kesalahan, dan mekanisme keberatan, angka itu terlalu sempit untuk menopang keputusan publik atau komersial berisiko tinggi.

Temuan khas audit AIGEO adalah pemisahan eksplisit antara kinerja statistik dan legitimasi keputusan. Matematika membantu memperlihatkan konsekuensi, tetapi pilihan ambang dan hak pemulihan tetap membutuhkan pertanggungjawaban manusia.

Matriks audit AIGEO

Tabel ini merupakan ringkasan metodologi dan ilustrasi redaksi, bukan statistik resmi atau format wajib regulator. Seluruh angka simulasi harus diuji dengan data operasional sebelum dipakai mengambil keputusan.

Sumber primer dan metode

• https://airc.nist.gov/airmf-resources/airmf/0-ai-rmf-1-0/
• https://www.nist.gov/itl/ai-risk-management-framework/nist-ai-rmf-playbook
• https://www.nist.gov/publications/artificial-intelligence-risk-management-framework-generative-artificial-intelligence

Penelusuran dan pembacaan dilakukan 28 Oktober 2026. Contoh angka yang ditandai simulasi tidak mewakili observasi resmi. Koreksi data dan perubahan peraturan perlu ditelusuri pada dokumen sumber.

Cara menghitung interval ketidakpastian

Persentase tanpa ukuran sampel memberi kesan kepastian berlebihan. Jika sebuah kelompok hanya memiliki 20 kasus positif dan model menangkap 16, recall teramati adalah 80 persen, tetapi estimasinya jauh lebih tidak stabil daripada recall 800 dari 1.000 kasus. Auditor dapat menghitung interval kepercayaan binomial, misalnya metode Wilson, dan menampilkan jumlah pembilang serta penyebut. Jangan hanya mengutip titik tengah persentase. Ketika jumlah kasus kecil, laporkan ketidakpastian lebih jelas dan hindari membuat keputusan besar berdasarkan perbedaan beberapa poin persentase yang belum tentu bermakna.

Audit kualitas label kebenaran

Confusion matrix mengandaikan label aktual dapat dipercaya. Dalam layanan publik, label benar sering tidak tersedia seketika: keputusan bantuan dapat baru terbukti keliru setelah banding, sedangkan penipuan bisa terdeteksi beberapa minggu setelah transaksi. Jika label berasal dari keputusan petugas yang menggunakan rekomendasi model, terdapat risiko lingkaran umpan balik. Model tampak akurat karena manusia mengonfirmasi prediksinya sendiri. Solusinya adalah sampel pemeriksaan independen, pencatatan perubahan label, dan pemisahan data pengembangan dari data evaluasi. Catat pula siapa yang memberi label serta prosedur menyelesaikan perbedaan penilai.

Kesalahan ambang dan trade-off kebijakan

Menurunkan ambang deteksi biasanya meningkatkan jumlah kasus yang ditandai. Hal itu dapat menaikkan recall sekaligus menambah false positive. Menaikkan ambang mungkin mengurangi gangguan bagi pengguna sah, tetapi membiarkan lebih banyak kasus berisiko lolos. Pengambil keputusan perlu melihat kurva precision-recall dan tabel biaya untuk beberapa ambang, bukan memilih satu nilai berdasarkan intuisi. Kebijakan juga dapat memakai dua tahap: model menyaring kasus, kemudian petugas memeriksa alarm sebelum keputusan final. Kapasitas petugas menjadi kendala penting; 10.000 alarm yang tidak mungkin ditinjau tidak otomatis meningkatkan keselamatan.

Kapasitas peninjauan manusia

Misalkan sistem menghasilkan 480 alarm per 10.000 transaksi dan seorang pemeriksa membutuhkan rata-rata enam menit per alarm. Total waktu pemeriksaan = 480×6 menit = 2.880 menit atau 48 jam kerja. Jika kapasitas seorang petugas efektif enam jam pemeriksaan per hari, diperlukan delapan hari-petugas. Ini simulasi tambahan dari matriks sebelumnya. Bila transaksi berlangsung setiap hari, organisasi perlu menghitung kebutuhan staf yang berulang. Otomasi yang tampak menghemat tenaga dapat memindahkan biaya ke antrean investigasi. Perhitungan harus mempertimbangkan variasi kompleksitas kasus, jam sibuk, dan standar layanan.

Evaluasi dampak terhadap kelompok

Kelompok evaluasi sebaiknya didefinisikan karena relevan dengan layanan dan dasar hukum, bukan dipilih sembarang untuk mencari perbedaan. Auditor perlu memeriksa apakah atribut sensitif tersedia secara sah dan apakah penggunaan untuk audit diperbolehkan. Jika data kelompok tidak dapat diakses, jelaskan keterbatasan itu; jangan menyatakan sistem bebas bias. Selain perbandingan metrik, teliti kualitas data, akses perangkat, kemampuan bahasa, dan prosedur banding. Dua kelompok dengan false positive rate sama mungkin tetap mengalami dampak berbeda karena biaya mengurus koreksi dan kemampuan mengakses bantuan manusia tidak sama.

Pentingnya baseline sederhana

Model kompleks seharusnya dibandingkan dengan prosedur sebelumnya. Jika model mencapai akurasi 95,8 persen, tetapi aturan sederhana yang tidak memblokir transaksi sah mencapai 99 persen pada data tidak seimbang, angka akurasi model tidak menunjukkan peningkatan. Baseline bisa berupa aturan manual, model statistik sederhana, atau sistem sebelumnya. Gunakan sampel waktu yang sama agar perbandingan adil. Evaluasi juga harus memperhitungkan perubahan perilaku akibat implementasi model. Keputusan menambah kompleksitas hanya masuk akal bila ada manfaat nyata yang tidak dapat diperoleh dengan prosedur lebih sederhana.

Audit pascapeluncuran

Model dapat mengalami drift ketika pola penipuan, perilaku pelanggan, atau kebijakan berubah. Tetapkan jadwal evaluasi dan pemicu darurat, misalnya lonjakan salah blokir atau keluhan yang terverifikasi. Log harus memungkinkan pemeriksa menghubungkan versi model, fitur input, ambang, dan keputusan. Ketika terjadi masalah, organisasi perlu mampu kembali ke prosedur aman, bukan menunggu pelatihan model berikutnya. Keputusan yang sudah memengaruhi hak pengguna memerlukan mekanisme pemulihan dan pemberitahuan yang sesuai. Audit berkala tanpa tindakan korektif hanya menghasilkan laporan administratif.

Pertanyaan yang wajib dijawab vendor

Mintalah confusion matrix berdasarkan data pengujian yang relevan, definisi label, ukuran sampel, rentang waktu, dan distribusi prevalensi. Tanyakan bagaimana model diuji terhadap perubahan data, apakah tersedia log yang dapat diaudit, dan siapa memutuskan perubahan ambang. Vendor yang hanya menawarkan skor akurasi tanpa konteks belum menyediakan bukti cukup untuk penggunaan berisiko tinggi. Kontrak sebaiknya mengatur hak pengujian, pemberitahuan perubahan model, pelaporan insiden, dan akses mekanisme keberatan. Ini rekomendasi tata kelola, bukan klaim bahwa seluruh kontrak diwajibkan memuat klausul seragam.

Simulasi biaya banding dan pemulihan

Selain biaya investigasi awal, organisasi perlu menghitung biaya banding dan pemulihan. Misalkan 10 persen dari 400 false positive mengajukan keberatan, yaitu 40 kasus. Jika setiap kasus membutuhkan 30 menit petugas dengan biaya internal Rp100.000 per jam, biaya tambahan = 40×0,5×Rp100.000 = Rp2 juta. Ini belum termasuk kompensasi atau kerugian pelanggan. Jika biaya tersebut diabaikan, model yang sering salah menandai orang dapat terlihat lebih ekonomis daripada kenyataannya. Catat tingkat banding dan tingkat keputusan yang dibatalkan agar manajemen mengetahui dampak sebenarnya.

Tiga keputusan sebelum peluncuran

Pemilik sistem harus menetapkan siapa menyetujui ambang, siapa mengawasi perubahan data, dan siapa berwenang menghentikan model. Ketiga keputusan perlu tertulis sebelum proyek masuk produksi. Pengujian statistik tidak dapat menggantikan akuntabilitas institusional. Ketika temuan fairness muncul, organisasi harus mampu membedakan kesalahan data, kesalahan desain, dan ketidakadilan prosedural. Solusi untuk masing-masing berbeda: memperbaiki label, meninjau fitur, atau mengubah aturan keputusan. Dokumentasi membantu mencegah semua masalah ditimpakan kepada model atau petugas garis depan.