OpenAI CSAM Image Classifier: AI untuk Perlindungan Anak

OpenAI merilis classifier gambar untuk membantu perlindungan anak. Kenali fungsi, akses gratis terbatas, hasil evaluasi, dan batas penggunaannya.
6 menit baca
Ilustrasi meja analis dengan layar antrean peninjauan gambar abstrak dan simbol perisai
Ilustrasi berbantuan AI untuk AIGEO.ID.
Dalam artikel ini
  1. Apa yang dilakukan model ini?
  2. Mengapa pengurangan antrean pemeriksaan penting?
  3. Cara kerja dan batas pembacaan skor
  4. Mengapa angka akurasi saja tidak cukup?
  5. Relevansinya bagi platform Indonesia
  6. Pertanyaan yang sering diajukan
  7. Sumber dan pembaruan
  8. Baca juga di AIGEO.ID

Di belakang layar layanan berbagi gambar, keselamatan pengguna bergantung pada pekerjaan yang jarang terlihat: menentukan materi mana yang harus segera diperiksa. Antrean yang dipenuhi alarm keliru dapat menyita waktu petugas, sementara materi berbahaya menunggu penanganan.

OpenAI CSAM Image Classifier, diumumkan pada 16 November 2026, adalah model khusus untuk membantu memprioritaskan peninjauan gambar yang diduga memuat materi kekerasan seksual terhadap anak atau child sexual abuse material (CSAM), termasuk yang dibuat dengan AI. OpenAI menyediakannya tanpa biaya melalui API bagi organisasi yang lolos persetujuan. Pengumuman resmi OpenAI menjelaskan bahwa pengembangan dan evaluasinya dibantu National Center for Missing & Exploited Children (NCMEC).

Apa yang dilakukan model ini?

Model dengan ID omni-moderation-csam-latest menerima gambar dan mengembalikan sinyal klasifikasi. Dalam referensi Moderation API, dua kategori utamanya adalah likely-csam untuk dugaan CSAM dan likely-csam/gen-ai untuk dugaan CSAM buatan AI. Respons juga memuat penanda flagged dan skor per kategori.

AspekKeterangan
FungsiMembantu menyusun prioritas peninjauan gambar
AksesAPI untuk organisasi yang disetujui
Biaya layananTanpa biaya bagi organisasi yang disetujui
MasukanSatu gambar diam per permintaan, maksimal 20 MB
Batas dukunganTidak mengklasifikasikan teks; tidak mendukung inline moderation atau Batch API

Rincian masukan dan akses tersedia dalam panduan classifier; batas pemrosesan massal juga ditegaskan pada dokumentasi Batch API. Akses memerlukan proses permohonan, verifikasi, onboarding, dan penerimaan ketentuan program sesuai panduan keselamatan anak untuk pengembang.

Mengapa pengurangan antrean pemeriksaan penting?

Menurut evaluasi yang diumumkan OpenAI, classifier baru diperkirakan dapat menandai 48 persen lebih sedikit gambar sambil menemukan jumlah materi bermasalah yang kurang lebih sama dengan alat perlindungan pembandingnya. Gambar yang ditandai juga dilaporkan sekitar dua kali lebih mungkin benar-benar memuat kekerasan. Angka ini merupakan hasil evaluasi yang dilaporkan pengembang, dengan pembanding dan distribusi data tertentu. Sumber hasil evaluasi.

Penurunan jumlah gambar yang masuk antrean bukan berarti tingkat kekerasan turun 48 persen. Ukuran tersebut menggambarkan beban peninjauan pada pengujian. Manfaat operasionalnya perlu dinilai bersama jumlah kasus yang terlewat, waktu penanganan, dan kapasitas petugas. AIGEO.ID belum melakukan pengujian mandiri atas model ini.

Bagi operator platform, keputusan membeli atau mengadopsi alat keselamatan perlu dihitung sebagai proses lengkap. Layanan model yang gratis tetap memerlukan integrasi, staf terlatih, pengamanan akses, pencatatan keputusan, serta dukungan bagi petugas. Efisiensi yang berarti muncul ketika waktu yang dihemat benar-benar mempercepat penanganan kasus prioritas.

Cara kerja dan batas pembacaan skor

Dalam model card, OpenAI menjelaskan penggunaan encoder gambar CLIP internal dan jaringan klasifikasi MLP tiga lapis. Secara sederhana, gambar diubah menjadi representasi numerik, lalu dipetakan menjadi skor kategori. OpenAI juga menyatakan gambar yang dikirim ke API classifier diproses tanpa retensi dan tidak digunakan untuk pelatihan atau evaluasi.

Skor berada pada rentang 0–1, tetapi tidak dapat dibaca sebagai probabilitas yang sudah terkalibrasi. Angka 0,8, misalnya, tidak otomatis berarti peluang 80 persen bahwa gambar melanggar. OpenAI juga mengingatkan bahwa 0,5 bukan ambang universal. Penanda kategori mengikuti ambang keputusan yang dikonfigurasi. Penjelasan interpretasi skor.

Model card mengakui adanya salah positif dan salah negatif, serta kemungkinan hasil berbeda di platform lain. Sinyal AI juga tidak memverifikasi asal-usul gambar. Skor klasifikasi tidak menetapkan status hukum suatu materi; hasilnya perlu dibaca bersama konteks dan proses peninjauan yang sesuai. Batas penggunaan model.

Mengapa angka akurasi saja tidak cukup?

Bayangkan contoh hipotetis dengan 100.000 gambar, dan hanya 10 di antaranya benar-benar memerlukan penanganan. Jika sebuah sistem menemukan seluruh 10 kasus itu tetapi keliru menandai 0,1 persen dari 99.990 gambar lainnya, akan ada sekitar 100 alarm keliru. Dari sekitar 110 gambar yang diperiksa, hanya 10 yang benar-benar bermasalah.

Contoh tersebut adalah ilustrasi matematika, bukan hasil pengujian classifier OpenAI. Ia menunjukkan mengapa proporsi kasus di layanan nyata sangat menentukan mutu antrean. Pengelola perlu mengetahui berapa banyak penandaan yang benar (precision), berapa banyak kasus nyata yang ditemukan (recall), dan apa konsekuensi ketika ambang keputusan berubah.

Karena itu, evaluasi awal sebaiknya menjawab dua pertanyaan operasional: apakah sistem menemukan kasus tambahan yang luput dari kontrol lama, dan apakah petugas bisa memeriksa antrean dengan lebih tepat waktu? Penilaian harus menggunakan proses yang sah dan berizin, tanpa mengedarkan materi sensitif sebagai contoh publik.

Relevansinya bagi platform Indonesia

Perlindungan anak sudah menjadi agenda tata kelola platform di Indonesia. Dalam evaluasi PP TUNAS pada 14 September 2026, Kementerian Komunikasi dan Digital menekankan penilaian risiko produk, layanan, dan fitur serta penerapan langkah perlindungan yang nyata. Keberadaan classifier baru memberi opsi teknis tambahan; pemakaian satu alat tidak dengan sendirinya membuktikan kepatuhan terhadap seluruh kewajiban platform.

Dalam analisis AIGEO.ID, prioritas bagi pengelola layanan Indonesia adalah membangun hubungan yang jelas antara deteksi, pemeriksaan, dan tindakan. Siapa yang berwenang melihat hasil? Kapan konten dibatasi? Bagaimana keputusan diperiksa ulang? Siapa yang menangani keberatan dan eskalasi? Jawaban atas pertanyaan itu menentukan apakah sinyal model dapat diubah menjadi perlindungan yang bertanggung jawab.

Panduan OpenAI menganjurkan gabungan pencocokan sidik digital atau hash untuk materi yang sudah dikenal, classifier untuk materi baru, mekanisme laporan pengguna, serta petugas yang terlatih dan didukung. Materi yang telah dipastikan sebagai CSAM harus ditangani melalui prosedur respons organisasi, bukan dikirim untuk mencoba layanan ini. Panduan pencegahan, deteksi, dan respons.

Rilis ini memperluas pembahasan model AI ke pekerjaan infrastruktur keselamatan. Nilainya dapat diukur dari kualitas keputusan dan kecepatan penanganan yang terbantu, dengan perhatian yang sama pada kasus terlewat, salah penandaan, privasi, serta kapasitas manusia.

Pertanyaan yang sering diajukan

Apakah model ini tersedia untuk semua pengguna ChatGPT?

Aksesnya melalui API bagi organisasi yang disetujui. Pengumuman layanan gratis tidak berarti setiap akun langsung memperoleh akses.

Apakah dapat dipakai untuk moderasi teks biasa?

Classifier ini ditujukan untuk gambar. Untuk moderasi umum teks dan gambar, OpenAI menyediakan omni-moderation-latest; dokumentasinya menegaskan bahwa kategori sexual/minors pada model moderasi umum hanya berlaku untuk teks. Dokumentasi moderasi umum.

Apakah penandaan otomatis menjadi laporan kepada aparat?

Tidak. Menurut panduan classifier, model tidak otomatis melaporkan konten kepada otoritas. Organisasi tetap menjalankan peninjauan, eskalasi, dan proses pelaporannya.

Sumber dan pembaruan

Informasi diperiksa pada 19 November 2026. Spesifikasi, akses, dan ketentuan layanan dapat berubah. Angka evaluasi di atas diatribusikan kepada OpenAI dan tidak disajikan sebagai hasil pengujian AIGEO.ID.

Baca juga di AIGEO.ID

Transparansi Penggunaan AI: AI membantu penelusuran sumber, pengecekan data, dan penulisan artikel ini. Gambar utama adalah ilustrasi berbantuan AI. AIGEO.ID belum menguji model ini secara langsung. Naskah ini belum ditinjau redaktur manusia.
Lihat bacaan tersimpan

Disimpan hanya di browser perangkat ini.

Komentar & Diskusi

Tulis Komentar

Bagikan pendapat Anda dengan sopan dan relevan. Alamat email tidak akan ditampilkan.