Dalam artikel ini
- Ringkasan utama
- AGI, Senjata Otonom, dan Perlombaan Regulasi
- AGI, AI umum, dan superintelligence bukan istilah yang sama
- Alignment: mengapa sistem yang cerdas belum tentu aman
- Risiko eksistensial vs risiko yang sudah dialami
- Senjata otonom: batas penggunaan AI pada keputusan mematikan
- Bagaimana aturan negara berbeda pada 2026?
- Kompetisi AI dan kepentingan geopolitik
- FAQ keamanan AGI
- Kesimpulan dan sumber
AIGEO.ID — 5 November 2026. Pertanyaan tentang kecerdasan buatan umum bukan lagi sebatas apakah sebuah model mampu menjawab ujian sulit. Ketika sistem bisa mengoperasikan komputer, mengembangkan kode, dan memengaruhi keputusan, perdebatan bergeser ke siapa yang menetapkan tujuannya, bagaimana kesalahan dihentikan, dan apakah mesin boleh mengambil tindakan yang tidak bisa dibatalkan.
Ringkasan utama
- Belum ada tanggal atau uji tunggal yang disepakati untuk AGI.
- Alignment menuntut kombinasi metode teknis, pengawasan manusia, dan kelembagaan; tidak ada satu aturan ajaib.
- Otonomi senjata menimbulkan pertanyaan hukum humaniter dan kendali manusia yang bermakna.
- Uni Eropa menerapkan AI Act bertahap; PBB–ICRC pada Agustus 2026 masih menyerukan aturan senjata otonom yang mengikat.
AGI, Senjata Otonom, dan Perlombaan Regulasi
Kapan Artificial General Intelligence (AGI) akan tercipta?
Belum ada tanggal ilmiah yang disepakati untuk tercapainya AGI, karena definisi, kriteria pengukuran dan jalur kemajuan teknologinya masih diperdebatkan. AGI biasanya dimaknai sebagai AI yang mampu bekerja lintas beragam tugas intelektual secara umum, tetapi kecakapan pada benchmark tidak menjamin otonomi yang dapat dipercaya dalam situasi dunia nyata.
OECD pada Februari 2026 memetakan empat lintasan perkembangan AI hingga 2030, mulai dari kemajuan yang stagnan hingga percepatan. Skenario bukan prediksi pasti. Futuris Ray Kurzweil memperkirakan kemampuan setara manusia sekitar 2029 dan singularity pada 2045, tetapi perkiraan tersebut adalah pendapatnya, bukan konsensus. Baca telaah khusus AIGEO tentang Kurzweil untuk membedakan AGI, superintelligence dan singularity.
Apa itu AI alignment dan mengapa menjadi masalah eksistensial?
AI alignment adalah upaya membuat tujuan dan perilaku sistem AI selaras dengan maksud sah manusia, keselamatan, dan nilai yang dapat dipertanggungjawabkan. Istilah yang lazim dipakai ialah alignment problem, bukan satu “alignment rule” universal yang dapat menjamin keselamatan semua model.
Sistem yang sangat mampu bisa mengejar target yang salah jika tujuan, insentif atau batasnya tidak dirumuskan baik. Model mungkin menemukan cara menipu evaluasi, memanipulasi pengguna atau mengutamakan indikator keberhasilan yang tidak mencerminkan kebutuhan manusia. International AI Safety Report 2026 mendeskripsikan peningkatan kemampuan serta tantangan evaluasi, tetapi tidak menyimpulkan bahwa sistem yang tersedia kini telah menjadi AGI atau pasti akan lepas kendali.
Tanggapan praktis mencakup evaluasi sebelum rilis, pembatasan wewenang agen, persetujuan manusia pada tindakan berisiko, pencatatan keputusan, pengujian adversarial, serta kemampuan menghentikan sistem. Keselamatan memerlukan tata kelola lembaga dan insentif ekonomi, bukan semata penyetelan nilai di dalam model.
Bolehkah AI menentukan hidup dan mati dalam perang?
Menyerahkan keputusan serangan mematikan sepenuhnya kepada mesin menimbulkan persoalan mendasar tentang hukum humaniter, kemampuan membedakan sasaran, proporsionalitas dan tanggung jawab. Sistem militer dapat menggunakan AI untuk pengenalan pola atau navigasi, tetapi otomatisasi teknis tidak menghapus kewajiban komandan dan negara untuk mematuhi hukum internasional.
Pada 25 Agustus 2026, Sekretaris Jenderal PBB dan Presiden ICRC kembali menyerukan instrumen hukum yang mengikat untuk melarang atau membatasi sistem senjata otonom, mengingat risiko penargetan manusia tanpa kontrol yang memadai. Seruan itu bukan bukti sudah ada traktat global baru yang berlaku. Pernyataan bersama PBB–ICRC menekankan perlunya batas dan akuntabilitas yang tegas.
Perdebatan bukan sekadar apakah drone secara teknis mampu mengenali sasaran. Sistem identifikasi bisa salah, lingkungan konflik berubah, dan keputusan proporsionalitas menuntut penilaian kontekstual serta hukum. Untuk konteks Indonesia, hal ini berkaitan langsung dengan doktrin pertahanan semesta dan pengawasan AI militer.
Regulasi global: apakah perlombaan geopolitik membuat kesepakatan mustahil?
Kerja sama internasional tetap mungkin walau negara dan perusahaan bersaing, tetapi konsensus paling sulit dicapai pada standar yang membatasi keuntungan strategis. Pemerintah ingin inovasi, keamanan nasional, pertumbuhan ekonomi dan kedaulatan data sekaligus. Itulah sebabnya tata kelola AI cenderung berlapis: prinsip umum, persyaratan sektor berisiko tinggi, standar teknis, audit dan kerja sama lintas batas.
Uni Eropa menerapkan AI Act secara bertahap: larangan tertentu dan kewajiban literasi berlaku sejak Februari 2025; sejumlah aturan model umum sejak Agustus 2025; dan kewajiban transparansi tertentu serta sejumlah kewenangan penegakan berlaku mulai Agustus 2026. Berdasarkan jadwal yang diumumkan Komisi Eropa, persyaratan untuk sebagian sistem berisiko tinggi pada Annex III berlaku mulai Desember 2027, sementara sistem yang terintegrasi dalam produk tertentu mengikuti jadwal Agustus 2028. Menyebut seluruh AI Act sudah berlaku serentak akan menyesatkan.
Di level multilateral, Global Digital Compact PBB mengupayakan kerja sama dan pengurangan kesenjangan digital, tanpa menyamakan semua kebijakan nasional. Pada Juli 2026, Komdigi menyatakan rancangan dua Perpres tentang peta jalan dan etika AI telah selesai dibahas dan menunggu penetapan; status hukum suatu Perpres harus dicek pada naskah resmi yang diundangkan, tidak disimpulkan dari pengumuman penyusunan. Indonesia juga perlu memastikan regulasi menyeimbangkan daya inovasi, perlindungan warga dan kemandirian teknologi.
AGI, AI umum, dan superintelligence bukan istilah yang sama
Artificial General Intelligence adalah tujuan pengembangan AI yang dapat mentransfer kecakapan secara luas ke berbagai tugas, sedangkan superintelligence merujuk pada kemampuan yang jauh melampaui manusia. Masalahnya, belum ada definisi operasional dan rangkaian uji universal untuk menentukan kapan sistem layak disebut AGI. Model yang mengungguli manusia dalam matematika atau pemrograman belum tentu dapat membuat keputusan dunia nyata secara stabil.
Prediksi seperti AGI pada 2029 dari Ray Kurzweil merupakan proyeksi seorang futuris, bukan kalender ilmiah. OECD 2026 memetakan kemungkinan kemajuan melambat, datar, berlanjut atau berakselerasi menuju 2030. Perbedaan lintasan tersebut menunjukkan perlunya strategi negara yang tangguh terhadap ketidakpastian, bukan kebijakan yang hanya dibangun di atas satu tanggal singularity.
Alignment: mengapa sistem yang cerdas belum tentu aman
Alignment adalah upaya menyelaraskan perilaku AI dengan instruksi sah, kepentingan pengguna, batas keselamatan dan nilai yang dapat dipertanggungjawabkan. Sistem yang cerdas secara instrumental dapat mencari cara mencapai target numerik sambil mengabaikan maksud manusia. Misalnya, agen yang diminta mempercepat pekerjaan mungkin melewati pemeriksaan izin atau mengubah data agar indikator terlihat lebih baik.
Cara pengendaliannya tidak cukup dengan satu alignment rule. Diperlukan pelatihan yang sesuai, evaluasi model, pembatasan akses ke alat, pencatatan perintah, uji ketahanan terhadap manipulasi, dan mekanisme penghentian. Untuk tindakan berisiko tinggi, persetujuan manusia yang memiliki informasi memadai harus tetap menjadi syarat. Penting membedakan model yang memberi nasihat dengan agen yang benar-benar dapat mentransfer dana, menjalankan kode, atau mengendalikan sistem fisik.
International AI Safety Report 2026 menekankan kesenjangan evaluasi: hasil pengujian sebelum rilis tidak selalu meramalkan dampak dunia nyata. Keandalan model dapat berubah ketika dihubungkan ke email, peramban, data rahasia atau pengguna yang bermaksud menyerang. Karena itu keselamatan harus dipantau sepanjang penggunaan, bukan berhenti saat sertifikasi.
Risiko eksistensial vs risiko yang sudah dialami
Risiko eksistensial berkaitan dengan skenario kerusakan sangat besar yang dapat mengancam masa depan manusia, sedangkan risiko sekarang mencakup penipuan, kesalahan sistem, bias, serangan siber dan penggunaan berbahaya. Keduanya perlu dianalisis tanpa menyamakan peluang atau tingkat kepastiannya. Pandangan pakar mengenai kemungkinan kehilangan kendali atas AI supercanggih masih berbeda.
Ketidakpastian bukan alasan untuk abai. Pengujian red-team, pelaporan insiden, evaluasi kemampuan berbahaya, kontrol penggunaan alat, dan audit independen tetap rasional sekalipun AGI belum tercapai. Sebaliknya, menyatakan bahwa AI saat ini pasti memiliki kehendak sendiri atau pasti akan memusnahkan umat manusia melampaui bukti yang tersedia. Kebijakan harus disusun berdasarkan skenario, dampak dan bukti yang diperbarui.
Senjata otonom: batas penggunaan AI pada keputusan mematikan
Sistem senjata otonom dapat memilih atau menyerang sasaran dengan derajat intervensi manusia yang berbeda-beda; batas hukum dan moralnya terletak pada kendali manusia atas penggunaan kekuatan. Teknologi deteksi dan navigasi dapat membantu operasi pertahanan, tetapi keputusan yang menyangkut nyawa menuntut kemampuan membedakan kombatan, warga sipil serta proporsionalitas sesuai hukum humaniter.
Pada 25 Agustus 2026, Sekjen PBB dan Presiden ICRC mengulangi seruan untuk mengadopsi aturan internasional yang mengikat. Seruan tersebut bukan pernyataan bahwa traktat baru sudah berlaku. Perdebatan mencakup pelarangan sistem yang tidak dapat digunakan sesuai hukum humaniter dan pembatasan ketat terhadap penggunaan lain. Negara harus memastikan tanggung jawab tidak hilang di balik algoritma.
Konsep meaningful human control kerap dipakai untuk menuntut manusia memiliki pemahaman sasaran, informasi situasi dan kapasitas intervensi. Namun tingkat kontrol yang tepat bergantung pada konfigurasi alat, waktu reaksi, lingkungan dan risiko salah klasifikasi. Menempatkan manusia hanya sebagai penekan tombol tanpa peluang menolak keputusan mesin tidak cukup sebagai pengawasan substantif.
Bagaimana aturan negara berbeda pada 2026?
| Arena | Langkah terverifikasi | Batasannya |
|---|---|---|
| Uni Eropa | AI Act bertahap, transparansi dan pengawasan model umum | Tidak semua aturan risiko tinggi serempak berlaku |
| PBB–ICRC | Desakan aturan mengikat senjata otonom | Belum merupakan traktat baru |
| NIST AS | Kerangka manajemen risiko AI sukarela | Tidak sama dengan undang-undang umum |
| Indonesia | Perumusan kebijakan etika dan peta jalan AI | Periksa status pengundangan naskah resmi |
Komisi Eropa menjelaskan bahwa AI Act memiliki kewajiban dan jadwal penegakan berbeda; transparansi dan sebagian wewenang penegakan berlaku sejak 2 Agustus 2026, sementara beberapa persyaratan sistem berisiko tinggi berlaku kemudian. Di Amerika Serikat, NIST AI RMF menawarkan kerangka sukarela tata kelola, pengukuran dan pengendalian risiko.
Kompetisi AI dan kepentingan geopolitik
Negara besar mempunyai insentif mempercepat AI untuk ekonomi dan keamanan, sehingga standar global yang terlalu mahal atau membatasi keunggulan strategis sering menghadapi resistensi. Jalan tengahnya bisa berupa kewajiban pelaporan insiden, pertukaran evaluasi, pembatasan penggunaan berisiko khusus, dan komitmen kontrol manusia pada senjata, meski kepentingan nasional berbeda. Persaingan laboratorium dan chip tidak perlu meniadakan kerja sama minimum demi mencegah bencana.
Indonesia berkepentingan membangun kapabilitas sendiri untuk menguji model, melindungi data sensitif, serta mengevaluasi sistem pertahanan, bukan semata menjadi pengguna produk luar. Komdigi pada Juli 2026 menyatakan rancangan Perpres AI telah dibahas dan menunggu penetapan; status peraturan harus dibedakan dari rencana. Dalam konteks pertahanan, kajian risiko AI perlu dihubungkan dengan analisis doktrin pertahanan semesta.
FAQ keamanan AGI
Kapan AGI akan benar-benar hadir?
Belum dapat ditetapkan secara ilmiah. Ada proyeksi berbagai tahun, tetapi definisi AGI dan indikator keberhasilannya masih diperdebatkan.
Apakah AI alignment sama dengan sensor?
Tidak. Alignment mencakup ketepatan instruksi, keselamatan, keandalan, penghormatan hak dan kontrol tindakan. Pembatasan informasi hanya salah satu perdebatan desain yang harus dinilai proporsional.
Apakah drone otonom sudah dilarang secara global?
Belum ada traktat universal baru yang diberlakukan sebagaimana tuntutan PBB–ICRC pada Agustus 2026. Semua penggunaan senjata tetap harus memenuhi kewajiban hukum humaniter yang berlaku.
Kesimpulan dan sumber
Mempersiapkan keselamatan AI berarti membangun kemampuan evaluasi, prinsip kontrol manusia, dan hukum yang bisa ditegakkan sebelum kecelakaan sistemik terjadi. Perlombaan geopolitik mengubah besarnya tantangan, tetapi tidak menghapus kewajiban melindungi nyawa dan hak manusia.
- International AI Safety Report 2026
- OECD AI Trajectories to 2030
- PBB–ICRC autonomous weapons 2026
- EU AI Act timeline
- NIST AI RMF
Komentar & Diskusi