Siapa Menguasai Siapa? AI, Perbudakan Pikiran, dan Kedaulatan Manusia

Ada sebuah peringatan yang layak mengguncang optimisme kita terhadap kecerdasan buatan: ketika teknologi mengambil alih fungsi tubuh dan otak, apakah manusia sedang memperluas kemampuannya—atau menyerahkan kedaulatannya? Jika infrastruktur, kode, dan algoritma dikuasai segelintir aktor, apakah pengguna sesungguhnya pemilik alat atau justru bagian dari mesin ekonomi mereka?

Pertanyaan itu tidak menuntut jawaban hitam-putih. Posisi AIGEO tegas: artificial intelligence (AI), atau kecerdasan buatan, adalah pisau bermata dua. Ia dapat membuat manusia pasif, bergantung, dan kehilangan keberanian berpikir; tetapi juga dapat menjadi pengungkit pengetahuan, kreativitas, produktivitas, dan pembebasan. Persoalan utamanya bukan apakah kita memakai AI, melainkan siapa yang menentukan tujuan, memegang kendali, memeriksa hasil, dan memperoleh manfaat.

Dari alat bantu menjadi arsitektur kekuasaan

Sejarah teknologi adalah sejarah ekstensi manusia. Roda memperpanjang kemampuan bergerak; teleskop memperluas penglihatan; mesin hitung mengurangi beban aritmetika. AI berbeda dalam satu hal penting: ia masuk ke wilayah yang selama ini dianggap inti otonomi manusia—merumuskan pertanyaan, menafsirkan bukti, menulis argumen, menyusun strategi, dan menawarkan keputusan.

Ketika mesin membantu mengerjakan tugas, kita memperoleh efisiensi. Namun ketika mesin mulai menentukan apa yang layak ditanyakan, sumber mana yang terlihat, dan jawaban mana yang dianggap masuk akal, ketergantungan menjadi persoalan epistemik: siapa yang menguasai cara kita mengetahui dunia?

Kekuasaan AI setidaknya memiliki empat lapis: kepemilikan chip, pusat data dan energi; kontrol atas model dan data; aturan algoritmik tentang apa yang dihasilkan dan disaring; serta distribusi melalui aplikasi, sistem operasi, mesin pencari, dan platform kerja. Keempatnya tidak selalu dikuasai satu perusahaan, tetapi konsentrasi pada tiap lapisan dapat membatasi pilihan pengguna, pekerja, institusi, bahkan negara.

Heidegger: bahaya ketika semua hal menjadi sumber daya

Dalam esai The Question Concerning Technology, Martin Heidegger mengingatkan bahwa teknologi bukan semata kumpulan alat netral. Ia juga membentuk cara manusia memandang kenyataan. Melalui gagasan Gestell atau enframing, dunia diperlakukan sebagai persediaan yang siap dihitung, diatur, dan dieksploitasi. Jika logika itu diterapkan pada AI, perhatian, bahasa, kreativitas, dan relasi manusia berisiko direduksi menjadi input yang bisa dioptimalkan.

Bahaya terdalam bukan sekadar mesin lebih cepat daripada manusia. Bahayanya ialah ketika manusia menerima ukuran mesin—kecepatan, prediksi, keterukuran—sebagai satu-satunya ukuran kebenaran dan keberhasilan. Pendidikan kemudian dinilai dari seberapa cepat tugas selesai, bukan kedalaman pemahaman; media dari seberapa banyak klik, bukan kualitas pengetahuan; organisasi dari efisiensi, bukan martabat pekerjanya.

Namun Heidegger tidak dapat diringkas sebagai penyeru penolakan semua teknologi. Pembacaan yang lebih cermat mengajak kita mengubah hubungan dengan teknologi: menggunakannya tanpa membiarkan cara pandangnya menguasai seluruh kehidupan. [Rujukan: Stanford Encyclopedia of Philosophy](https://plato.stanford.edu/entries/heidegger/).

Ellul, Illich, dan Simondon: efisiensi bukan tujuan akhir

Jacques Ellul, melalui The Technological Society, mengkritik kecenderungan masyarakat modern menjadikan teknik dan efisiensi sebagai prinsip yang tampak tak terbantahkan. Jika setiap persoalan sosial otomatis diterjemahkan menjadi persoalan optimasi, pertanyaan etis—untuk siapa, dengan biaya apa, dan siapa yang tersisih—mudah hilang.

Ivan Illich menawarkan tandingan lewat gagasan convivial tools: alat yang memperluas kemampuan orang untuk bertindak sendiri dan bekerja sama, bukan sistem yang menjadikan mereka klien permanen dari lembaga dan pakar. AI yang konvivial berarti pengguna dapat belajar, mengubah, memeriksa, dan—jika perlu—meninggalkannya tanpa kehilangan kemampuan dasarnya.

Gilbert Simondon, dalam pemikirannya tentang objek teknis, menekankan pentingnya budaya teknis: manusia tidak cukup menjadi konsumen yang tak memahami mesin. Kita perlu memahami prinsip kerja, keterbatasan, dan hubungan teknologi dengan masyarakat. Dalam konteks AI, literasi tidak berhenti pada cara menulis prompt; ia meliputi data pelatihan, probabilitas, halusinasi, bias, komputasi, dan insentif perusahaan.

Zuboff: pengguna bukan sekadar konsumen, tetapi sumber data

Shoshana Zuboff, melalui analisis surveillance capitalism, menunjukkan bagaimana pengalaman dan perilaku manusia dapat diekstraksi menjadi data untuk memprediksi dan memengaruhi tindakan berikutnya. Di sini, masalah kedaulatan bukan hanya siapa yang menjawab pertanyaan kita, melainkan siapa yang mengamati kita, membangun profil, dan mengubah profil itu menjadi kekuasaan ekonomi.

Peringatan tersebut relevan bagi ekosistem AI yang menggabungkan asisten, pencarian, perangkat pribadi, layanan cloud, dan aplikasi kerja. Meski praktik privasi tiap penyedia berbeda dan tidak boleh disamaratakan, pertanyaan kebijakannya sama: data apa dikumpulkan, untuk tujuan apa, disimpan berapa lama, siapa yang dapat mengaksesnya, dan bisakah pengguna menolak? [Rujukan: Zuboff, Journal of Information Technology, 2015](https://doi.org/10.1057/jit.2015.5).

Psikologi ketergantungan: ketika berpikir dialihdayakan

Dalam psikologi kognitif, cognitive offloading adalah praktik memindahkan sebagian beban ingatan atau pemrosesan ke alat eksternal. Ini bukan selalu buruk: mencatat janji di kalender membebaskan perhatian untuk tugas yang lebih penting. Masalah muncul ketika pengalihan itu menghilangkan latihan keterampilan yang justru ingin dipertahankan.

Penelitian yang dipresentasikan pada konferensi CHI 2025 oleh peneliti Microsoft Research dan mitra akademik mensurvei 319 pekerja pengetahuan dengan 936 contoh penggunaan AI generatif. Studi itu menemukan hubungan antara tingkat kepercayaan terhadap AI dan lebih rendahnya keterlibatan berpikir kritis yang dilaporkan responden, sedangkan kepercayaan pada kemampuan diri berkaitan dengan keterlibatan yang lebih tinggi. Para peneliti juga melihat pergeseran aktivitas kritis ke verifikasi informasi, integrasi jawaban, dan pengawasan tugas.

Penting: studi survei tersebut tidak membuktikan AI menyebabkan penurunan kecerdasan, kerusakan otak, atau kemunduran permanen. Ia menunjukkan risiko perilaku dan pola kerja yang perlu diuji lebih lanjut. [Rujukan: Lee dkk., CHI 2025](https://www.microsoft.com/en-us/research/publication/the-impact-of-generative-ai-on-critical-thinking-self-reported-reductions-in-cognitive-effort-and-confidence-effects-from-a-survey-of-knowledge-workers/).

Seorang mahasiswa yang meminta AI menyusun seluruh argumen skripsi mungkin menyerahkan proses belajar yang seharusnya membentuk dirinya. Tetapi mahasiswa yang meminta AI menguji kelemahan argumennya, menyarankan sumber tandingan, dan menyimulasikan pertanyaan penguji justru sedang memperkeras otot intelektual. Teknologinya sama; desain penggunaannya berbeda.

Para futurolog: augmentasi atau penyerahan kendali?

Ray Kurzweil dikenal dengan proyeksi percepatan kemampuan komputasi dan integrasi manusia–mesin. Dalam kerangka optimistis ini, AI dapat memperluas kapasitas intelektual dan membantu memecahkan persoalan kesehatan, sains, serta produktivitas. Tetapi proyeksi futuristik bukan kepastian empiris; keberhasilannya bergantung pada institusi, akses, keselamatan, dan pembagian manfaat.

Nick Bostrom, terutama melalui Superintelligence, menyoroti persoalan pengendalian sistem yang jauh lebih cakap daripada manusia. Kekhawatirannya berbeda dari ketergantungan sehari-hari, tetapi memiliki akar sama: kecerdasan instrumental tidak otomatis berbagi tujuan moral manusia. Kita perlu merancang tata kelola, pengujian, dan batas kewenangan sebelum menyerahkan keputusan berisiko tinggi.

Yuval Noah Harari mengingatkan bahwa penguasaan data dan kemampuan mengolah informasi dapat mengubah hubungan antara warga, negara, dan perusahaan. Argumennya membantu kita melihat AI sebagai persoalan kekuasaan politik, bukan sekadar alat produktivitas pribadi. Namun gambaran masa depan para pemikir tersebut tetap harus diperlakukan sebagai skenario untuk diperdebatkan, bukan ramalan yang pasti terjadi.

Dua jalan: budak jawaban atau penguasa proses

Bayangkan dua redaksi. Redaksi pertama menyerahkan pemilihan topik, penulisan, pemeriksaan fakta, dan judul kepada AI; editor hanya menekan tombol terbit. Jumlah artikel meningkat, tetapi kesalahan dapat menyebar, perspektif menjadi seragam, dan kapasitas jurnalisme melemah. Redaksi kedua memakai AI untuk membaca dokumen panjang, membandingkan data, menemukan kontradiksi, dan menguji hipotesis. Wartawan tetap menelepon sumber, memeriksa bukti primer, mengambil keputusan editorial, serta bertanggung jawab atas kesimpulan. Redaksi kedua lebih berdaulat, sekalipun memakai AI secara intensif.

Demikian pula perusahaan. AI dapat menjadi alat pemantauan pekerja secara berlebihan, menggantikan ruang pertimbangan profesional dengan skor algoritmik. Tetapi ia juga dapat menghapus pekerjaan administratif yang melelahkan, meningkatkan keselamatan, dan memberi pekerja waktu untuk pemecahan masalah bernilai tinggi. Ukurannya bukan berapa banyak proses diautomasi, melainkan apakah manusia memperoleh lebih banyak kemampuan, kebebasan, dan daya tawar.

Manifesto AIGEO: manusia menetapkan tujuan, AI menjalankan tugas

1. Pertama, pertahankan kedaulatan tujuan. Manusia harus menentukan persoalan apa yang penting, nilai apa yang dijaga, dan keberhasilan macam apa yang dikejar. AI boleh mengusulkan cara, bukan menggantikan penilaian moral.

1. Kedua, gunakan AI sebagai lawan debat, bukan mesin pembenar. Minta ia menyusun sanggahan, mencari asumsi tersembunyi, dan menjelaskan ketidakpastian. Jangan hanya meminta jawaban yang menyenangkan.

1. Ketiga, rawat kemampuan tanpa AI. Sesekali menulis kerangka sendiri, membaca sumber asli, menghitung, berdebat, dan memecahkan masalah tanpa bantuan mesin adalah latihan kedaulatan kognitif.

1. Keempat, tuntut keterlacakan. Untuk keputusan penting, catat sumber, metode, versi model, keterbatasan, dan manusia yang menyetujui hasilnya. Sistem harus bisa diaudit dan dikoreksi.

1. Kelima, lindungi data dan pilihan untuk keluar. Hindari memasukkan informasi sensitif tanpa dasar yang jelas. Utamakan interoperabilitas, portabilitas data, dan kemampuan berpindah penyedia agar pengguna tidak terkunci.

1. Keenam, bangun kedaulatan kolektif. Sekolah, universitas, media, perusahaan, dan negara perlu kapasitas komputasi, talenta, pengadaan yang sehat, serta regulasi yang melindungi hak warga. Tidak semua institusi harus memiliki model sendiri; yang penting tidak kehilangan kemampuan menilai dan menegosiasikan ketergantungannya.

1. Ketujuh, tetapkan zona keputusan manusia. Penggunaan AI pada kesehatan, pendidikan, hukum, layanan publik, dan keputusan yang menyangkut hidup manusia memerlukan pengawasan, jalur banding, dan pertanggungjawaban yang nyata.

Prinsip terakhir sejalan dengan Rekomendasi Etika AI UNESCO: AI dapat membantu pengambilan keputusan, tetapi tanggung jawab akhir tidak boleh dialihkan dari manusia atau lembaga yang bertanggung jawab. [Rujukan: UNESCO, 2021](https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence).

Jangan memperbudak manusia—tundukkan teknologi pada kemanusiaan

Ungkapan ‘memperbudak teknologi’ dapat dipahami sebagai metafora politik: teknologi harus berada di bawah tujuan dan pengawasan manusia. Tetapi metafora itu tidak boleh menjadi pembenaran untuk memperbudak pekerja yang menambang mineral, memberi label data, membangun pusat data, atau bekerja di rantai pasok AI. Kedaulatan manusia tidak utuh jika kemudahan pengguna dibayar oleh eksploitasi manusia lain.

Karena itu, jalan keluar bukan anti-AI, juga bukan menyerahkan diri pada AI. Kita perlu teknologi yang dapat dipertanyakan, dibatasi, dibongkar, diperbaiki, dan ditinggalkan. Kecerdasan buatan yang baik membuat penggunanya lebih mampu berpikir, bukan semakin takut berpikir tanpa mesin.

Pada akhirnya, ujian sebuah peradaban bukan apakah ia mampu menciptakan mesin yang menjawab semua pertanyaan. Ujiannya adalah apakah, di tengah kelimpahan jawaban, manusia masih sanggup mengajukan pertanyaan yang benar, mengatakan tidak, dan memilih tujuan yang layak diperjuangkan.

Bacaan dan sumber utama

• Martin Heidegger, The Question Concerning Technology; [Stanford Encyclopedia of Philosophy](https://plato.stanford.edu/entries/heidegger/).

• Jacques Ellul, The Technological Society (1964, edisi bahasa Inggris); Ivan Illich, Tools for Conviviality (1973); Gilbert Simondon, On the Mode of Existence of Technical Objects (1958).

• Shoshana Zuboff, [Big Other: Surveillance Capitalism and the Prospects of an Information Civilization](https://doi.org/10.1057/jit.2015.5) (2015).

• Hao-Ping Lee dkk., [The Impact of Generative AI on Critical Thinking](https://www.microsoft.com/en-us/research/publication/the-impact-of-generative-ai-on-critical-thinking-self-reported-reductions-in-cognitive-effort-and-confidence-effects-from-a-survey-of-knowledge-workers/) (CHI 2025).

• Ray Kurzweil, The Singularity Is Nearer (2024); Nick Bostrom, Superintelligence (2014); Yuval Noah Harari, Nexus (2024).

• UNESCO, [Recommendation on the Ethics of Artificial Intelligence](https://www.unesco.org/en/legal-affairs/recommendation-ethics-artificial-intelligence) (2021).

Catatan redaksi: Artikel ini disusun dengan bantuan AI untuk penelusuran, sintesis, dan penyusunan naskah. Redaksi AIGEO menetapkan sudut pandang, kerangka argumentasi, dan kurasi sumber. Pernyataan mengenai masa depan bersifat analitis, bukan kepastian.