Menghitung Biaya GPU AI hingga Titik Impas

Jawaban singkat: Harga server GPU saja tidak cukup untuk menilai kelayakan bisnis AI. Simulasi ini menunjukkan pengaruh utilisasi, listrik, penyusutan, dan biaya fasilitas terhadap biaya per jam.

Masalah biaya yang tersembunyi di balik harga perangkat

Perusahaan yang membeli server untuk artificial intelligence (AI), atau kecerdasan buatan, sering menonjolkan harga GPU per unit. Padahal keputusan investasi bergantung pada harga perangkat lengkap, masa pakai ekonomis, tingkat utilisasi, energi, fasilitas, dukungan, serta biaya kesempatan ketika kapasitas menganggur. Harga beli yang sama dapat menghasilkan biaya komputasi per jam yang sangat berbeda.

AIGEO menyusun simulasi unit economics yang dapat dihitung ulang. Semua harga dalam contoh berikut adalah asumsi ilustratif, bukan penawaran vendor atau harga pasar pada 28 Oktober 2026. Kami membedakan konsumsi daya IT dari konsumsi fasilitas, serta depresiasi akuntansi dari pengeluaran kas.

Definisi satuan sebelum menghitung

Harga server adalah biaya awal pengadaan, bukan tarif per jam. Utilisasi adalah bagian jam yang benar-benar dapat ditagihkan atau menghasilkan nilai bisnis, bukan sekadar persentase GPU menyala. PUE membandingkan energi total fasilitas dengan energi peralatan IT. Jika perangkat mengonsumsi 4 kW rata-rata dan PUE 1,4, kebutuhan fasilitas setara 5,6 kW pada periode yang sama.

Tidak semua beban AI berjalan terus-menerus. Pelatihan model, inferensi interaktif, dan pekerjaan batch mempunyai pola pemakaian berbeda. Model finansial harus membedakan jam tersedia, jam beroperasi, jam digunakan, dan jam dibayar pelanggan. Mencampur empat besaran ini membuat biaya per jam tampak terlalu murah.

Simulasi server Rp1,2 miliar selama tiga tahun

Asumsikan satu server GPU lengkap berharga Rp1,2 miliar, nilai residu nol, dan masa ekonomis 36 bulan. Penyusutan garis lurus per bulan = Rp1.200.000.000/36 = Rp33,33 juta. Jika server tersedia 24 jam selama 30 hari, kapasitas teoritis = 720 jam server per bulan. Pada utilisasi berbayar 50 persen, hanya 360 jam yang menghasilkan pendapatan.

Biaya penyusutan per jam berbayar = Rp33,33 juta/360 = sekitar Rp92.593. Pada utilisasi 80 persen, 576 jam terpakai dan penyusutan per jam turun menjadi sekitar Rp57.870. Selisih ini muncul tanpa perubahan harga hardware. Jika perangkat diganti setelah dua tahun, beban ekonomis per jam menjadi lebih tinggi.

Simulasi listrik dan fasilitas

Asumsikan daya rata-rata IT 4 kW, PUE 1,4, tarif energi efektif Rp1.500 per kWh, dan 720 jam operasi. Energi fasilitas = 4 kW×1,4×720 jam = 4.032 kWh. Biaya energi = 4.032×Rp1.500 = Rp6,048 juta per bulan. Ini tidak mencakup biaya kapasitas sambungan, cadangan daya, pendingin khusus, atau perubahan tarif.

Pada utilisasi 50 persen, alokasi listrik per jam berbayar = Rp6.048.000/360 = Rp16.800. Pada 80 persen, Rp10.500. Angka ini sengaja memperlihatkan energi tetap dibayar ketika kapasitas tersedia namun tidak ditagihkan. Pada sistem dengan pengelolaan daya dinamis, konsumsi aktual dapat berubah sehingga pengukuran kWh nyata lebih baik daripada asumsi rata-rata.

Tambahkan jaringan, dukungan, dan ruang

Misalkan biaya dukungan, konektivitas, perangkat penyimpanan, cadangan komponen, dan fasilitas selain listrik mencapai Rp12 juta per bulan. Total biaya bulanan ilustratif = Rp33,33 juta penyusutan + Rp6,048 juta listrik + Rp12 juta biaya lain = Rp51,381 juta. Pada utilisasi 50 persen, biaya pokok = Rp142.725 per jam berbayar.

Pada utilisasi 80 persen, biaya pokok sekitar Rp89.203 per jam berbayar. Perbedaan besar itu menunjukkan mengapa strategi penjualan kapasitas, penjadwalan pekerjaan, dan pelanggan jangkar dapat lebih menentukan daripada negosiasi diskon kecil pada GPU. Angka belum termasuk biaya modal dan pajak, sehingga bukan proyeksi laba bersih.

Titik impas harga jual dan margin

Jika perusahaan menargetkan margin kontribusi 30 persen atas pendapatan, harga minimum = biaya per jam/(1−0,30). Pada utilisasi 50 persen, harga minimum sekitar Rp203.893 per jam. Pada utilisasi 80 persen, sekitar Rp127.433. Ini model statis yang mengasumsikan harga dan beban sama sepanjang bulan.

Pelanggan mungkin membayar per token, per pekerjaan, atau per permintaan API, bukan per jam GPU. Untuk menghubungkan unit economics, ukur jumlah token atau tugas yang benar-benar selesai pada perangkat, lalu alokasikan biaya per unit hasil. Model yang lebih cepat tetapi boros listrik belum tentu lebih mahal jika menghasilkan lebih banyak pekerjaan yang benar.

Mengapa proyeksi IEA tidak boleh menjadi tarif lokal

Laporan IEA Energy and AI tahun 2025 memproyeksikan konsumsi listrik pusat data global sekitar 945 TWh pada 2030. Itu proyeksi skenario global, bukan kapasitas yang pasti dibangun di Indonesia atau bukti harga listrik untuk satu pusat data. Penggunaan angka IEA untuk menghitung ROI proyek lokal memerlukan asumsi lokasi, profil beban, jaringan, dan kontrak.

Untuk konteks perencanaan energi nasional, baca audit AIGEO mengenai klaim kebutuhan listrik pusat data Indonesia. Untuk menghubungkan biaya teknologi dengan manfaat perusahaan, lihat kerangka pengukuran ROI AI. Artikel ini khusus memodelkan biaya jam komputasi, bukan mengulang dua analisis tersebut.

Risiko residu dan perubahan generasi chip

Server dapat tetap berfungsi ketika nilai jualnya turun karena generasi chip baru lebih efisien. Sebaliknya, umur akuntansi tiga tahun tidak berarti komponen pasti rusak setelah 36 bulan. Uji sensitivitas sebaiknya menghitung skenario masa pakai 24, 36, dan 48 bulan serta nilai residu berbeda.

Selain itu, kompatibilitas perangkat lunak, kapasitas memori, biaya migrasi model, dan ketersediaan suku cadang menentukan umur ekonomis. Sebuah kartu yang murah tetapi membutuhkan dua kali lebih banyak perangkat untuk memenuhi target latensi dapat menjadi pilihan yang lebih mahal secara sistem.

Kesimpulan audit

Satu angka harga GPU tidak cukup untuk menentukan kelayakan bisnis. Kunci analisis adalah biaya total dibagi output yang benar-benar dapat digunakan dan ditagihkan, dengan utilisasi sebagai variabel utama. Pisahkan simulasi dari harga vendor, ukur energi aktual, dan lakukan sensitivitas terhadap umur perangkat.

Model AIGEO dapat direplikasi dengan mengganti harga server, PUE, tarif listrik, jam operasi, utilisasi, dan biaya lain. Keputusan investasi sebaiknya diambil setelah uji beban nyata, bukan berdasarkan brosur performa puncak.

Matriks audit AIGEO

Tabel ini merupakan ringkasan metodologi dan ilustrasi redaksi, bukan statistik resmi atau format wajib regulator. Seluruh angka simulasi harus diuji dengan data operasional sebelum dipakai mengambil keputusan.

Sumber primer dan metode

• https://www.iea.org/reports/energy-and-ai/executive-summary
• https://www.iea.org/reports/energy-and-ai/energy-supply-for-ai

Dokumen sumber diperiksa 28 Oktober 2026. Seluruh contoh harga, hasil uji, dan anggaran yang disebut simulasi bukan observasi lapangan atau penawaran resmi.

Skenario sensitivitas umur perangkat

Pada harga Rp1,2 miliar, penyusutan bulanan untuk umur 24 bulan adalah Rp50 juta; untuk 36 bulan Rp33,33 juta; untuk 48 bulan Rp25 juta. Dengan biaya energi dan dukungan yang sama Rp18,048 juta, total biaya bulanan masing-masing Rp68,048 juta, Rp51,381 juta, dan Rp43,048 juta. Pada 360 jam berbayar, biaya per jam berturut-turut sekitar Rp189.022, Rp142.725, dan Rp119.578. Angka ini tidak mengasumsikan kinerja GPU sama pada semua tahun. Umur lebih panjang dapat menurunkan depresiasi tetapi meningkatkan risiko perangkat tertinggal dari standar efisiensi generasi baru.

Harga modal dan biaya pendanaan

Pembelian perangkat dengan pinjaman menambah beban bunga dan kewajiban kas yang tidak terlihat pada depresiasi. Jika pembiayaan memiliki tingkat bunga efektif tertentu, biaya modal harus dihitung berdasarkan jadwal saldo pinjaman, bukan sekadar mengalikan harga perangkat dengan persentase tetap setiap bulan. Untuk analisis awal, perusahaan dapat memakai weighted average cost of capital sebagai tingkat diskonto arus kas proyek. Hindari mencampur bunga aktual dan biaya modal yang sama dua kali. Proyeksi sebaiknya memisahkan laporan laba rugi, arus kas, dan neraca sehingga titik impas akuntansi tidak disalahartikan sebagai kemampuan membayar cicilan.

Simulasi perubahan tarif energi

Dengan kebutuhan fasilitas 4.032 kWh per bulan, perubahan tarif efektif Rp200 per kWh mengubah biaya sebesar Rp806.400 per bulan. Pada 360 jam berbayar, selisih sekitar Rp2.240 per jam; pada 576 jam sekitar Rp1.400. Dampak ini dapat terlihat kecil dibanding depresiasi, tetapi menjadi signifikan pada ratusan server. PUE juga dapat berubah mengikuti cuaca, beban, dan konfigurasi pendingin. Karena itu kontrak energi dan data meter aktual perlu dipakai dalam evaluasi. Klaim efisiensi vendor yang diukur dalam kondisi laboratorium belum tentu sama dengan operasi fasilitas pelanggan.

Model sewa dibanding membeli

Penyedia cloud mengubah belanja modal menjadi pembayaran operasional, tetapi harga sewanya dapat memasukkan margin, jaminan kapasitas, dan biaya keluar data. Pembelian memberi kontrol lebih besar atas penjadwalan dan lokasi data, namun menimbulkan risiko kapasitas menganggur dan peremajaan perangkat. Perbandingan adil harus menggunakan beban kerja identik, durasi, SLA, biaya transfer data, penyimpanan, dan dukungan. Jangan membandingkan tarif GPU cloud per jam dengan hanya penyusutan GPU lokal; sertakan server, listrik, ruang, teknisi, dan kegagalan perangkat. Pada permintaan sporadis, membayar cloud saat digunakan dapat lebih ekonomis walaupun tarif nominal per jam lebih tinggi.

Biaya token sebagai hasil akhir

Dalam inferensi model bahasa, pelanggan membeli hasil seperti token keluaran, dokumen terproses, atau permintaan yang berhasil, bukan jam GPU. Misalkan satu server memproses 100 juta token keluaran per bulan pada kualitas dan latensi yang memenuhi kontrak. Dengan total biaya ilustratif Rp51,381 juta, biaya infrastruktur per satu juta token = Rp513.810. Jika throughput nyata hanya 50 juta token, biaya unit menjadi dua kali lipat. Contoh ini bukan benchmark performa hardware. Angka throughput harus diuji pada model, panjang konteks, batching, dan target latency yang sebenarnya. Biaya input, jaringan, serta overhead layanan tetap harus diperhitungkan.

Ketika kinerja puncak menyesatkan

Brosur sering menonjolkan performa maksimum pada ukuran batch tertentu. Dalam aplikasi percakapan, pelanggan juga menuntut waktu menuju token pertama, kestabilan respons, dan kemampuan melayani lonjakan trafik. GPU yang menghasilkan token banyak pada batch besar belum tentu memenuhi SLA interaktif. Audit AIGEO menyarankan empat pengujian: beban rendah, beban rata-rata, lonjakan, dan kegagalan satu node. Catat throughput, latensi p95, konsumsi kWh, serta error rate. Harga per token tanpa standar mutu bisa mendorong optimasi yang menurunkan pengalaman pengguna. Penawaran vendor harus memuat kondisi uji, bukan satu angka performa.

Risiko permintaan yang tidak stabil

Model bisnis pusat komputasi sangat sensitif terhadap komitmen pelanggan. Jika utilisasi diproyeksikan 80 persen tetapi realisasi 35 persen, penyusutan tetap berjalan sementara pendapatan berkurang. Kontrak kapasitas minimum, pembayaran reservasi, dan diversifikasi pelanggan dapat mengurangi risiko. Namun jaminan kapasitas juga menimbulkan kewajiban penyedia saat perangkat gagal. Dalam proyeksi, pisahkan permintaan yang sudah dikontrak, pipeline penjualan, dan aspirasi pasar. Jangan menganggap seluruh minat calon pelanggan sebagai pendapatan. Setiap skenario harus menyatakan probabilitas atau sekurangnya batas bawah dan atas yang masuk akal.

Kapan menghentikan investasi

Keputusan tidak hanya memilih beli atau sewa, tetapi juga kapan menunda. Jika harga perangkat, biaya modal, dan proyeksi utilisasi menghasilkan nilai kini bersih negatif pada skenario konservatif, pengujian cloud sementara dapat memberi informasi lebih murah daripada pembelian penuh. Susun tahap investasi: proof of concept, pelanggan jangkar, kapasitas awal, lalu ekspansi. Setiap tahap mempunyai gerbang evaluasi yang menguji margin, kualitas layanan, dan ketahanan operasional. Proyek yang sudah menghabiskan dana besar tetap perlu dihentikan bila asumsi dasarnya tidak terbukti; biaya masa lalu tidak boleh menjadi alasan mempertahankan keputusan buruk.

Daftar data yang harus diminta dari vendor

Sebelum menyetujui pengadaan, mintalah harga perangkat lengkap dan lisensi, daya IT rata-rata pada beban nyata, kebutuhan jaringan, throughput model sasaran, latensi p95, kondisi garansi, serta estimasi waktu penggantian komponen. Pastikan harga belum mencampur biaya sekali bayar dengan biaya bulanan. Jika vendor menyatakan perangkat menghasilkan sekian token per detik, tanyakan ukuran model, panjang konteks, jumlah pengguna serentak, dan konfigurasi batch. Tanpa parameter tersebut, dua klaim performa tidak dapat dibandingkan secara adil. Semua data teknis harus masuk lembar asumsi proyek yang dapat diaudit.

Uji skenario pesimistis

Gunakan tiga skenario utilisasi, misalnya 30, 50, dan 80 persen, sambil menjaga asumsi biaya lainnya tetap sama. Dengan total biaya bulanan Rp51,381 juta dan 720 jam tersedia, jam berbayar menjadi 216, 360, dan 576. Biaya per jam masing-masing sekitar Rp237.875, Rp142.725, dan Rp89.203. Ini bukan prediksi permintaan, melainkan uji sensitivitas. Perusahaan yang hanya untung pada skenario 80 persen perlu menunjukkan bukti kontrak pelanggan yang mendukung tingkat pemakaian tersebut. Jika tidak, risiko komersial lebih besar daripada yang terlihat dari presentasi investasi.

Keterbatasan model AIGEO

Simulasi memakai satu server homogen, tarif listrik tetap, dan beban rata-rata. Pusat data nyata memiliki banyak jenis GPU, kegagalan komponen, biaya redundansi, kebutuhan penyimpanan, dan beban jaringan yang berubah. Perhitungan juga belum memasukkan biaya pengembangan perangkat lunak, pemasaran, pajak, dan modal kerja. Karena itu hasilnya tidak boleh dikutip sebagai tarif minimum industri. Nilai utamanya adalah memperlihatkan variabel yang menentukan keputusan. Setiap proposal investasi perlu mengganti asumsi dengan data kontrak dan hasil pengujian perangkat yang benar-benar akan digunakan.