Ongkos Migrasi Cloud AI Tak Hanya Biaya Server

Memindahkan model artificial intelligence (AI), atau kecerdasan buatan, dari satu cloud ke cloud lain bukan sekadar memindahkan file bobot. Ada biaya transfer data keluar (egress), rekonstruksi pipeline, valida
Dua pusat data dan aliran data antarkomputasi cloud

Intinya: Memindahkan model artificial intelligence (AI), atau kecerdasan buatan, dari satu cloud ke cloud lain bukan sekadar memindahkan file bobot. Ada biaya transfer data keluar (egress), rekonstruksi pipeline, validasi keluaran, dan kemungkinan downtime. Harga GPU baru yang lebih murah bisa gagal menghasilkan penghematan jika biaya migrasi diabaikan.

Komponen biaya yang sering tidak terlihat

Penawaran penyedia cloud biasanya memusatkan perhatian pada harga komputasi per jam, penyimpanan per bulan, dan tarif API. Tetapi ketika perusahaan memindahkan model, ada biaya satu kali yang tidak tercermin dalam harga bulanan. Contohnya pemindahan dataset pelatihan, checkpoint model, embedding index, log evaluasi, dan snapshot database. Sebagian dapat dikompresi atau tidak perlu dibawa; sebagian lain wajib dipertahankan untuk audit.

Halaman tarif resmi Amazon S3 dan Google Cloud Storage menunjukkan bahwa biaya transfer bergantung pada arah, region, kelas penyimpanan, jaringan, dan layanan. Google Cloud menampilkan tarif general data transfer per GiB dengan tier dan tujuan tertentu. AWS mencantumkan pengecualian, misalnya sejumlah transfer dalam region yang sama, serta ketentuan transfer keluar. Karena itu tarif ilustratif tidak boleh disebut harga universal untuk semua cloud.

Perbedaan GB desimal dan GiB biner juga dapat mengacaukan perbandingan. Satu GiB sama dengan 1.073.741.824 byte, sedangkan satu GB adalah satu miliar byte. Jika penawaran vendor memakai satuan berbeda, normalisasi dahulu sebelum membuat tabel biaya.

Simulasi migrasi 40 TB data model

Ambil skenario hipotetis: organisasi memiliki 40.000 GB data yang benar-benar harus ditransfer keluar. Asumsikan tarif egress efektif USD 0,08 per GB, bukan penawaran aktual vendor. Biaya jaringan dasar = 40.000 GB × USD 0,08/GB = USD 3.200. Jika biaya menyiapkan jalur transfer dan validasi checksum USD 700, total komponen ini USD 3.900. Angka tersebut belum termasuk kurs rupiah, pajak, dan biaya pihak penerima.

Misalkan terdapat 10.000 GB data yang ternyata sudah dapat dibuat ulang dari sumber primer dengan biaya USD 300. Jika data itu tidak ditransfer, egress menjadi 30.000 × 0,08 = USD 2.400. Tambahkan regenerasi USD 300 dan validasi USD 700, sehingga total USD 3.400. Penghematan relatif terhadap skenario pertama USD 500. Tetapi regenerasi hanya layak bila tidak menghilangkan bukti dan hak audit.

Rumus generik: biaya migrasi = data keluar (GB) × tarif egress (USD/GB) + biaya ingress + komputasi konversi + validasi + downtime + biaya tenaga kerja. Jangan menganggap ingress selalu gratis; cek produk dan region yang dipakai. Dalam proyek yang memerlukan bandwidth khusus atau interconnect, biaya jaringan dapat memakai skema berbeda.

Uji titik impas antara cloud lama dan baru

Jika biaya komputasi bulanan di cloud lama USD 20.000 dan penawaran cloud baru USD 17.500 untuk beban kerja setara, penghematan kotor USD 2.500 per bulan. Misalkan migrasi menyeluruh menelan USD 15.000, titik impas sederhana = 15.000/2.500 = 6 bulan. Itu hanya sah bila throughput, latency, keamanan, dan ketersediaan kedua layanan memang setara.

Tambahkan skenario ketidakpastian: jika biaya cloud baru meningkat 10% menjadi USD 19.250, penghematan tinggal USD 750 dan titik impas memanjang menjadi 20 bulan. Bila harus menambah engineer USD 2.000 per bulan, penghematan bersih justru negatif. Keputusan harus memakai total cost of ownership, bukan harga instance paling murah.

Perbandingan juga harus memasukkan jam GPU yang benar-benar produktif. GPU yang lebih cepat tetapi hanya digunakan 25% waktu mungkin lebih mahal per tugas selesai dibanding GPU lebih lambat dengan utilisasi 70%. Namun jangan membandingkan utilisasi tanpa kualitas output dan waktu respons; workload batch berbeda dari sistem real-time.

Checklist teknis sebelum memindahkan model

Pertama, inventaris semua artefak: bobot, tokenizer, kode inferensi, konfigurasi runtime, versi driver, dataset, prompt, vector database, log, dan lisensi. Kedua, tetapkan data yang harus disimpan untuk kepatuhan serta data yang bisa dibuang menurut kebijakan retensi. Ketiga, jalankan benchmark pada kedua cloud dengan data uji identik dan versi model terkunci.

Keempat, hitung biaya operasi untuk sedikitnya tiga skenario trafik: rendah, normal, dan puncak. Kelima, uji migrasi balik agar kontrak baru tidak menciptakan lock-in yang lebih besar. Keenam, pastikan kunci enkripsi dan manajemen identitas tidak bergantung pada mekanisme proprietary yang sulit dipindah. Ketujuh, ukur durasi perpindahan data, karena 40 TB tidak bisa dipindah seketika walaupun tagihan egress dapat dibayar.

Sebagai ilustrasi kapasitas jaringan, 40 TB desimal setara 320 terabit. Pada throughput efektif konstan 1 gigabit per detik, batas waktu teoretisnya 320.000 detik atau sekitar 88,9 jam, sebelum overhead, throttling, enkripsi, dan transfer ulang. Ini bukan estimasi SLA; throughput aktual harus diukur dengan pengujian.

Apa yang harus dicantumkan dalam kontrak

Perjanjian perlu mengatur hak mengunduh data dan bobot yang memang dimiliki pelanggan, mekanisme penghapusan, tarif egress yang berlaku, batas perubahan harga, dukungan migrasi, format ekspor, serta akses audit. Kontrak yang menjanjikan portability tetapi tidak menjamin format data atau hak menggunakan model setelah migrasi berpotensi menyesatkan.

Untuk perusahaan Indonesia, pertanyaan lokasi data dan kepatuhan terhadap aturan sistem elektronik harus diperiksa terpisah dari biaya. Perpindahan server ke Jakarta tidak otomatis menyelesaikan semua persoalan hukum, dan pemrosesan di luar negeri tidak otomatis dilarang untuk semua jenis data. Klasifikasi data dan peran pengendali/pemroses perlu diperjelas.

Transfer data bukan satu-satunya pekerjaan migrasi

Pada sistem pencarian berbasis embedding, indeks vektor dari satu model mungkin tidak kompatibel dengan embedding model baru. Migrasi dapat menuntut regenerasi embedding seluruh dokumen, pembaruan skema indeks, dan pengujian kualitas retrieval. Biaya itu berbeda dari egress karena menggunakan komputasi, penyimpanan sementara, dan tenaga evaluasi. Jika organisasi hanya memindahkan indeks lama tanpa memeriksa kompatibilitas, kualitas jawaban bisa turun walaupun transfer berkas sukses.

Model yang memakai ekstensi GPU atau kernel tertentu mungkin memerlukan perubahan runtime. Kecepatan yang dijanjikan penyedia baru harus diukur pada ukuran batch dan panjang konteks yang sama. Latency p95 lebih relevan bagi aplikasi interaktif daripada throughput puncak yang dicapai dalam demonstrasi batch. Ukur juga cold start, throttling, error rate, dan biaya retry.

Contoh: sistem menangani 100.000 permintaan per hari. Jika migrasi menambah rata-rata satu percobaan ulang untuk 2% permintaan, terdapat 2.000 retry harian. Bila tiap retry menghabiskan 4.000 token gabungan, tambahan pemrosesan adalah 8 juta token per hari. Tanpa harga token dan struktur cache yang sesuai, angka itu belum dapat diterjemahkan menjadi biaya, tetapi jelas merupakan input TCO yang perlu diminta.

Rencana migrasi bertahap dengan gerbang kualitas

Mulai dari duplikasi trafik uji yang telah disanitasi tanpa mengirim keluaran model baru kepada pengguna. Bandingkan hasil menggunakan dataset yang memiliki jawaban referensi. Tahap berikutnya alihkan sebagian kecil trafik berisiko rendah dan pantau mutu serta biaya. Jangan melakukan perpindahan total sebelum jalur rollback diuji, karena ketidaksesuaian format JSON atau respons tool dapat menghentikan proses hilir.

Catat satuan pengukuran dengan konsisten: GB atau GiB untuk transfer, USD per unit transfer, token per permintaan, milidetik untuk latency, dan rupiah per bulan untuk TCO setelah kurs dinyatakan. Sumber harga harus diberi tanggal pengambilan karena tarif cloud dapat berubah dan bergantung pada region. Untuk analisis investasi, pisahkan biaya satu kali dari biaya berulang agar pembaca tidak salah menyimpulkan penghematan permanen.

Jika penyedia menawarkan kredit migrasi, hitung nilainya hanya selama masa berlaku dan syarat pemakaiannya. Kredit yang tidak bisa dipakai untuk egress atau layanan tertentu tidak sama dengan diskon tunai. Dalam kontrak multi-tahun, biaya keluar di akhir kontrak bisa lebih menentukan daripada diskon saat masuk.

Biaya migrasi model bukan hanya biaya data

Dataset dan checkpoint sering memiliki siklus hidup berbeda. Data mentah dapat disimpan bertahun-tahun untuk kebutuhan audit, sedangkan embedding dan cache inferensi mungkin bisa dibuat ulang. Sebelum memindahkan seluruh bucket, klasifikasikan artefak berdasarkan keharusan retensi, biaya regenerasi, dan ketergantungan pada vendor. Keputusan menghapus data harus mengikuti kebijakan dan hukum yang berlaku, bukan hanya target penghematan egress.

Jika model dilatih menggunakan dataset berlisensi, perpindahan ke lingkungan baru perlu memeriksa apakah lisensi memperbolehkan lokasi dan cara pemrosesan tersebut. Demikian pula bobot model open-weight belum tentu bebas digunakan secara komersial. Kegagalan memeriksa hak dapat membuat migrasi teknis berhasil tetapi proyek tidak bisa dioperasikan secara sah.

Uji ulang keamanan meliputi pengelolaan secret, akses operator, konfigurasi jaringan, penyimpanan log, backup, dan prosedur insiden. Perubahan cloud mengubah permukaan serangan dan batas tanggung jawab. Pengaturan IAM yang benar pada satu penyedia tidak otomatis ekuivalen pada penyedia lain.

Contoh sensitivitas kapasitas jaringan

Transfer 40 TB pada 1 Gbps efektif secara teoritis memerlukan 88,9 jam. Jika throughput efektif turun menjadi 250 Mbps, waktunya naik empat kali menjadi sekitar 355,6 jam atau 14,8 hari. Jika tersedia 10 Gbps efektif, batas teoretis turun menjadi sekitar 8,9 jam. Angka itu mengabaikan overhead, pembatasan API, jumlah koneksi, dan biaya jaringan. Dengan demikian bandwidth yang tersedia menentukan bukan hanya lama migrasi tetapi juga masa menjalankan dua sistem secara paralel.

Menjalankan dua sistem selama transisi dapat menambah tagihan. Jika biaya lingkungan lama USD 20.000 per bulan dan baru USD 17.500, dua minggu operasi paralel secara pendekatan setengah bulan menghasilkan USD 18.750 biaya gabungan selama periode itu, sebelum prorata yang sebenarnya dan biaya lain. Angka ini tidak sama dengan tambahan biaya bersih karena sebagian penggunaan akan menggantikan operasi normal. Akuntan proyek harus memisahkan biaya baseline dan incremental.

Uji sensitivitas sebaiknya memakai tiga tingkat throughput, tiga skenario trafik, dan dua tingkat keberhasilan rollback. Jika keputusan migrasi hanya menguntungkan pada skenario paling optimistis, penghematan yang diproyeksikan rapuh. Pembeli dapat meminta penawaran tetap untuk migrasi, tetapi tetap perlu klausul ruang lingkup dan asumsi yang jelas.

Menghindari kesalahan membandingkan penawaran cloud

Perbandingan tarif harus menyamakan lokasi region, kelas penyimpanan, kapasitas GPU, jam operasi, dukungan teknis, serta komitmen minimum. Harga diskon dengan kontrak tiga tahun tidak sebanding langsung dengan tarif on-demand tanpa komitmen. Jika beban kerja tidak stabil, diskon kapasitas tetap dapat menjadi mahal ketika banyak jam tidak terpakai.

Perusahaan perlu meminta data billing per SKU untuk tiga bulan terakhir, lalu memetakan setiap SKU ke produk pengganti. Biaya yang tidak dapat dipetakan diberi status belum diketahui, bukan nol. Buat uji sensitivitas pada perubahan trafik 20% dan 50%, kegagalan cache, serta penambahan retensi log. Proyeksi harus memakai pola trafik nyata, bukan sekadar asumsi rata-rata bulanan.

Untuk keputusan investasi, hitung biaya per keluaran yang lolos pemeriksaan mutu. Jika vendor baru menurunkan biaya inferensi 30% tetapi tingkat keluaran yang perlu koreksi meningkat dua kali lipat, penghematan GPU belum tentu menghasilkan penghematan bisnis. Unit ekonomi yang tepat adalah pekerjaan selesai dengan benar, bukan token murah semata.

Dokumen yang wajib dibawa ke rapat investasi

Ringkasan keputusan perlu memuat arsitektur saat ini dan target, daftar data yang ditransfer, estimasi egress berdasarkan SKU resmi, biaya operasi paralel, hasil benchmark mutu, serta jadwal rollback. Cantumkan sumber kurs dan tanggal harga. Pisahkan angka yang berasal dari invoice, penawaran vendor, dan asumsi tim internal. Jika satu komponen belum dapat dihitung, tulis sebagai risiko terbuka dengan pemilik tindakan, bukan mengisi nol untuk membuat proyeksi terlihat menguntungkan.

Keputusan akhir sebaiknya ditandatangani bersama oleh pemilik produk, keamanan, keuangan, dan tim operasi, sebab penghematan satu departemen dapat memindahkan biaya ke departemen lain.

Kesimpulan

Keputusan migrasi cloud AI harus menghitung biaya total dan waktu pemulihan, bukan hanya harga GPU. Simulasi egress, uji performa setara, dan rencana keluar yang dapat diuji adalah tiga syarat sebelum menandatangani kontrak baru.

Sumber dan bacaan terkait

Komentar & Diskusi

Tulis Komentar

Bagikan pendapat Anda dengan sopan dan relevan. Alamat email tidak akan ditampilkan.