Perang chip AI adalah persaingan memperebutkan mesin hitung yang paling efisien untuk melatih dan menjalankan model besar. GPU, TPU, dan akselerator buatan perusahaan sendiri kini bertemu di ruang yang sama, yaitu pusat data, dengan trade-off yang berbeda. Bagi tim TI dan pengambil keputusan di Indonesia, memahami perbedaan ketiganya menentukan apakah anggaran infrastruktur dipakai untuk perangkat yang tepat atau hanya untuk spesifikasi pemasaran.
Mengapa GPU Menjadi Titik Awal
GPU menjadi pilihan pertama karena arsitekturnya cocok untuk operasi matriks berskala besar. Ribuan inti sederhana bekerja paralel, sementara CPU hanya punya beberapa inti yang dioptimalkan untuk eksekusi berurutan. NVIDIA mendokumentasikan lini GPU pusat datanya sebagai platform untuk beban kerja AI dan komputasi kinerja tinggi di halaman data center NVIDIA, dan menyediakan halaman produk terpisah untuk tiap generasi, misalnya akselerator H100.
Faktor kedua adalah perangkat lunak. Pustaka dan kerangka kerja yang matang membuat model lebih mudah dipindahkan. Inilah alasan praktis mengapa banyak proyek AI memulai dari GPU: risiko rekayasa ulang lebih rendah dan tenaga terlatih lebih banyak.
AMD juga bersaing di segmen yang sama lewat lini akselerator Instinct. Bagi pembeli, keberadaan dua pemasok besar penting bukan karena harga per kartu, tetapi karena tekanan pada rantai pasok dan pada kematangan dukungan perangkat lunak.
TPU dan ASIC: Spesialisasi yang Sempit tetapi Dalam
TPU adalah kelas akselerator yang dirancang khusus untuk operasi machine learning, bukan untuk grafik. Dokumentasi Google Cloud menjelaskan TPU sebagai perangkat dengan arsitektur tersendiri dan mencantumkan beberapa generasi, seperti TPU v5e, TPU v6e, hingga TPU7x, di pengantar Cloud TPU. Karena fungsinya sempit, rangkaian silikonnya bisa dibuat lebih sederhana daripada GPU, sehingga efisiensi per operasi lebih baik untuk beban kerja yang cocok.
Konsekuensinya, ASIC seperti ini sangat bergantung pada kesesuaian beban kerja. Model yang strukturnya berubah drastis bisa kehilangan sebagian efisiensi karena kompiler harus memetakan operasi baru ke jalur perangkat keras yang sudah tetap. Pendekatan ini cocok untuk organisasi dengan beban kerja stabil dan volume besar, bukan untuk tim yang bereksperimen dengan arsitektur model baru setiap bulan.
Pola serupa terlihat pada akselerator pelatihan milik penyedia cloud. AWS, misalnya, memasarkan Trainium sebagai akselerator AI untuk pelatihan model di infrastruktur mereka. Tawarannya bukan sekadar chip, melainkan paket berisi instance, jaringan antarsimpul, dan alat bantu migrasi.
Akselerator Buatan Sendiri: Motif dan Biayanya
Perusahaan besar membangun chip sendiri karena tiga alasan yang saling terkait. Pertama, skala. Jika inferensi berjalan miliaran kali sehari, selisih biaya per permintaan menjadi angka anggaran yang besar. Kedua, kendali. Desain sendiri mengurangi ketergantungan pada jadwal pengiriman satu vendor. Ketiga, diferensiasi, terutama bila model dan perangkat keras dioptimalkan bersama.
Namun biaya tersembunyinya besar. Tim silikon, verifikasi, dan pengemasan menyerap investasi bertahun-tahun sebelum chip pertama berfungsi. Yang lebih sering menjadi penghambat adalah perangkat lunak: kompiler, pustaka operator, dan alat profiling harus dibangun dan dirawat sendiri. Organisasi yang memilih jalur ini biasanya sudah punya tim riset besar dan beban kerja yang volumenya membenarkan investasi.
Rantai Pasok di Balik Nama Chip
Terlepas dari mereknya, hampir semua akselerator AI bergantung pada komponen yang sama: memori bandwidth tinggi, paket silikon canggih, dan fabrikasi di foundry yang jumlahnya sedikit. Keterbatasan sering muncul di titik-titik itu, bukan di desain logika. Karena itu, negosiasi pengadaan yang matang menanyakan alokasi memori dan jadwal pengiriman, bukan hanya jumlah unit.
Sebagian perusahaan memilih mengurangi risiko desain dengan melisensikan inti siap pakai. Arm, misalnya, menyediakan inti CPU dan IP silikon yang bisa diintegrasikan ke chip buatan sendiri. Model lisensi ini menurunkan hambatan masuk, tetapi tetap menuntut kemampuan integrasi dan verifikasi di sisi pemakai.
Pertimbangan Praktis untuk Organisasi di Indonesia
Pertanyaannya bukan chip mana yang terbaik secara absolut, melainkan kombinasi mana yang paling masuk akal secara operasional. Beberapa pertimbangan yang layak dievaluasi:
- Pola beban kerja. Pelatihan berskala besar dan inferensi harian punya kebutuhan berbeda. Inferensi sering lebih hemat dijalankan di akselerator khusus atau bahkan di CPU dengan model terkuantisasi.
- Kedaulatan dan kepatuhan data. Data pribadi yang diproses untuk model wajib memperhatikan kewajiban perlindungan data. Memproses di infrastruktur sendiri mempermudah kontrol, tetapi memindahkan beban pemeliharaan ke tim internal.
- Daya dan pendinginan. Kepadatan rak akselerator modern menuntut pasokan listrik dan pendinginan yang tidak selalu tersedia di ruang server lama.
- Ketersediaan keterampilan. Platform dengan dokumentasi dan komunitas luas lebih mudah diadopsi tim kecil.
- Total biaya tiga tahun. Hitung lisensi, dukungan, suku cadang, listrik, dan biaya migrasi, bukan hanya harga perangkat.
Alternatif yang sering paling rasional adalah kombinasi: cloud untuk eksperimen dan lonjakan beban, perangkat sendiri untuk data sensitif dan beban stabil. Pola ini juga dibahas dalam konteks model terbuka pada artikel AI open weight dan model lokal.
Yang Perlu Dipantau
Klaim pemasok perlu dibaca dengan hati-hati. Tiga hal yang layak dipantau: kematangan perangkat lunak untuk beban kerja Anda, ketersediaan memori dan paket silikon, serta biaya energi per satuan pekerjaan. Konteks tambahan soal persaingan model ada pada artikel perlombaan model AI 2026.
Kesimpulan
GPU menang karena fleksibilitas dan ekosistem, TPU dan ASIC menang pada beban kerja yang sempit dan stabil, sedangkan akselerator buatan sendiri hanya masuk akal bagi organisasi dengan skala dan tim rekayasa yang besar. Untuk kebanyakan tim di Indonesia, keputusan yang sehat adalah memilih berdasarkan profil beban kerja, kewajiban kepatuhan, dan biaya total, bukan berdasarkan angka puncak di brosur.
Jika Anda ingin membangun kemampuan evaluasi infrastruktur AI yang lebih matang, mulai dari pemahaman dasar sistem dan jaringan. Program kursus Linuxhackingid membahas fondasi tersebut dengan latihan praktis.
Setiap artikel ditinjau pimpinan praktik yang menangani pekerjaannya sebelum terbit.



