SULAWESI TENGAH — Google memperkenalkan dua sistem Tensor Processing Unit generasi kedelapan, TPU 8tx dan TPU 8i Max, yang dirancang untuk inferensi AI rahasia dan kepadatan komputasi tinggi per rak. TPU 8tx menyasar perusahaan teregulasi dan pemerintah yang menjalankan model AI proprietary, sementara TPU 8i Max menargetkan kebutuhan context window masif dengan klaim komputasi dua kali lipat. Keduanya memperluas portofolio infrastruktur AI Google di segmen enterprise dan sektor publik.
TPU 8tx dirancang khusus untuk inferensi AI yang aman dan bersifat rahasia (confidential). Google menyebut chip ini juga bisa dipakai untuk pelatihan model AI berskala kecil.
Spesifikasi Utama TPU 8tx
- Fokus: inferensi AI aman dan confidential
- Kemampuan tambahan: pelatihan model AI skala kecil
- Target pengguna: perusahaan teregulasi dan pemerintah
- Penggunaan: model AI frontier atau proprietary dan agen AI otonom
Fitur Unggulan TPU 8tx
TPU 8tx ditujukan bagi organisasi yang perlu menjalankan model AI sensitif tanpa mengorbankan keamanan data. Sektor keuangan, kesehatan, dan instansi pemerintah menjadi sasaran utama karena biasanya terikat aturan ketat soal penyimpanan dan pemrosesan data.
Kemampuan pelatihan skala kecil membuat satu sistem bisa menangani inferensi sekaligus penyesuaian model ringan. Agen AI otonom yang berjalan di lingkungan tertutup juga masuk dalam cakupan penggunaan chip ini.
TPU 8i Max: Komputasi Padat per Rak
Sistem kedua, TPU 8i Max, dibangun untuk context window berukuran masif dan kepadatan komputasi tertinggi per rak. Google mengklaim sistem ini mampu menyesuaikan skala komputasi dan memori secara beriringan (lockstep).
- Klaim peningkatan: komputasi, bandwidth SRAM, dan bandwidth HBM masing-masing dua kali lipat
- Kapasitas silikon: dua kali lebih banyak dalam rak yang sudah ada
- Efek ke data center: lebih banyak daya komputasi per kaki persegi dan per watt
Klaim dua kali silikon dalam rak eksisting berarti operator data center tidak perlu membangun ulang infrastruktur untuk menambah kapasitas. Efisiensi per watt jadi kunci, mengingat konsumsi listrik kerap menjadi penghambat utama ekspansi pusat data AI.
Harga dan Ketersediaan
Google belum mengungkap harga, varian komersial, maupun jadwal ketersediaan kedua sistem TPU generasi kedelapan ini. Perusahaan juga tidak menyebut apakah TPU 8tx dan 8i Max akan tersedia lewat layanan Google Cloud atau dijual terpisah ke pelanggan.
Pengumuman resmi disampaikan pada Selasa, tanpa rincian lebih lanjut soal mitra peluncuran atau wilayah ketersediaan pertama.
Posisi di Portofolio TPU Generasi Kedelapan
TPU 8tx dan 8i Max melengkapi jajaran TPU generasi kedelapan Google dengan dua ceruk berbeda. Satu menonjolkan keamanan data untuk beban kerja inferensi sensitif, satunya mengejar kepadatan komputasi maksimal untuk model dengan konteks panjang.
Pemisahan ini mencerminkan tren permintaan AI enterprise yang makin terbelah: ada yang butuh kepatuhan regulasi ketat, ada yang butuh tenaga komputasi besar untuk memproses konteks panjang dalam satu rak.
Bagi perusahaan yang mengolah data sensitif dan ingin menjalankan model AI sendiri tanpa keluar dari batas kepatuhan, TPU 8tx jadi opsi yang relevan. Sementara operator data center yang mengejar efisiensi daya per rak bisa melirik TPU 8i Max, dengan catatan harga dan ketersediaannya belum diumumkan.