Google luncurkan dua TPU baru untuk inferensi rahasia dan konteks besar
Google memperluas portofolio TPU generasi kedelapan dengan TPU 8tx untuk keamanan data sensitif dan TPU 8i Max untuk pemrosesan jendela konteks raksasa, menanggapi kebutuhan agen AI dan perusahaan teregulasi.
Google meluncurkan dua varian baru dari unit pemroses tensor (TPU) generasinya yang kedelapan: TPU 8tx dan TPU 8i Max. Pengumuman ini menandai kali pertama perusahaan memperkenalkan empat sistem TPU berbeda dalam satu tahun, melengkapi TPU 8t untuk pelatihan dan TPU 8i untuk inferensi yang dirilis sebelumnya pada April 2026.
Langkah ini merupakan bagian dari strategi Google untuk mengurangi ketergantungan pada chip pihak ketiga sekaligus menjawab permintaan spesifik dari pelanggan korporat dan pemerintah akan keamanan tingkat perangkat keras serta kapasitas memori yang lebih besar untuk model kecerdasan buatan (AI) yang kompleks.
Keamanan tingkat perangkat keras dengan TPU 8tx
TPU 8tx dirancang khusus untuk inferensi rahasia (confidential inference) dan pelatihan skala kecil. Chip ini dibangun di atas silikon yang sama dengan TPU 8t namun dipadukan dengan prosesor host AMD EPYC generasi kelima.
Dalam operasi komputasi standar, data biasanya dienkripsi saat disimpan atau dikirim melalui jaringan, tetapi harus dibuka kuncinya di memori saat diproses. Google menyatakan bahwa TPU 8tx membangun keamanan langsung di lapisan perangkat keras. Hal ini menjaga data sensitif dan bobot model tetap terlindungi serta terisolasi bahkan saat sedang digunakan secara aktif.
Menurut laporan TechCrunch, chip ini juga dilengkapi jaringan inferensi khusus yang memungkinkan penalaran berjalan bersamaan dengan pelatihan. Kemampuan ini berguna untuk menyuling (distillation) dan melatih model kecil secara langsung tanpa perlu memindahkan data proprietary antar perangkat, sebuah fitur krusial bagi perusahaan dengan regulasi ketat.
Menembus batas memori dengan TPU 8i Max
Sementara itu, TPU 8i Max mengintegrasikan dua chip TPU 8i berfokus inferensi ke dalam satu paket tunggal. Konfigurasi ini menggandakan kapasitas memori, daya proses, dan bandwidth dibandingkan pendahulunya.
Tujuan utamanya adalah menangani jendela konteks raksasa (massive context windows). Dalam istilah AI, konteks merujuk pada jumlah informasi atau teks yang dapat dipertimbangkan model sekaligus saat merespons permintaan. Dengan meningkatnya penggunaan agen otonom yang harus bernalar melintasi dokumen sangat panjang, kebutuhan akan memori besar menjadi mendesak.
Google mengklaim pendekatan sistem modular ini memungkinkan mereka menghadirkan superkomputer khusus dalam hitungan bulan, bukan tahun, karena mereka dapat menyesuaikan pengemasan, memori, dan jaringan optik di sekitar chip dasar tanpa menunggu siklus manufaktur silikon yang panjang.
Persaingan dengan Nvidia dan ketersediaan
Peluncuran ini terjadi di tengah upaya berbagai raksasa teknologi seperti Microsoft dan Amazon, serta laboratorium AI seperti OpenAI, untuk mengembangkan semikonduktor khusus guna mengurangi dominasi Nvidia di pasar infrastruktur AI.
Meski demikian, Google masih mempertahankan kerja sama dengan Nvidia. Perusahaan sebelumnya menyatakan akan menyediakan chip terbaru Nvidia di layanannya dan bekerja sama dalam rekayasa jaringan data center. Bisnis TPU Google sendiri dilaporkan telah tumbuh dengan hampir 100 pelanggan, termasuk firma perdagangan, peritel, dan universitas.
Hingga saat ini, Google belum mengumumkan tanggal ketersediaan umum maupun harga rinci untuk TPU 8tx dan TPU 8i Max. Perusahaan mengarahkan pelanggan potensial ke situs Google Cloud untuk informasi lebih lanjut mengenai integrasi sistem ini ke dalam infrastruktur mereka.