Lewati ke konten
Chip & Komputer

Uji chip kewalahan mengikuti laju beban kerja AI yang berubah cepat

Beban kerja AI berubah lebih cepat daripada siklus desain dan uji chip. Jumlah titik uji bertambah, biaya naik, dan data terfragmentasi antarperusahaan.

Ilustrasi: Piksel (AI)

Perubahan model dan beban kerja kecerdasan buatan (AI) kini terjadi lebih cepat daripada kemampuan industri merancang, memproduksi, dan menguji chip. Laporan Semiconductor Engineering menyoroti bahwa target pengujian, waktu penyisipan uji, serta metode pemantauan pasca-pengiriman menjadi semakin tidak pasti. Situasi ini diperparah oleh bertambahnya titik uji dan penyebaran data yang tersebar di banyak pihak.

Beban kerja yang berubah lebih cepat dari siklus chip

Sejak ledakan AI generatif, jarak antara peluncuran algoritma baru dan saat chip benar-benar beroperasi di lapangan semakin melebar. Laporan di situs yang sama menyebut bahwa dari peluncuran ChatGPT pada November 2022 hingga adopsi luas sistem AI agenik hanya berselang sedikit lebih dari dua tahun. Rentang waktu ini kira-kira sama dengan durasi yang dibutuhkan untuk mendesain, memverifikasi, memvalidasi, dan memasukkan desain chip ke fabrikasi.

Dalam periode tersebut, industri bergeser dari penggunaan kumpulan unit pemroses grafis (GPU) untuk operasi perkalian-akumulasi paralel masif, menuju kombinasi GPU, unit pemroses pusat (CPU), serta akselerator khusus yang dapat diprogram untuk mengoordinasi cara kerja agen. Hierarki optimasi ini terus dievaluasi ulang seiring perubahan beban kerja.

Scott Segura, wakil presiden penjualan di Advantest, mengungkapkan bahwa sejumlah pelanggan kini menyelesaikan produksi chip (tape-out), menjalankan model pada silikon hasilnya, lalu memutuskan tidak membawanya ke pasar. Mereka memilih membuat versi turunan atau berbeda dengan jumlah memori, inti prosesor, cache, dan arsitektur yang diubah. “Bahkan pelanggan kadang salah menebak,” kata Segura. Setelah silikon keluar dan model dijalankan, mereka menemukan model penggunaan telah bergeser, memori kurang, atau biaya terlalu tinggi.

Titik uji bertambah, biaya naik

Semakin banyak prosesor berkinerja tinggi di pusat data dan sebagian di tepi jaringan berupa rakitan multi-die. Desain, produksi, pengemasan, dan perakitan menjadi lebih rumit dan memakan waktu lebih lama. Sementara itu, beban kerja yang ditargetkan sering kali berubah saat chip keluar dari uji akhir.

Pengemasan yang lebih kompleks menuntut lebih banyak titik uji, dan setiap titik menghasilkan lebih banyak data. Segura menjelaskan bahwa pergeseran komponen aktif ke substrat dan jarak antarkomponen yang makin rapat membuat uji fungsional mulai masuk ke pengujian substrat. Sebelumnya, pengujian substrat hanya memastikan kontak listrik. Di tingkat die tunggal, pengujian kinerja harus mengendalikan panas; komponen yang tergolong known good dies (die yang dipastikan baik) mesti mampu menangani beban hingga 3 kilowatt. Silikon fotonik, menurutnya, kini melalui lima titik uji.

Transisi dari wafer bulat ke panel juga akan menuntut peralatan dan proses yang sepenuhnya baru. Dokumen rujukan Semiconductor Engineering tentang memori bandwidth tinggi (HBM) memberikan gambaran biaya yang mendorong pergeseran uji ke tahap hulu. HBM kini menyumbang hampir separuh biaya chip AI. Satu tumpukan memori cacat yang baru ditemukan di uji akhir merupakan kegagalan yang sangat mahal, sehingga fokus pada known good stacks (tumpukan yang dipastikan baik) meningkat.

Tes pada tingkat wafer dan die bertumpuk mencakup beberapa titik penyisipan, termasuk burn-in wafer, uji panas dan dingin, serta perbaikan. Teradyne menyebut alur uji bertumpuk standar saat ini lebih hemat biaya dan menghindari penyelidikan struktur yang rumit, meski pengujian die bertumpuk tunggal mulai diminati seiring kekhawatiran integrator terhadap hasil akhir paket.

Data terfragmentasi antar-lokasi dan perusahaan

Jeorge Hutarte, direktur senior pemasaran produk di grup Semiconductor Test Teradyne, menjelaskan bahwa titik uji biasanya dilakukan di lokasi berbeda. Uji wafer dan probe die tunggal dapat dilakukan di pabrik semikonduktor (fab) dengan alur pengumpulan data dan program uji sendiri. Tahap berikutnya, yaitu perakitan die komputasi dengan tumpukan HBM dan chiplet lain ke interposer, kemungkinan dilakukan oleh perusahaan outsourced semiconductor assembly and test (OSAT) dengan program uji dan lingkungan data yang berbeda.

Lingkungan data tersebut belum tentu terhubung dengan data titik uji sebelumnya. “Di dunia fabless, orang tidak berbagi data kecuali pelanggan memiliki semuanya,” kata Hutarte.

Jim Schiely, chief of staff Calibre Semiconductor R&D di Siemens EDA, menambahkan bahwa alat yang lebih banyak menghasilkan data yang lebih kaya, termasuk banyak gambar. Pelanggan membangun sistem lokal untuk mengelola revisi dan konteks karena model data tidak boleh mengambang tanpa diketahui asal-usulnya. Hambatannya bukan hanya teknis, tetapi juga menyangkut hubungan antarentitas yang mengendalikan data.

Dokumen rujukan lain dari Semiconductor Engineering memperkuat gambaran fragmentasi ini. Aziz Safa, wakil presiden Intel Foundry Automation, menyebut Intel memiliki 600 petabyte data, dan tantangannya adalah menjalankan algoritma pada area yang membutuhkan data tersebut. Mike Campbell, Chief Supply Chain Officer Qualcomm, mengutip kenaikan enam kali lipat volume data sejak 2022 akibat kompleksitas paket lanjutan. Menurut sejumlah perkiraan, kurang dari 5% data manufaktur yang terkumpul benar-benar dipakai dalam analitik.

Mulai dijajal: AI untuk menjembatani silo

Schiely melihat AI sebagai salah satu jalan keluar. Menunggu semua pihak menyepakati format data akan memakan waktu lama, tetapi benang digital informasi dapat diubah menjadi model atau representasi dengan bantuan alat AI, bahkan ketika departemen lain memakai model data yang sedikit berbeda. “Masalah lama semacam itu bisa mulai larut,” katanya.

Pendekatan lain datang dari penyedia platform data. PDF Solutions menawarkan arsitektur data paralel dan terdistribusi yang memindahkan komputasi ke data, bukan data ke klien. Pendekatan ini mengklaim peningkatan kinerja sekitar 25 kali pada program uji besar dan kemampuan menangani satu juta item uji atau lebih. Perusahaan itu juga mengumumkan Exensio StudioAI, yang menggabungkan Tiber AI Studio dengan Exensio ModelOps, termasuk registri model untuk ketertelusuran siklus hidup dan asal data pelatihan. Lapisan semantik khusus semikonduktor dipakai agar model bahasa besar dapat memahami hubungan antara data hasil, desain, proses, dan peralatan.

Apa berikutnya

Tantangan berikutnya adalah menjaga keandalan dan memantau penuaan chip yang kian mahal. Pelanggan mendorong perpanjangan masa pakai perangkat AI, sehingga pemantauan di lapangan menjadi sama pentingnya dengan uji di pabrik. Namun, belum ada tanda bahwa industri akan menyeragamkan format data atau membagi data lintas perusahaan dalam waktu dekat. Selama hal itu belum terjadi, titik uji akan terus bertambah dan biaya uji akan mengikuti.

#uji chip#beban kerja ai#semikonduktor#hbm#data manufaktur

Terkait