Dataset LLM-PowerTrace rekam daya GPU AI tiap 100 milidetik
Peneliti merilis LLM-PowerTrace, dataset terbuka jejak daya per GPU tiap 100 ms untuk pelatihan lanjutan dan inferensi LLM, guna membantu pemodelan beban AI bagi pusat data dan jaringan listrik.
Sembilan peneliti memperkenalkan LLM-PowerTrace, dataset terbuka berisi jejak daya GPU yang diukur tiap 100 milidetik saat model bahasa besar (LLM) disetel lanjut dan dijalankan untuk inferensi. Makalahnya diunggah ke arXiv pada 28 Oktober 2026 dan berstatus masih dalam pengajuan.
Data direkam per GPU pada berbagai platform NVIDIA dan dipasangkan dengan metadata lengkap tentang beban kerja dan sistem. Tujuannya membantu pemodelan, peramalan, dan pengelolaan perilaku listrik komputasi AI.
Apa isi dataset ini
Menurut versi HTML makalah, dataset memuat 1.788 proses fine-tuning (penyetelan lanjutan model) dan 405 proses serving (penyajian) penuh. Tiap proses disertai telemetri daya per GPU tiap 100 ms, konfigurasi lengkap, dan peristiwa eksekusi yang diberi stempel waktu.
Untuk fine-tuning, penulis merekam sejumlah keluarga model terbuka dengan rentang ukuran dan metode penyetelan yang luas. Eksperimen disusun sebagai sapuan terkendali atas ukuran batch, panjang urutan, presisi numerik, paralelisme, dan checkpointing (penyimpanan titik pemulihan).
Untuk inferensi, cakupannya meliputi jumlah permintaan serentak, frekuensi GPU, kuantisasi KV-cache dan bobot model, panjang prompt dan keluaran, serta pola kedatangan permintaan.
Mengapa fluktuasi jangka pendek penting
Pengukuran energi model AI selama ini umumnya berhenti pada angka agregat, misalnya joule per token, dan jarang merilis data deret waktu mentahnya. Padahal menurut penulis, dampak beban AI pada infrastruktur pusat data dan jaringan listrik juga bergantung pada pergerakan daya dalam skala subdetik hingga menit: puncak, kenaikan bertahap (ramp), dan fluktuasi yang tersinkron di banyak akselerator.
Makalah menyebut beban dengan energi total rendah tetap bisa menimbulkan masalah operasional lewat puncak tinggi, kenaikan curam, atau fluktuasi tak terkendali. Dampaknya menyentuh feeder, transformator, unit distribusi dan cadangan daya di pusat data, serta layanan sistem tenaga seperti regulasi frekuensi dan kapasitas ramp.
Sebagai ilustrasi, makalah merujuk laporan North American Electric Reliability Corporation (NERC) 2025: pada Juli 2024 sekitar 1.500 MW beban pusat data di Virginia Utara terputus hampir bersamaan setelah satu gangguan di sistem transmisi.
Pola utama yang dirumuskan
Abstrak menyebut puncak daya, ramp, dan fluktuasi tersinkron antarakselerator sebagai dinamika yang belum banyak terkarakterisasi. Abstrak tidak merinci besaran lonjakan atau penurunan daya dalam watt maupun persen.
Di atas jejak daya, penulis mendefinisikan metrik yang berorientasi pada jaringan listrik serta scaling law (hukum skala) daya dan energi untuk memperkirakan perilaku di luar konfigurasi yang diukur. Pendekatan ini relevan karena tidak semua kombinasi model dan perangkat dapat diuji langsung.
Penyusun dan akses
Makalah ditulis Jiansheng Wang, Jaskeerat Singh, Haochen Xu, Xinyi Li, Mingyuan Yan, Shaohui Liu, Yuzhuo Li, Yize Chen, dan Wenqi Cui. Yize Chen tercatat sebagai pengirim versi pertama di arXiv.
Kode dan dataset tersedia lewat situs pendamping bernama training-power-trace-explorer, yang memuat penjelajah interaktif. Penulis juga merilis kode perhitungan metrik dan alur validasi yang mendukung perluasan dataset oleh komunitas setelah ditinjau. Makalah tidak memuat rincian lisensi pada bagian yang dikutip di sini.
Keterbatasan
Makalah masih berstatus in submission sehingga belum melewati tinjauan sejawat. Cakupan perangkat keras terbatas pada platform NVIDIA, dan abstrak tidak merinci daftar GPU yang digunakan.
Pengukuran dilakukan per GPU, bukan pada tingkat fasilitas pusat data. Penulis menempatkan dataset ini sebagai fondasi pemodelan beban AI, bukan jawaban akhir.