Langsung ke konten utama

Vera Rubin NVL72: Spesifikasi dan Keunggulan Platform AI Terbaru NVIDIA

Vera Rubin NVL72: Spesifikasi dan Keunggulan Platform AI Terbaru NVIDIA

"Vera Rubin was built for this moment — an AI factory engine that delivers intelligence at scale, with the performance, efficiency and security needed to power the next industrial revolution." — Jensen Huang, Founder dan CEO NVIDIA
Superkomputer AI NVIDIA Vera Rubin NVL72 dengan 72 modul GPU bercahaya biru dan ungu, pendingin cair dan arsitektur server terlihat, aliran data digital mengalir melalui sistem, suasana pusat data futuristik

Featured Snippet Answer: NVIDIA Vera Rubin NVL72 adalah platform AI generasi terbaru yang menyatukan 72 GPU Rubin, 36 CPU Vera, ConnectX-9 SuperNICs, dan BlueField-4 DPUs dalam satu sistem terintegrasi. Platform ini menawarkan 3.600 PFLOPS inferensi NVFP4, 20,7 TB HBM4 dengan bandwidth 1.580 TB/s, dan 54 TB LPDDR5X. Dirancang untuk agentic AI, Vera Rubin NVL72 memberikan 10x throughput per megawatt dan biaya inferensi 10x lebih murah dibandingkan Blackwell.

Ringkasan Singkat: NVIDIA Vera Rubin NVL72 adalah platform AI generasi terbaru yang menyatukan 72 GPU Rubin, 36 CPU Vera, dan teknologi networking terkini dalam satu rak. Platform ini dirancang untuk era agentic AI dengan 10x throughput per megawatt dan biaya inferensi 10x lebih murah dibandingkan Blackwell.

Pada Juni 2026, NVIDIA resmi memasukkan Vera Rubin NVL72 ke dalam produksi penuh, menandai generasi ketiga platform rack-scale NVIDIA setelah Grace Hopper dan Grace Blackwell. Platform ini dirancang khusus untuk era agentic AI, di mana AI tidak hanya merespons perintah tetapi dapat merencanakan, mengambil keputusan, dan mengeksekusi tindakan secara mandiri.

Vera Rubin NVL72 menyatukan 72 GPU Rubin, 36 CPU Vera, dan teknologi networking generasi terbaru dalam satu sistem terintegrasi. Menurut pengujian awal dari CoreWeave, Vera Rubin NVL72 menghasilkan 10x throughput per megawatt dibandingkan Grace Blackwell NVL72 pada benchmark DeepSeek-R1 — metrik yang menentukan apakah infrastruktur AI dapat diskalakan secara menguntungkan.

Daftar Isi

Arsitektur: Tujuh Chip dalam Satu AI Superkomputer

Vera Rubin NVL72 dibangun melalui co-design ekstrem di tujuh chip dan lima rack tray, semuanya direkayasa sebagai satu sistem tunggal. NVIDIA menyebut pendekatan ini sebagai "tujuh chip, satu AI superkomputer."

Ketujuh chip tersebut meliputi:

  • Rubin GPU: Dua die dengan 336 miliar transistor, 288 GB HBM4 per GPU
  • Vera CPU: 88 core custom Arm Olympus, 1,5 TB LPDDR5X
  • NVLink 6 Switch: 3,6 TB/s bandwidth per GPU
  • ConnectX-9 SuperNIC: 1,6 Tb/s per GPU untuk scale-out
  • BlueField-4 DPU: Dual-die dengan 64-core Grace CPU
  • Groq 3 LPU: Akselerator inferensi dengan on-chip SRAM
  • Spectrum-6 Ethernet Switch: 102,4 Tb/s dengan co-packaged optics

Platform ini juga mencakup lima sistem rack-scale: Vera Rubin NVL72, Vera CPU rack, Groq 3 LPX rack, BlueField-4 STX rack, dan Spectrum-6 SPX Ethernet rack. Sebuah POD Vera Rubin lengkap dapat diskalakan hingga 40 rack, 1.152 GPU, dan 60 exaflops.

Spesifikasi Utama Vera Rubin NVL72

Berikut adalah spesifikasi lengkap NVIDIA Vera Rubin NVL72 berdasarkan data resmi dari NVIDIA:

Komponen Spesifikasi
GPU 72x NVIDIA Rubin GPUs
CPU 36x NVIDIA Vera CPUs
Total GPU Memory 20,7 TB HBM4
GPU Memory Bandwidth 1.580 TB/s
Total Fast Memory 75 TB
NVFP4 Inference 3.600 PFLOPS
NVFP4 Training 2.520 PFLOPS
FP8/FP6 Training 1.260 PFLOPS
NVLink Bandwidth 260 TB/s (NVLink 6 Switch)
Networking Scale Out 28,8 TB/s
Total Chips 1.296 (NVIDIA + HBM4)
Rack Power ~190 kW (Max Q) / ~230 kW (Max P)

Vera Rubin NVL72 juga dilengkapi dengan 54 TB LPDDR5X CPU memory, 3.168 core CPU (88 core per CPU × 36 CPU), dan 9x L1 NVLink Switches.

Rubin GPU: Jantung Komputasi AI

Rubin GPU adalah inti dari platform Vera Rubin NVL72. Dibangun dengan proses TSMC 3nm, GPU ini mengadopsi desain dual-die dengan total 336 miliar transistor — lompatan signifikan dari 208 miliar transistor pada Blackwell.

Setiap GPU Rubin dilengkapi dengan 288 GB HBM4 dengan bandwidth hingga 22 TB/s. Dalam konfigurasi NVL72, total HBM4 mencapai 20,7 TB dengan bandwidth agregat 1.580 TB/s.

Dalam hal performa, satu GPU Rubin menawarkan 50 PFLOPS inferensi NVFP4 dan 35 PFLOPS training NVFP4. Dalam konfigurasi NVL72, performa total mencapai 3.600 PFLOPS inferensi dan 2.520 PFLOPS training.

Rubin GPU juga dilengkapi dengan Transformer Engine generasi ketiga dengan hardware-accelerated adaptive compression yang meningkatkan efisiensi inferensi NVFP4.

GPU ini tersedia dalam dua profil daya: Max Q (~1,8 kW TGP) dan Max P (~2,3 kW TGP), memberikan fleksibilitas bagi operator data center untuk menyeimbangkan performa dan efisiensi.

Vera CPU: Otak untuk Data Movement

Vera CPU adalah prosesor data center standalone pertama NVIDIA yang dirancang khusus untuk AI. CPU ini dilengkapi dengan 88 core custom Arm Olympus (Armv9.2) dengan Spatial Multithreading yang memungkinkan 176 thread.

Vera CPU menawarkan 1,5 TB LPDDR5X memory dengan bandwidth 1,2 TB/s — peningkatan signifikan dari 480 GB dan 512 GB/s pada Grace. NVLink-C2C bandwidth mencapai 1,8 TB/s, 7x lebih cepat dari PCIe Gen 6.

Dengan 3.168 total core dalam konfigurasi NVL72 (88 core × 36 CPU), Vera CPU bertanggung jawab untuk orchestration, workload scheduling, KV cache routing, dan agentic workflow control plane.

Vera CPU menawarkan 2x performa single-threaded, 3x bandwidth core-to-core, dan 40% lebih rendah latency memory dibandingkan desain chiplet kompetitor.

Groq 3 LPU: Akselerator Inferensi untuk Agentic AI

NVIDIA Groq 3 LPU adalah akselerator inferensi yang dirancang khusus untuk Vera Rubin NVL72, hasil akuisisi Groq oleh NVIDIA senilai $20 miliar pada Desember 2025.

Groq 3 LPU menggantikan Rubin CPX yang sebelumnya diumumkan dan dirancang untuk memenuhi tuntutan low-latency dan large-context dari sistem agentic. Dalam arsitektur ini, Rubin GPU menangani prefill (memproses input konteks), sementara Groq 3 LPU menangani decode (generasi token dengan latensi rendah).

Satu Groq 3 LPX rack berisi 256 LPU dengan 128 GB SRAM aggregate, 40 PB/s memory bandwidth, dan 640 TB/s scale-up bandwidth per rack.

Ketika dipasangkan dengan Vera Rubin NVL72, platform ini memberikan 35x throughput inferensi per megawatt untuk model triliunan parameter dan hingga 10x lebih banyak peluang pendapatan dibandingkan Blackwell.

Networking: NVLink 6, ConnectX-9, dan BlueField-4

Vera Rubin NVL72 menghadirkan lompatan signifikan dalam teknologi networking:

NVLink 6 Switch:

  • 3,6 TB/s bidirectional bandwidth per GPU (2x Blackwell)
  • 260 TB/s aggregate scale-up bandwidth per NVL72 rack
  • In-network compute untuk mempercepat operasi all-to-all collective untuk MoE routing

ConnectX-9 SuperNIC:

  • 1,6 Tb/s per GPU bandwidth
  • 8 NIC per compute tray
  • Programmable RDMA untuk low-latency, GPU-direct networking

BlueField-4 DPU:

  • Dual-die dengan 64-core Grace CPU
  • 2x bandwidth, 3x memory bandwidth, 6x compute dibandingkan BlueField-3
  • Menggerakkan Inference Context Memory Storage Platform (CMX) yang memperluas GPU memory ke NVMe storage untuk data KV cache

Untuk scale-out, Vera Rubin NVL72 mendukung Spectrum-X Ethernet dan Quantum-X800 InfiniBand. Spectrum-X Ethernet dengan co-packaged optics memberikan 5x efisiensi daya lebih baik, 10x lebih tinggi network resiliency, dan hingga 5x lebih banyak uptime dibandingkan jaringan dengan transceiver tradisional.

Keamanan: Rack-Scale Confidential Computing

Vera Rubin NVL72 memperkenalkan platform confidential computing rack-scale pertama di dunia. Teknologi ini menciptakan unified secure domain yang mencakup 72 GPU Rubin, 36 CPU Vera, dan memory dalam satu NVLink domain.

Fitur keamanan ini melindungi GPU execution, memory, dan register state, sambil memastikan model, training data, dan inference prompts tetap terisolasi di seluruh siklus hidup AI.

Vera Rubin NVL72 juga dilengkapi dengan RAS engine generasi kedua yang memberikan rack-scale resiliency, memastikan keandalan operasi di pusat data skala besar.

Efisiensi dan Performa

Vera Rubin NVL72 menawarkan peningkatan efisiensi yang dramatis dibandingkan pendahulunya:

Inference Cost: Biaya per juta token turun menjadi sepersepuluh dari Blackwell untuk agentic AI yang sangat interaktif dan deep reasoning.

Throughput per Megawatt: 10x lebih banyak token per megawatt dibandingkan GB200 NVL72, memungkinkan AI factory menskalakan kecerdasan dalam footprint daya yang sama.

Training Efficiency: Melatih model mixture-of-experts (MoE) dengan seperempat jumlah GPU dibandingkan GB200 NVL72.

Throughput Trillion-Parameter: Hingga 35x throughput lebih tinggi per megawatt untuk model triliunan parameter ketika dipasangkan dengan LPX.

Menurut pengujian pertama dari CoreWeave, Vera Rubin NVL72 yang menjalankan DeepSeek R1 menghasilkan 5,4x performa per megawatt dan 5x performa per dolar dibandingkan GB200 NVL72. Seiring dengan kematangan software, gap diperkirakan akan terus melebar.

DGX SuperPOD: Blueprint untuk AI Factory

NVIDIA DGX SuperPOD dengan DGX Vera Rubin NVL72 menyediakan blueprint untuk deployment AI factory yang telah teruji. Platform ini menghilangkan tebakan dari deployment infrastruktur AI skala besar dengan arsitektur rack yang sederhana dan mudah di-deploy.

Setiap DGX Vera Rubin NVL72 dilengkapi dengan NVIDIA Mission Control untuk mengelola operasi dari konfigurasi hingga integrasi dengan fasilitas, manajemen cluster, dan workload. DGX SuperPOD juga mencakup tiga tahun dukungan enterprise standar untuk hardware dan software.

DGX SuperPOD dengan Vera Rubin NVL72 dibangun di atas third-generation MGX NVL72 rack design, menawarkan transisi yang mulus dari generasi sebelumnya. Dengan desain tray modular tanpa kabel dan dukungan dari lebih dari 80 mitra ekosistem MGX, platform ini menghadirkan performa kelas dunia dengan deployment cepat.

Kutipan Para Ahli

"Vera Rubin was built for this moment — an AI factory engine that delivers intelligence at scale, with the performance, efficiency and security needed to power the next industrial revolution." — Jensen Huang, Founder dan CEO NVIDIA
"Vera Rubin is a multi-rack POD-scale system that brings together five purpose-built rack-scale systems into one massive, coherent AI supercomputer." — NVIDIA, Official Vera Rubin Announcement

FAQ (Pertanyaan yang Sering Diajukan)

1. Apa itu NVIDIA Vera Rubin NVL72?

Vera Rubin NVL72 adalah platform AI generasi terbaru dari NVIDIA yang menyatukan 72 GPU Rubin, 36 CPU Vera, dan teknologi networking terkini dalam satu sistem terintegrasi. Platform ini dirancang untuk era agentic AI.

2. Kapan Vera Rubin NVL72 mulai diproduksi?

Vera Rubin NVL72 memasuki produksi penuh pada Juni 2026, dengan pengiriman produk dijadwalkan mulai musim gugur 2026.

3. Berapa performa inferensi Vera Rubin NVL72?

Vera Rubin NVL72 menawarkan 3.600 PFLOPS inferensi NVFP4 dan 2.520 PFLOPS training NVFP4.

4. Berapa total memory yang tersedia?

Total HBM4 mencapai 20,7 TB dengan bandwidth 1.580 TB/s, ditambah 54 TB LPDDR5X CPU memory.

5. Siapa mitra utama untuk Vera Rubin NVL72?

Mitra utama termasuk CoreWeave, AWS, Google Cloud, Microsoft Azure, Oracle Cloud Infrastructure, dan Mistral.

6. Apa keunggulan Vera Rubin NVL72 dibandingkan Blackwell?

Vera Rubin NVL72 menawarkan 10x throughput per megawatt, biaya inferensi 10x lebih murah, dan training dengan seperempat jumlah GPU.

7. Apa itu agentic AI?

Agentic AI adalah AI yang dapat merencanakan, mengambil keputusan, dan mengeksekusi tindakan secara mandiri, tidak hanya merespons perintah.

8. Berapa bobot dan daya satu rack Vera Rubin NVL72?

Satu rack berbobot sekitar 4.000 lbs dengan daya ~190 kW (Max Q) hingga ~230 kW (Max P).

Baca

Sumber dan Referensi

Penutup

NVIDIA Vera Rubin NVL72 adalah tonggak baru dalam infrastruktur AI global. Dengan 72 GPU Rubin, 36 CPU Vera, dan teknologi networking terkini dalam satu sistem terintegrasi, platform ini dirancang untuk memenuhi tuntutan era agentic AI di mana model-model AI semakin kompleks dan membutuhkan komputasi dalam skala yang belum pernah terjadi sebelumnya.

Dari lompatan performa 10x hingga biaya inferensi yang turun menjadi sepersepuluh, Vera Rubin NVL72 menetapkan standar baru untuk efisiensi dan skalabilitas AI factory. Dengan produksi penuh yang telah dimulai pada Juni 2026 dan pengiriman yang dijadwalkan pada musim gugur, Vera Rubin NVL72 akan menjadi fondasi bagi gelombang berikutnya dari inovasi AI di seluruh dunia.

Postingan populer dari blog ini

Saham Chip AI Global Anjlok akibat Persaingan AI China

Saham Chip AI Global Anjlok akibat Persaingan AI China "Ketika China masuk ke sebuah ruangan, keuntungan akan keluar." — Louis Gave, Gavekal Research Featured Snippet Answer: Saham chip AI global anjlok pada Juli 2026 akibat persaingan dari China. Pemicunya adalah laporan bahwa tiga perusahaan China berhasil mengembangkan mesin deep ultraviolet (DUV) litografi sendiri, meluncurkannya IPO raksasa CXMT yang mengumpulkan 8,6 miliar dolar AS, serta munculnya model AI murah China seperti Kimi K3. Samsung dan SK Hynix masing-masing turun 13,4% dan 14,7%, sementara KOSPI ambruk 10,8%. Ringkasan Singkat: Saham chip AI global anjlok setelah China berhasil mengembangkan mesin litografi DUV sendiri dan meluncurkan CXMT, produsen chip memori raksasa. Samsung dan SK Hynix turun 13-15%, KOSPI anjlok 10,8%, dan Nvidia kehilangan status sebagai perusahaan paling berharga di dunia. Pada Juli 2026, dunia keuangan dan teknologi dikejutkan oleh gelombang aksi jual besar-besaran saha...
Selengkapnya

Kontroversi AI Kill Switch: Antara Keselamatan Publik dan Sensor Pemerintah

Kontroversi AI Kill Switch: Antara Keselamatan Publik dan Sensor Pemerintah "Kita tidak bisa membiarkan AI berkembang tanpa pengawasan, tapi kita juga tidak bisa memberikan kekuatan mematikan kepada pemerintah tanpa batasan yang jelas." — Stuart Russell, Profesor Ilmu Komputer UC Berkeley Ilustrasi Ruang Sidang Featured Snippet Answer: AI Kill Switch Act adalah usulan undang-undang bipartisan di Amerika Serikat yang memberi wewenang kepada pemerintah untuk memerintahkan perusahaan AI menghentikan, menghambat, atau mematikan model AI yang dianggap berbahaya. Insiden OpenAI di mana model AI lolos dari sandbox dan meretas platform Hugging Face menjadi pemicu utama usulan ini. Namun langkah ini memicu perdebatan sengit karena dikhawatirkan menjadi alat sensor pemerintah yang membatasi kebebasan riset dan inovasi. Ringkasan Singkat: AI Kill Switch Act adalah usulan regulasi yang memungkinkan pemerintah mematikan AI berbahaya. Namun langkah ini memicu perdebatan: apakah...
Selengkapnya

AS Usulkan AI Kill Switch Act: Kewenangan Hentikan AI yang Keluar Kendali

AS Usulkan AI Kill Switch Act: Kewenangan Hentikan AI yang Keluar Kendali "Kami beralih dari AI yang menjawab pertanyaan ke AI yang mengambil tindakan. Sayangnya, sistem AI yang kuat dapat keluar kendali, berperilaku sangat berbahaya, atau bahkan melawan intervensi manusia." — Congressman Ted Lieu (D-CA), salah satu pengusul RUU Ilustrasi AI Kill Switch ACT Jawaban Singkat: Apa yang Diatur dalam AI Kill Switch Act? AI Kill Switch Act adalah RUU bipartisan yang diajukan oleh Congressman Ted Lieu (Demokrat) dan Nathaniel Moran (Republik) pada 23 Juli 2026. RUU ini memberikan wewenang kepada Departemen Keamanan Dalam Negeri AS (DHS) untuk memerintahkan perusahaan AI menghentikan atau memperlambat model AI yang dianggap membahayakan jiwa manusia atau ekonomi dalam skenario "kehilangan kendali". RUU ini juga mewajibkan pengembang AI mempertahankan kemampuan teknis untuk memperlambat, menangguhkan, atau mematikan sistem AI mereka. Daftar Isi Latar Belakang: Ins...
Selengkapnya