Langsung ke konten utama

SK hynix Ungkap Roadmap CPO untuk Mengatasi "Bandwidth Wall" AI

SK hynix Ungkap Roadmap CPO untuk Mengatasi "Bandwidth Wall" AI

"Even if computing chip performance improves, overall system performance cannot increase if data movement between chips fails to keep pace. Moving data with light instead of copper interconnects, which face physical limitations, is the most promising path for scaling." — Professor Kyu Sang Lee, University of Virginia

Featured Snippet Answer: SK hynix mempublikasikan roadmap CPO (Co-Packaged Optics) di jurnal Nature Electronics untuk mengatasi "bandwidth wall" AI. CPO adalah teknologi yang mengintegrasikan optical transceiver dalam paket yang sama dengan prosesor, memungkinkan chip bertukar data melalui cahaya. Target: bandwidth >100 Tb/s per node, energi <1 adalah="" arsitektur="" bit="" dan="" interposer.="" jangka="" latency="" melalui="" memori="" menghubungkan="" ns.="" optical="" optics-centric="" p="" panjang="" pj="" prosesor="" visi="" yang="">

Ringkasan Singkat: SK hynix publikasikan roadmap CPO di Nature Electronics untuk mengatasi "bandwidth wall" AI. Target: 100 Tb/s per node, energi <1 antar="" architecture="" atasi="" bit="" bottleneck="" cahaya.="" cpo="" dalam="" dan="" hbm="" jangka="" latency="" melalui="" memori="" menghubungkan="" ns.="" optics-centric="" p="" paket="" panjang:="" pj="" prosesor="" sistem.="" visi="" yang="">

Pada 20 Agustus 2026, SK hynix mengguncang industri semikonduktor dengan mempublikasikan roadmap teknologi Co-Packaged Optics (CPO) di jurnal ilmiah terkemuka Nature Electronics. Untuk pertama kalinya, perusahaan memori asal Korea Selatan ini memaparkan visi jangka panjangnya untuk mengatasi "bandwidth wall" — hambatan yang kini menjadi tantangan terbesar dalam infrastruktur AI skala besar.

Daftar Isi

Apa Itu "Bandwidth Wall" AI?

Selama bertahun-tahun, industri semikonduktor berfokus pada peningkatan performa komputasi chip AI. Namun, SK hynix dan para peneliti mengungkapkan bahwa ada masalah yang lebih besar: data tidak bisa bergerak secepat chip memprosesnya.

Data menunjukkan ketimpangan yang mengkhawatirkan: performa komputasi hardware meningkat sekitar tiga kali lipat setiap dua tahun, tetapi bandwidth interkoneksi hanya meningkat 1,4 kali lipat dalam periode yang sama. Ketimpangan inilah yang disebut "bandwidth wall."

Kyu Sang Lee, profesor di University of Virginia dan salah satu penulis utama, menjelaskan: "Bahkan jika performa chip komputasi meningkat, performa sistem secara keseluruhan tidak dapat meningkat jika pergerakan data antar chip tidak dapat mengimbangi."

High Bandwidth Memory (HBM) telah berhasil mengatasi bottleneck memori di dalam paket AI accelerator. Namun, ketika cluster AI skala besar menghubungkan ribuan GPU dan HBM, "bandwidth wall" tingkat sistem menjadi tantangan baru yang menghambat ekspansi data center AI.

Apa Itu CPO (Co-Packaged Optics)?

CPO (Co-Packaged Optics) adalah teknologi kemasan generasi berikutnya yang mengintegrasikan chip optik (silicon photonics engines) yang mentransmisikan sinyal menggunakan cahaya dengan chip elektronik berperforma tinggi dalam satu paket yang sama.

Seunghoon Hong, Team Leader AI Infrastructure SK hynix, menjelaskan: "CPO adalah teknologi yang menempatkan optical transceiver (TRx) dan prosesor dalam paket yang sama sehingga chip dapat bertukar data menggunakan cahaya alih-alih interkoneksi listrik jarak jauh."

Dengan kata lain, CPO meminimalkan jarak yang ditempuh sinyal listrik di dalam paket dengan menggunakan optical engine, sementara cahaya yang dibawa melalui serat optik digunakan untuk jarak yang lebih jauh. Ini memungkinkan komunikasi dari chip ke server rack dan pod dengan tetap menjaga bandwidth density tinggi, efisiensi energi, skalabilitas, dan kualitas sinyal yang stabil.

Hong menegaskan: "CPO pada dasarnya mengubah cara data ditransmisikan dalam sistem AI, menghilangkan salah satu hambatan terbesar dalam ekspansi komputasi."

Target Performa CPO Generasi Berikutnya

Dalam paper yang dipublikasikan, tim peneliti menetapkan target performa yang ambisius untuk infrastruktur AI generasi berikutnya:

Metrik Target Nilai
Bandwidth per Node >100 Tb/s
Energi per Bit <1 bit="" pj="" td="">
Latensi Chip-to-Chip <10 ns="" td="">

Ketiga target ini harus dicapai secara bersamaan — meningkatkan bandwidth tanpa meningkatkan konsumsi daya, dan mengurangi latensi tanpa mengorbankan efisiensi energi.

Pencapaian target ini akan memungkinkan AI data center untuk menskalakan lebih jauh tanpa terhambat oleh keterbatasan pergerakan data. Dengan bandwidth 100 Tb/s per node, cluster AI dengan ribuan GPU dapat berkomunikasi hampir tanpa hambatan.

Roadmap Teknologi CPO

Paper ini juga menyusun roadmap teknologi CPO yang jelas, dari kemasan 2D hingga integrasi heterogen 3D:

2D Packaging: Tahap awal di mana komponen optik dan elektronik ditempatkan berdampingan pada substrat yang sama. Ini adalah titik masuk yang paling mudah dicapai secara industri.

2.5D Interposer: Komponen optik dan elektronik ditempatkan pada interposer silikon yang sama, memungkinkan komunikasi dengan bandwidth lebih tinggi dan latensi lebih rendah. Ini adalah langkah menuju integrasi yang lebih erat.

3D Heterogeneous Integration: Tahap paling maju di mana komponen optik dan elektronik ditumpuk secara vertikal, memungkinkan kepadatan koneksi tertinggi dan jarak tempuh sinyal terpendek. Ini adalah visi jangka panjang SK hynix.

Kyu Sang Lee menekankan bahwa tantangan terbesar bukan hanya teknologi, tetapi juga komersialisasi: "Dari integrasi perangkat optik berdaya rendah hingga protokol transmisi sinyal yang menjaga konsistensi data dan teknologi keandalan — masih banyak tantangan yang harus diatasi."

"Kuncinya adalah co-design perangkat memori, controller, perangkat optik, dan kemasan sebagai satu sistem, dan di situlah kolaborasi dengan SK hynix memiliki makna yang signifikan."

Optics-Centric Architecture: Masa Depan AI Infrastructure

Salah satu poin paling visioner dari paper ini adalah proposal arsitektur "optics-centric" yang melampaui CPO saat ini.

Visi jangka panjang SK hynix adalah memperluas konektivitas optik ke antarmuka memori. Tujuannya adalah arsitektur yang berpusat pada optik yang mengatasi keterbatasan spasial kemasan konvensional dengan menghubungkan memori dan prosesor secara langsung melalui optical interposer.

Arsitektur ini akan memungkinkan multiple accelerator untuk berbagi memory pool yang menggabungkan ruang memori besar, memungkinkan pergerakan data tingkat sistem yang lebih fleksibel dan memudahkan akomodasi model AI yang semakin besar.

Dengan kata lain, alih-alih setiap AI accelerator memiliki memori sendiri-sendiri, semua accelerator dapat mengakses memory pool bersama yang besar — secara dramatis meningkatkan efisiensi memori dan fleksibilitas skalabilitas.

Kolaborasi Global dan Makna Strategis

Penelitian ini bukan kerja solo SK hynix. Paper ini melibatkan kolaborasi global dengan universitas-universitas terkemuka:

  • University of Virginia (UVA)
  • University of Illinois Urbana-Champaign (UIUC)
  • Nanyang Technological University (NTU)
  • Massachusetts Institute of Technology (MIT)
  • Yonsei University

Penulis koresponden adalah Seunghoon Hong, Team Leader AI Infrastructure SK hynix, dan Kyu Sang Lee, profesor di University of Virginia.

Ini adalah pertama kalinya SK hynix mempublikasikan roadmap teknologi AI interconnect di jurnal setingkat Nature Electronics, menandai pergeseran strategis perusahaan dari penyedia komponen memori menjadi arsitek sistem AI.

Seunghoon Hong menyatakan: "Perusahaan memori juga berkembang melampaui sekadar memasok produk individual untuk menjadi mitra yang membantu membangun daya saing keseluruhan sistem AI pelanggan."

Implikasi bagi Industri AI Global

Roadmap CPO SK hynix memiliki implikasi besar bagi industri AI global:

1. Beyond HBM: SK hynix tidak lagi hanya menjadi pemasok HBM. Perusahaan memposisikan diri sebagai arsitek sistem AI — dari memori hingga interkoneksi optik.

2. Persaingan dengan Samsung: Paper ini adalah pernyataan strategis. Samsung berfokus pada integrasi foundry dan photonic integrated circuits (PIC), sementara SK hynix memilih jalur CPO dengan arsitektur optics-centric yang menghubungkan memori dan prosesor melalui optical interposer.

3. Mendorong Inovasi: Target 100 Tb/s, <1 adalah="" akan="" baru="" berinovasi="" bit="" cepat.="" dan="" industri="" latensi="" lebih="" mendorong="" ns="" p="" pj="" standar="" untuk="" yang="">

4. Memperluas Ekosistem: Kolaborasi dengan MIT, UIUC, dan universitas terkemuka lainnya menunjukkan bahwa SK hynix serius membangun ekosistem terbuka untuk CPO.

Sebagai catatan, meskipun CPO masih dalam tahap awal industrialisasi, SK hynix menegaskan bahwa teknologi ini akan segera menjadi kunci untuk AI data center masa depan. Seperti yang dikatakan Kyu Sang Lee: "Koneksi optik kemungkinan akan menjadi teknologi konektivitas inti untuk infrastruktur AI, dan teknologi terkait telah melampaui laboratorium dan memasuki tahap awal industrialisasi."

Kutipan Para Ahli

"Even if computing chip performance improves, overall system performance cannot increase if data movement between chips fails to keep pace. Moving data with light instead of copper interconnects, which face physical limitations, is the most promising path for scaling." — Professor Kyu Sang Lee, University of Virginia
"CPO is a technology that places optical transceivers (TRx) and processors in the same package so chips can exchange data using light instead of long electrical interconnects." — Seunghoon Hong, Team Leader AI Infrastructure, SK hynix
"CPO fundamentally changes the way data is transmitted in AI systems, eliminating one of the biggest hurdles to compute expansion." — Seunghoon Hong, Team Leader AI Infrastructure, SK hynix
"Memory companies are also evolving beyond simply supplying individual products to become partners that help build the overall competitiveness of customers' AI systems." — Seunghoon Hong, Team Leader AI Infrastructure, SK hynix

FAQ (Pertanyaan yang Sering Diajukan)

1. Apa itu "bandwidth wall" AI?

"Bandwidth wall" adalah hambatan di mana performa komputasi chip meningkat tiga kali lipat setiap dua tahun, tetapi bandwidth interkoneksi hanya meningkat 1,4 kali lipat. Data tidak bisa bergerak secepat chip memprosesnya, membatasi performa sistem AI secara keseluruhan.

2. Apa itu CPO?

CPO (Co-Packaged Optics) adalah teknologi yang mengintegrasikan optical transceiver dalam paket yang sama dengan prosesor, memungkinkan chip bertukar data melalui cahaya alih-alih kabel tembaga jarak jauh. Ini meningkatkan kecepatan transfer data dan efisiensi energi.

3. Mengapa CPO penting untuk AI?

Cluster AI skala besar dengan ribuan GPU menghadapi bandwidth wall di tingkat sistem. CPO memungkinkan komunikasi antar chip dengan bandwidth sangat tinggi, latensi rendah, dan konsumsi daya minimal — kunci untuk menskalakan AI data center.

4. Apa target performa CPO generasi berikutnya?

Targetnya: bandwidth >100 Tb/s per node, energi <1 bit="" chip-to-chip="" dan="" latensi="" ns.="" p="" pj="">

5. Apa itu arsitektur optics-centric?

Arsitektur optics-centric adalah visi jangka panjang SK hynix di mana memori dan prosesor dihubungkan langsung melalui optical interposer, memungkinkan multiple AI accelerator berbagi memory pool yang sama dan meningkatkan fleksibilitas skalabilitas.

6. Bagaimana roadmap CPO?

Roadmap dimulai dari 2D packaging, kemudian 2.5D interposer, dan akhirnya 3D heterogeneous integration — di mana komponen optik dan elektronik ditumpuk secara vertikal.

7. Siapa mitra SK hynix dalam penelitian ini?

University of Virginia, University of Illinois Urbana-Champaign, Nanyang Technological University, MIT, dan Yonsei University.

8. Apakah CPO sudah siap untuk produksi massal?

Belum sepenuhnya. CPO masih dalam tahap awal industrialisasi dengan berbagai tantangan yang harus diatasi — dari integrasi perangkat optik berdaya rendah hingga standarisasi dan keandalan. Namun, SK hynix menegaskan bahwa teknologi ini akan menjadi kunci untuk AI data center masa depan.

Baca

Sumber dan Referensi

Penutup

Roadmap CPO SK hynix yang dipublikasikan di Nature Electronics adalah langkah berani perusahaan memori Korea Selatan ini. SK hynix tidak lagi hanya menjadi pemasok HBM — mereka memposisikan diri sebagai arsitek sistem AI masa depan.

Dengan target ambisius 100 Tb/s per node, <1 adalah="" ai.="" ai="" arsitektur="" baru="" bit="" cahaya="" cara="" center="" dan="" dapat="" data="" dirancang="" diskalakan.="" hynix="" interkoneksi="" jangka="" latensi="" melalui="" memori="" menetapkan="" menghubungkan="" mengubah="" ns="" optics-centric="" p="" panjang="" pj="" prosesor="" sk="" standar="" untuk="" visi="" yang="">

Seperti yang dikatakan Seunghoon Hong: "Perusahaan memori juga berkembang melampaui sekadar memasok produk individual untuk menjadi mitra yang membantu membangun daya saing keseluruhan sistem AI pelanggan." Dengan roadmap CPO ini, SK hynix membuktikan bahwa mereka serius mengambil peran itu.

Postingan populer dari blog ini

NVLink: Teknologi Interkoneksi GPU NVIDIA untuk Infrastruktur AI

NVLink: Teknologi Interkoneksi GPU NVIDIA untuk Infrastruktur AI "NVLink is a high-speed connection for GPUs and CPUs formed by a robust software protocol, typically riding on multiple pairs of wires printed on a computer board. It lets processors send and receive data from shared pools of memory at lightning speed." — NVIDIA Featured Snippet Answer: NVLink adalah teknologi interkoneksi berkecepatan tinggi milik NVIDIA yang menghubungkan GPU dan CPU dalam sistem akselerasi. Generasi kelima (Blackwell) menawarkan 1,8 TB/s per GPU, sementara generasi keenam (Rubin) mencapai 3,6 TB/s — 14 kali lebih cepat dari PCIe Gen6. NVLink memungkinkan akses memori bersama antar GPU dan komunikasi langsung tanpa CPU, sangat penting untuk pelatihan dan inferensi AI skala besar. Ringkasan Singkat: NVLink adalah teknologi interkoneksi GPU-ke-GPU berkecepatan tinggi dari NVIDIA untuk komunikasi dalam server dan rack. Generasi ke-6 menawarkan 3,6 TB/s per GPU, 14x lebih cepat dari PCI...
Selengkapnya

InfiniBand: Jaringan Berkecepatan Tinggi untuk Infrastruktur AI dan HPC

InfiniBand: Jaringan Berkecepatan Tinggi untuk Infrastruktur AI dan HPC "InfiniBand is a critical component in modern data center networking, because it delivers high throughput with consistently low latency." Featured Snippet Answer: InfiniBand adalah teknologi jaringan berkecepatan tinggi yang dirancang khusus untuk komputasi paralel di superkomputer dan klaster GPU AI. Berbeda dengan Ethernet, InfiniBand memiliki latensi sub-mikrodetik (0,6 mikrodetik), RDMA native untuk transfer data langsung antar memori tanpa CPU, dan efisiensi bandwidth hingga 95%. Generasi terbaru Quantum-X800 menawarkan 800 Gb/s dengan SHARP v4 untuk in-network computing. Ringkasan Singkat: InfiniBand adalah teknologi jaringan berkecepatan tinggi yang dirancang untuk komputasi paralel dengan latensi sub-mikrodetik dan RDMA native. Menjadi standar untuk superkomputer dan klaster GPU AI, InfiniBand menawarkan bandwidth hingga 800 Gb/s, efisiensi 95%, dan manajemen terpusat melalui Subnet Man...
Selengkapnya

Inference AI: Pengertian, Cara Kerja, dan Perbedaannya dengan Training

Inference AI: Pengertian, Cara Kerja, dan Perbedaannya dengan Training "Inference is where AI creates value. Training is where AI learns. Both are essential, but they serve very different purposes."   Featured Snippet Answer: Inference AI adalah tahap di mana model kecerdasan buatan yang sudah dilatih digunakan untuk menghasilkan prediksi atau output dari data baru. Berbeda dengan training yang memakan waktu berhari-hari atau berminggu-minggu, inference terjadi dalam hitungan detik atau milidetik. Inference adalah fase di mana AI memberikan nilai nyata kepada pengguna — menjawab pertanyaan, mengenali gambar, atau membuat rekomendasi. Ringkasan Singkat: Inference AI adalah proses model AI yang sudah dilatih menghasilkan output dari input baru. Berbeda dengan training yang intensif komputasi, inference biasanya lebih cepat dan lebih murah. Inference adalah tahap di mana AI memberikan nilai nyata bagi pengguna — dari chatbot hingga deteksi gambar. Jika training ada...
Selengkapnya