Marvell Perkenalkan Modul Memori Optik 32TB…
Pengenalan Produk
Marvell secara resmi memperkenalkan Photonic Fabric Memory Module, modul memori pertama yang diklaim sebagai memori berkapasitas tinggi dengan pita lebar yang dilengkapi interkoneksi optik. Appliance ini menggabungkan 16 modul untuk membagi 32TB DDR5 dan 1.152GB HBM3e kepada hingga 16 host melalui serat optik. Setiap modul memadukan 72GB HBM3e, delapan slot DDR5 DIMM yang mampu menampung hingga 256GB per slot sehingga mencapai 2TB per modul, serta ASIC Photonic Fabric dan optical I/O 7,2Tbps. Target customer sampling ditetapkan pada tahun 2027 dan hingga saat ini belum ada silikon berfungsi yang telah dikirim. Pengumuman tersebut disampaikan Marvell melalui video di platform X beserta wawancara theCUBE yang direkam seputar Investor Day pada 6 Oktober.
Konsep dan Arsitektur
Konsep dasarnya cukup sederhana, yaitu mengganti tembaga dengan cahaya agar puluhan terabyte memori dapat ditempatkan di kotak terpisah, berjarak beberapa rak, dan dipakai bersama oleh banyak prosesor sekaligus. Hal ini berpotensi melahirkan memori komunal atau shared memory secara luas di server AI. Angka 32TB bukan milik satu modul melainkan milik appliance yang menyatukan 16 modul dan membagi pool memori ke hingga 16 host, yang bisa berupa server utuh atau akselerator individual. Dengan 16 modul yang dihubungkan oleh passive all-to-all fiber shuffle alih-alih switch elektrik, totalnya menjadi 32TB DDR5 ditambah 1.152GB HBM3e yang oleh Marvell dibulatkan menjadi sekitar 1TB dan dijalankan sebagai write-through cache lebih cepat di depan DRAM.
Target Beban Kerja dan Argumen CAPEX
Beban kerja sasaran adalah KV cache, memori kerja yang disimpan model bahasa besar untuk setiap percakapan dan membengkak pada konteks panjang serta sesi agentic. Ravi Mahatme, yang memimpin manajemen produk unit Photonic Fabric, menyebut manfaat terbesar dari tier bersama adalah cross-node KV cache, yang memungkinkan satu akselerator menggunakan kembali konteks yang sudah dihitung akselerator lain. Will Chu, EVP Custom Cloud Solutions Marvell, menyampaikan dalam pengumuman FMS perusahaan bahwa seiring AI berskala besar, memori harus berkembang secara lebih independen dari compute.
Argumen CAPEX berakar pada gagasan bahwa jika operator dapat membeli memori terpisah dari akselerator, mereka tidak perlu membeli GPU hanya untuk mendapatkan kapasitas. Namun Marvell belum memberikan angka biaya pastinya. Blog perusahaan Mei 2026 membahas biaya memori per gigabyte lebih rendah dan biaya inferensi lebih rendah tanpa angka, sementara slide konferensi Celestial AI 2025 menjanjikan manfaat di luar pengurangan TCO tanpa data pendukung. Waktu peluncuran juga dianggap kurang ideal karena pendekatan ini membutuhkan 128 slot DIMM yang bergantung pada DDR5 yang tengah dilanda krisis memori, di mana harga server RDIMM naik lebih cepat daripada memori konsumen dan kini berada sekitar 5,5 kali harga sebelum krisis di Amerika Serikat.
Korelasian dengan Kompetitor
Desain appliance-nya pun bukan hal sepenuhnya baru. Celestial AI mempresentasikan arsitektur serupa dengan 16 modul berisi 32TB DDR dan sekitar 1TB HBM di Hot Interconnects Agustus 2025, dan TechRadar pernah membahas pendekatan DDR5-plus-HBM ini pada 2024. Yang berubah kini adalah label Marvell, modul fisik, dan tanggal sampling.
Nvidia sudah mengantisipasi hal ini sejak lama, baik sebagai investor maupun pionir. Pada Maret 2026, Nvidia menginvestasikan US$2 miliar di Marvell dalam kesepakatan yang mencakup NVLink Fusion dan silicon photonics, dengan Jensen Huang menyatakan bahwa era inference inflection telah tiba. Setiap platform NVLink Fusion wajib menyertakan setidaknya satu produk Nvidia, sehingga Nvidia tetap dibayar bahkan ketika silikon kustom memenangkan soket. Nvidia juga membawa jawaban sendiri untuk masalah memori yang sama melalui beberapa cara, seperti satu rak Vera Rubin NVL72 yang membawa 54TB LPDDR5X, lebih besar dari seluruh appliance Marvell. Di Nvidia GTC 2026 perusahaan meluncurkan BlueField-4 STX, tier memori konteks berbasis flash untuk KV cache, dengan klaim hingga lima kali throughput token dibanding penyimpanan berbasis CPU. Huang menyebut AI penalaran membutuhkan kelas penyimpanan baru, dan sistem mitra dijadwalkan hadir pada paruh kedua 2026. Pada 2025 Nvidia dikabarkan membelanjakan lebih dari US$900 juta untuk Enfabrica, yang sistem EMFASYS-nya menyatukan hingga 18TB memori untuk klaster GPU. Di bidang optik Nvidia menginvestasikan US$4 miliar ke Lumentum dan Coherent, memperkenalkan photonics switch di GTC 2025, dan akan menawarkan co-packaged optics sebagai opsi NVLink pada sistem generasi Feynman yang dijadwalkan 2028. Soal pilihan antara tembaga dan optik untuk scale-up, Huang pernah berkata bahwa mereka akan melakukan keduanya.
Tantangan ke Depan dan Penutup
Marvell masih memiliki jalan panjang, yakni silikon yang berfungsi, pelanggan yang disebutkan namanya, mitra memori, dan throughput terukur pada perangkat keras nyata alih-alih kurva simulasi, yang semuanya harus berjalan sesuai rencana. Sampai saat itu, appliance ini adalah cetak biru yang argumentatif, dan penghematan CAPEX masih berupa argumen ketimbang angka. Ironinya sulit dilewatkan: perusahaan yang GPU-nya disebut Lazovsky sebagai pengendali memori termahal di dunia memiliki saham US$2 miliar di Marvell, dan melalui NVLink Fusion berpeluang meraup keuntungan dari rak mana pun yang menang. Sementara itu, pengguna yang ingin mengatur sendiri kurasi konten digital mereka bisa melihat langkah serupa lewat Google Contacts Update dan fitur Stiker Add Yours di WhatsApp. Well, I like technology. But more than that, I like everything related to innovation. And that passion brought me here, to the house of digital media and communication, a company that engaged in Platforms & Content Creation, Publishing, and Public Relations.