NVIDIA Spectrum-6 專為 Vera Rubin 打造，登陸十億瓦級(jí) AI 工廠

新一代 NVIDIA Spectrum-X 以太網(wǎng)為十億瓦級(jí) AI 系統(tǒng)提供所需的性能、可靠性和效率，連接數(shù)十萬個(gè) GPU。目前，多家領(lǐng)先的 AI 基礎(chǔ)設(shè)施企業(yè)已經(jīng)采用了這一技術(shù)。

全球最先進(jìn)的 AI 工廠將數(shù)十萬個(gè) GPU 和 CPU 匯集在一起，賦能前沿模型訓(xùn)練與代理式 AI 驅(qū)動(dòng)，并以前所未有的規(guī)模生成智能。在這個(gè)層面，網(wǎng)絡(luò)成為推動(dòng) Token 生成的關(guān)鍵計(jì)算能力倍增器。

作為新的網(wǎng)絡(luò)里程碑產(chǎn)品，NVIDIA Spectrum-6 是一款 102.4T 的以太網(wǎng)交換機(jī)，其容量是上一代的 2 倍，為 NVIDIA Vera Rubin 平臺(tái)構(gòu)建，即將在全球的十億瓦級(jí) AI 工廠中落地。

Spectrum-6 驅(qū)動(dòng)新一代 NVIDIA Spectrum-X 以太網(wǎng)平臺(tái)，為運(yùn)營 AI 工廠端到端計(jì)算系統(tǒng)提供所需的高帶寬、規(guī)模擴(kuò)展和智能。

包括 CoreWeave、微軟、Nebius、SpaceXAI 和 Tesla 在內(nèi)的全球領(lǐng)先的 AI 基礎(chǔ)架構(gòu)構(gòu)建商，率先采用 Spectrum-6，以加速其 AI 工廠建設(shè)。

對(duì)于云服務(wù)提供商而言，Spectrum-6 意味著更高的計(jì)算能力，可以作為統(tǒng)一的高性能資源運(yùn)行，幫助客戶更快地訓(xùn)練模型和部署推理服務(wù)。對(duì)于自建基礎(chǔ)設(shè)施的 AI 先驅(qū)來說，Spectrum-6 意味著更多的 GPU 能夠保持同步運(yùn)行，為要求嚴(yán)苛、大量使用集合操作的作業(yè)實(shí)現(xiàn)更高的系統(tǒng)利用率，并提高長期運(yùn)行工作的可靠性。

以太網(wǎng)最初主要用于企業(yè)應(yīng)用，承載用戶、服務(wù)器和存儲(chǔ)之間的南北向數(shù)據(jù)流量，并非為超大規(guī)模 AI 的同步、集合密集型通信模式而創(chuàng)建。Spectrum-X 以太網(wǎng)改變了這一局面。它專為 AI 打造，將以太網(wǎng)轉(zhuǎn)變?yōu)楦咝阅軝M向擴(kuò)展網(wǎng)絡(luò)，旨在為每個(gè) GPU 及時(shí)“喂上”足夠數(shù)據(jù)。

Spectrum-6 交換機(jī)芯片與 NVIDIA ConnectX-9 SuperNIC 相結(jié)合，構(gòu)成了新一代 Spectrum-X 以太網(wǎng)，與 NVIDIA Vera CPU、Rubin GPU、NVLink 6 交換機(jī)、ConnectX-9 SuperNIC、BlueField-4 DPU 和 Spectrum-6 以太網(wǎng)交換機(jī)一起，共同組成了 NVIDIA Vera Rubin 平臺(tái)。

Spectrum-6 支持可插拔和光電一體化封裝兩種規(guī)格。此外，Spectrum-6 產(chǎn)品還支持液冷，支持整個(gè) AI 工廠全面的端到端液冷方案，顯著提高系統(tǒng)能效。

與通用以太網(wǎng)不同，用于 AI 工廠橫向擴(kuò)展的 NVIDIA Spectrum-X 以太網(wǎng)網(wǎng)絡(luò)平臺(tái)結(jié)合了智能交換機(jī)、NVIDIA ConnectX-9 SuperNIC 和全棧網(wǎng)絡(luò)軟件，共同為 AI 定向設(shè)計(jì)。該平臺(tái)的高級(jí)功能不斷優(yōu)化數(shù)據(jù)流量在網(wǎng)絡(luò)中的移動(dòng)。