智能體AI時代，NVIDIA的技術還香嗎？
要說AI市場現狀及未來潛力，看NVIDIA營收和股票、看存儲芯片價格自然是一個方向；但還有一些很有意思的現象，大概也能體現智能體AI帶來的市場價值之巨大：黃仁勛（NVIDIA CEO）在上周的GTC Taipei主題演講中說，“如今NVIDIA已經是全球最大的networking公司”，也是“全球最大的CPU制造商之一”。
要知道在一般人的認知里，NVIDIA是個造GPU的公司。可見其AI系統應用的廣泛性早就超出了GPU范疇；其中的CPU、networking（網絡連接）芯片與設備就在NVIDIA所推的機柜系統或超級集群中。
實際也不單是CPU、GPU或者networking，今年3月老黃曾刊文談AI的“五層蛋糕”，這五層蛋糕自下而上分別是能源、芯片、基礎設施、模型、應用。可能NVIDIA除了不直接參與能源層，其他各層都有涉足——包括這次老黃在會上說的 “NVIDIA不再只是一家GPU公司、也不再只是個系統公司，而是個基礎設施公司”。
雖然在老黃嘴里，NVIDIA時而是個軟件公司、時而是個平臺公司、時而又是個基礎設施公司，但有一點是不曾變過的：在AI時代NVIDIA總在嘗試涉足全棧，把需要優化的都優化一遍…
這個思路在智能體AI（Agentic AI，或稱代理式AI）時代顯得愈發突出和有價值。本文借著這場演講，談談NVIDIA是如何在智能體AI時代布局全棧技術的。“智能體AI”作為限定詞，又與曾經的感知型AI、生成式AI不一樣——NVIDIA還是第一次用“有用（useful）的AI”來形容AI技術。
智能體AI的特點：“分離與分布式”
上周電子工程專輯報道NVIDIA發布的RTX Spark——基于NVIDIA芯片（N1X）的Windows筆記本、臺式機、工作站。單從傳統Windows PC視角出發看RTX Spark，它無非是一臺Arm CPU + GeForce RTX GPU的PC設備——但這不是NVIDIA對RTX Spark的預期。
在NVIDIA眼中，未來的各行各業——航天、機器人、工業、汽車、醫療、通信、消費電子——都將被智能體化，“連通信基站都是如此——未來的基站會理解流量、思考如何與其他基站協作盡可能節約能耗、提升頻譜效率”。“我非常確信未來全球會有數百億、千億的智能體系統（agentic systems）、智能體計算機（agentic computers）。”而RTX Spark只是其中一環。
為了明確這一點，老黃甚至在會上科普了什么是智能體。典型智能體包含了LLM（大語言模型）、運行時（runtime）、Harness（如OpenClaw龍蝦, Hermes等）、工具與Skill。模型是大腦、Harness是身體，“runtime則可以比作工廠”。所以整體上，“它就像一名工人在一個工廠里用工具來工作”。
智能體會觀察、邏輯推理、規劃、使用工具（如制表工具、瀏覽器、數據處理工具、C語言編譯器等），有短時記憶（working memory）、長時記憶（long term memory），甚至指揮下級智能體工作。智能體AI和傳統的計算模式（computing pattern）不同，最明顯地體現在交互方式上。
比如通過自然語言與智能體對話，輸出包含動畫元素的HTML頁面、構建用于3D打印的CAD文件等...這套“計算模式”不再是人類用戶去啟動應用、鼠標操作、輸入代碼，而是直接將意圖告訴AI，由AI在上下文環境中通過觀察、邏輯推理、執行流程，自行調用工具來完成任務。
于是這種LLM + Harness的智能體AI改變了“計算模式”——這也是黃仁勛說RTX Spark“重塑（reinvent）”PC，以及智能體將進入各行各業背后的邏輯。
其實“計算模式”的改變本身，在我們看來可能還不是NVIDIA強調AI全棧及系統技術重要性的根本原因。但有個關鍵詞格外值得一提：他多次將智能體AI形容為“disaggregated and distributed”——本文將其譯作分離與分布式。
相比傳統的單一完整應用，智能體的“分離與分布式”特性主要是指在跑智能體的過程中，會有很多不同的計算資源被激活，用于任務處理；流程中的每一步可能會在計算機不同的組件上運行。比如智能體在思考時，GPU的Tensor core被激活；而在調用工具時，CPU就需要動起來，或者CUDA庫被調用，也需借助GPU加速；上下文相關的記憶能力則更大程度地和存儲與networking有關...
這樣的異構計算需求下，NVIDIA才反復重申著Vera Rubin作為“多機柜POD式超級計算機”是為智能體AI打造的系統（原話“這是個完全分離與分布式的智能體處理系統”）；也才讓CPU罕見地成為這場GTC活動的寵兒；當然也讓軟件顯得愈發重要——后面的3個章節就從這3個視角來看看NVIDIA是如何在智能體AI時代站穩腳跟的——也算是覆蓋芯片、系統、軟件了。
再談Vera Rubin：多機柜POD式超算
Vera Rubin系統最早是在去年GTC提出的，現下已進入到全速量產階段——據說供應鏈容量是Grace Blackwell時期的2倍。微軟、Dell、CoreWeave等廠商的Vera Rubin NVL72工程機柜已經正常運轉（富士康、廣達等廠商的Groq 3 LPX系統也進入到“成型（take shape）”階段）。
電子工程專輯過去半年對Vera Rubin系統有過比較詳細的介紹，它不僅是指Vera CPU和Rubin GPU——而總共有7顆關鍵芯片（Vera CPU, Rubin GPU, Connect-X9 NIC, BlueField-4 DPU, NVLink 6 Switch, Spectrum-X Ethernet CPO交換芯片, Grop 3 LPU）——Vera Rubin系統則是基于此構成的AI計算集群。
如果你留意我們對Vera Rubin系統的歷史報道，應該會發現它在NVL72高速互連域之外，還有一些額外的組成部分：包括接入長期記憶，新增Groq 3 LPX系統等。這應該是NVIDIA將其稱作“多機柜POD式超級計算機”（multi-rack POD scales supercomputer）的原因。
黃仁勛說DGX-1是世界上第一臺AI超級計算機（2016年，Pascal/Volta架構），Grace Blackwell是第一臺機柜級AI超級計算機，而Vera Rubin是第一臺多機柜POD式超級計算機。
之所以說Grace Blackwell是“機柜級AI超級計算機”，主要在于第5代NVLink互連構成的NVL72系統機柜的推出，實現相較Hopper NVL8系統的30倍性能提升。“超節點”這個詞就是在此時開始活躍于AI世界的。
雖然Vera Rubin系統的一個NVLink高速連接域仍然由72顆GPU（144片GPU die）構成，但NVL72機柜之外的組成部分也變得同等重要——尤其在智能體AI應用上。
比如說BlueField-4 STX（模塊化的存儲參考架構），也就是上下文記憶存儲平臺（context memory storage platform），主要用于長時記憶的G3.5級存儲新層級（HBM為G1級、DRAM為G2級、本地SSD為G3級）。此前黃仁勛展示的實機圖中，這套存儲系統在一個集群中，位于NVL72機柜一側；借助NVIDIA Dynamo和NIXL實現緊耦合，據說加入以后可達成推理性能的5倍提升。
比如Groq 3 LPX系統（Groq 3 LPU芯片）以Ethernet特定模式連接到Vera Rubin NVL72，以大量SRAM資源與Rubin GPU協同做AI大規模推理時prefill和decode的分工，讓Rubin NVL72系統在高價值區間（單位token更高的推理成本）相比Blackwell NVL72實現據說35倍的吞吐（tps/W）提升；
再比如Spectrum-X Ethernet Photonics交換芯片及交換機，也就是傳說中的CPO（共封裝光學）硅光芯片，用于scale-out數據交換，相較普通的電交換芯片顯著降低能耗和運營成本...
如果你對上述系統構成、連接結構不甚了解也沒關系。只需要知道NVIDIA設想的一個完全體的Vera Rubin集群囊括了上述組成部分：針對計算、存儲、互連（networking）的優化皆包括在內。所以NVIDIA才成為了“全球最大的networking公司”、“全球最大的CPU制造商之一”。
雖然這些組成部分或許也可以其他方式存在于計算集群中，但黃仁勛再次強調了這一整套Vera Rubin系統是針對智能體推理的“極致協同設計（extreme co-design）”，配合軟件最終實現顯著高于競爭對手的Perf/W（每瓦token數和首token時間）與Perf/$（單位成本token數）。這應該也是Vera Rubin不同于Grace Blackwell的關鍵。
回看Vera：智能體AI時代的CPU
“以前常有人跟我說，NVIDIA那么擅長預訓練，推理應該很簡單。”黃仁勛在談Vera Rubin系統時說，“但如諸位所知，推理就意味著錢。”“同時實現高響應/交互以及高吞吐很難。”要實現他常說的token經濟效益最高，“極致協同設計”不可或缺。
這里的“極致協同設計”目標，首要的自然是令智能體AI應用效率最大化。而智能體AI相比生成式AI及更早的AI技術，最大的差異如前文所述就是“分離與分布式”特性。這也是Vera Rubin系統有上述構建的成因。
在這諸多系統和芯片中，對分離與分布式特性最為敏感的無疑是CPU芯片。以OpenClaw為代表的智能體AI應用爆發前后，CPU迎來了歷史地位的大幅提升，甚至供不應求。所以過去半年的數據中心CPU市場競爭頓時激烈了起來——市場參與者顯著增多，連Arm都親自下場了。
↑Vera CPU出現在Vera Rubin系統的3個場景下：（1）Vera Rubin服務器——其中的Vera CPU負責管理GPU、KV cache、處理軟件負載等，另一顆Grace BlueField用于安全和隔離；（2）Vera Compute計算服務器，其中的Vera CPU用于Harness，負責AI模型編排、工具使用、數據庫訪問等；（3）還有個用于上下文記憶的Vera BlueField存儲服務器…
我們在前不久的文章里解釋過為什么對智能體AI應用而言，CPU很重要——簡單一句話就是因為智能體負載的瑣碎，CPU在整個工作流中所占比重很大，直接影響到token吞吐、延遲表現。
老黃在主題演講中也不出意外地抬升了Vera CPU在系統中的咖位——要知道，過去幾年的GTC或活動演講，他對自家的CPU基本都是幾句話帶過的；這次甚至還宣布了與OEM/ODM一起推出Vera CPU服務器，“這會成為一個全新市場的開端，以前從未存在過的市場。”“現有訂單足以讓它成為公司歷史上最成功的產品發布。”
除了因為智能體AI的“分離與分布式”特性，他還用一句話解釋了CPU在這個時代為何如此重要，因為“智能體沒有耐心（impatient）”。
“傳統CPU都是為人設計的”，而人“住在一個以秒為單位計量時間的世界”。“智能體則沒什么耐心，它們住在以納秒計的世界里——它們調用工具、訪問數據的時候，需要盡可能快的響應時間”，這些都需要CPU參與。所以“這個新興市場會比以前更大。因為智能體的數量會遠超人類，而且這些智能體是沒有耐心的。”
之前我們大致介紹過Vera是一顆采用88個Olympus核心、176線程（空間多線程）的CPU。此次更的信息包括：支持LPDDR5X內存帶寬1.2TB/s——比x86平臺低40%的峰值內存延遲；NVLink C2C通信帶寬1.8TB/s；1.4TB/s PCIe Gen 6支持；每核2MB L2 cache，164MB L3 cache；核間通信帶寬3.4TB/s——“第二代可擴展一致性fabric將88個Olympus核心統一放在了單片mesh之上”；
Olympus核心微觀層面，“針對分支密集型的Python運行時、工具調用、沙盒代碼執行做了設計”，“每個核心都針對吞吐做了精調”：包括前端的10-wide取指與解碼寬度；“神經分支預測器會在每個周期評估2條分支”；“較大規模的亂序執行引擎保證了指令的流動；先進的預取器采用新型圖引擎，可提前預測后續數據訪問路徑”...
還包括有內存一致性NVLink C2C直接將GPU連接到fabric；且支持擴展Vera CPU至多socket，實現CPU之間的高帶寬......雖然這兩段話的信息量還是比較低，但絕對是近些年NVIDIA主題演講涉及芯片設計時信息密度最高的部分了。
NVIDIA從4個角度談到了Vera對于跑智能體的價值。（1）首先是出色的IPC和單線程性能；（2）超高的每核帶寬——聽起來主要是指cache性能與核間互連；（3）帶寬——從老黃的描述來看，主要是指CPU與外部通信的帶寬；（4）出色的能效表現。
主題演講格外強調了帶寬的重要性，“因為智能體計算具備分離與分布式的特性，networking成為關鍵。數據會在CPU核心之間、CPU與存儲之間、CPU和GPU之間來回搬遷，速度必須盡可能得快”；故而特別強調了2倍于x86 CPU + DDR5的帶寬，以及3倍于x86 CPU的每核帶寬。
既然是比“智能體AI”，上面這張PPT給到了agentic沙盒性能（在本地沙盒環境跑測試），Vera相較x86 CPU競品的領先優勢在1.8倍左右——這里的編譯和Python子項應該是NVIDIA自己的測試流程，針對CPU及存儲子系統的性能測試。這兩個項目理論上考察的是CPU吞吐+內存，延遲+分支控制流的表現。
在實際負載測試里，NVIDIA公布的性能數據還包括SQL數據處理速度快3倍、實時流數據（real-time streaming data）處理快6倍——后者甚至是紐約證券交易所的實測數據（應該是指，在實時流數據處理中-如NYSE行情/訂單事件流，系統處理一條事件所需的端到端P99延遲）。
前不久外媒phoronix將Vera CPU與x86 CPU做了性能對比，基本能夠印證NVIDIA的說法。這事實上也符合當代以應用為導向的芯片設計趨勢，包括CPU這類常規意義上的“通用處理器”。x86 CPU在部分場景表現出的弱勢，實則與其仍需考量傳統數據中心的通用負載場景有很大關系。
NVIDIA的官方介紹資料也提到Vera CPU是專為“agentic loop”打造的，相比傳統CPU僅在意每socket的核心數量及面向用戶的虛擬化切分，Vera尋求核心數、可擴展一致性fabric、帶寬之間的平衡。甩掉了歷史包袱的Vera CPU，在智能體AI應用上自然更能打。
“有用的AI來了”：比如用智能體做芯片設計
聊完AI硬件基礎設施，最后談談GTC Taipei主題演講中出現的軟件。不過本文不打算對會上發布的軟件產品做展開，比如Nemotron 3 Ultra（550B）模型作為首款SSM（state space model）+ MoE混合架構模型，速度快5x、成本低30%；比如新發布的面向企業的NVIDIA Agent Toolkit for Enterprise AI，強調基于新“計算模式”、讓企業能用這套全棧工具打造自己的智能體應用等…
在企業或商業級智能體AI應用中，基于NVIDIA的這套AI技術棧，包括底層算力基礎設施、NVIDIA AI軟件棧，以及往上層的NemoClaw軟件棧、OpenShell運行時（具備安全控制特性的runtime，可執行基于策略的隱私和安全guardrail）、Nemotron模型、乃至調用工具所需的CUDA-X庫……有一個例子是相當具有說服力的：Cadence的芯片設計超級智能體（Super Agent）。
今年的IIC Shanghai大會上，Cadence就詳談過自家的智能體AI芯片驗證虛擬工程師——當時我們還驚訝于智能體AI竟以如此迅猛的勢頭進入到了高難度的嚴肅生產力應用中——要知道，EDA工具直接關乎下游芯片設計企業的真金白銀。
老黃現場分享的案例就是設計驗證智能體：“Codex對流程做編排。Cadence ChipStack啟動RTL驗證循環，由Nemotron模型驅動、OpenShell確保安全，在RTL生成、testbench構建、回歸測試和debug過程中調用各種專家子智能體（sub-agents）。”
在此過程中，ChipStack智能體會用Cadence Xcelium跑仿真，用Jasper做形式驗證，發現設計問題、修正bug；讓原本數周的驗證工作縮減至幾個小時。黃仁勛說NVIDIA自己就準備用大量來自Cadence的超級智能體來做芯片設計輔助。這可以說是智能體AI用于生產、創造價值的直接佐證了。
也算呼應了演講開頭就提到的“有用的AI來了”（Usefull AI has arrived）。不過他形容智能體AI“有用”、有價值的方式，是在Github社區觀察合并的pull請求數量、提交（commit）次數、每月新repo數量的變化情況。
結果是2026年的頭幾個月，這些數字就已經達到了2025年全年的將近3倍——從2023年至今完全呈現出指數級變化特征。相同數量的軟件開發者，在短時間內產出3倍價值增量。用老黃的話來說，3萬億美刀工資有效產生了9萬億美刀的生產力；且隨更多軟件工程師數量增加，“這些很快就會在我們的經濟中體現出來。”于是“AI成為GDP生成器（GDP generator）”。
這里面他還談到了一條有趣的邏輯線：未來智能體AI需要調用更復雜的工具，而復雜軟件工具必然離不開CUDA-X加速庫，加上AI又能幫助軟件工程師做基于CUDA的開發（甚至會有專門的Skill來輔助對應的CUDA開發），對CUDA-X庫和軟件公司而言，此刻正是發展黃金期——只不過新產出的軟件理應可接入智能體AI。
這個“AI不會讓更多人失業或讓更多軟件企業消失”的邏輯，不管你是否認可，它強調的實際是“加入NVIDIA AI生態就能創造價值”，不管是企業營收還是地區GDP。所以那句經典的“買得越多、賺得越多（the more you buy, the more you make）”在這場活動上，還是從老黃嘴里說出來兩次。
成為AI基礎設施公司
他舉例說Cadence、CrowdStrike、Dassault、Palantir、SAP、ServiceNow、西門子、Synosys等等都基于NVIDIA企業軟件平臺構建了智能體：表明智能體AI從來不曾擾亂市場；“相反的，智能體為我們的合作伙伴創造了有史以來最大的市場機會。”
從廣義的“基礎設施”來看，提供自底層硬件算力到上層參考應用的端到端智能體AI產品，加上GPU市場份額和涉足的垂直領域廣度，NVIDIA無論怎么看都已經是一家“AI基礎設施”企業了。但AI“五層蛋糕”理論定義的“基礎設施層”實際是要囊括構建AI工廠的基建的，比如土地、廠房…
3月份電子工程專輯的GTC報道介紹過NVIDIA DSX AI工廠平臺。NVIDIA DSX AI工廠平臺自前幾個月發布至今，全棧各層級參與者從最新的PPT看來已經多了不少。
這是構建、運營一家大型AI工廠的Blueprint參考設計，其中就涉及芯片、機柜、軟件，以及土地、建筑、能源、散熱系統等諸多組成部分。這才讓NVIDIA成為真正觸達基礎設施層的企業，也才有了黃仁勛在會上多番提及的，“NVIDIA真的已經成為一家基礎設施公司，而不只是GPU公司，也不只是系統公司。”
于是從GPU之外的尺度看NVIDIA，不管是數字孿生，還是物理實體，基于NVIDIA歷史技術及合作伙伴積累的DSX，都足以在廣義或狹義的“AI基礎設施”市場，將整個地球上的其他競爭對手遠遠甩在身后了。或許就如老黃所說，100GW功耗的AI工廠落成的確就在近10年內——即便現在的我們還有那么點無法想象。
您可能感興趣
