當(dāng)?shù)貢r(shí)間3月24日,Arm宣布其計(jì)算平臺(tái)進(jìn)入新的發(fā)展階段,首次將產(chǎn)品矩陣延伸至量產(chǎn)芯片產(chǎn)品領(lǐng)域。首發(fā)產(chǎn)品為一款由Arm自主設(shè)計(jì)、面向人工智能 (AI) 數(shù)據(jù)中心的CPU,旨在滿(mǎn)足日益增長(zhǎng)的代理式 AI (agentic AI) 工作負(fù)載需求。
Arm首席執(zhí)行官Rene Haas表示:“AI從根本上重塑了計(jì)算的構(gòu)建與部署,代理式計(jì)算正進(jìn)一步加速這一變革。今天標(biāo)志著Arm計(jì)算平臺(tái)邁入全新發(fā)展階段,也成為公司發(fā)展的重要里程碑。隨著Arm AGI CPU芯片的推出,我們將基于Arm高性能、高能效的計(jì)算基石,為合作伙伴提供更多選擇,助力代理式AI基礎(chǔ)設(shè)施實(shí)現(xiàn)全球規(guī)模化部署。”
Arm計(jì)算平臺(tái)延伸至量產(chǎn)芯片領(lǐng)域
AI 智能體的群體性崛起,正宣告全球計(jì)算產(chǎn)業(yè)進(jìn)入全新的拐點(diǎn)時(shí)代。當(dāng)應(yīng)用重心由模型訓(xùn)練,向具備推理、規(guī)劃與執(zhí)行能力的智能體運(yùn)營(yíng)遷移,系統(tǒng)產(chǎn)出的詞元(Token) 體量呈指數(shù)級(jí)爆發(fā)。這一趨勢(shì)直接導(dǎo)致底層計(jì)算架構(gòu)的重構(gòu),數(shù)據(jù)中心對(duì) CPU 的需求已不再局限于通用計(jì)算,而是承載智能體推理、協(xié)同調(diào)度與數(shù)據(jù)遷移的核心支柱。
為適配智能體的規(guī)模化落地,數(shù)據(jù)中心的能效比面臨重構(gòu)。每吉瓦(GW)功耗所能支撐的CPU算力有望實(shí)現(xiàn)四倍以上的跨越式增長(zhǎng)。這倒逼了 AI 基礎(chǔ)設(shè)施級(jí) CPU 的誕生,它們以極簡(jiǎn)架構(gòu)擺脫x86體系的冗余開(kāi)銷(xiāo),在嚴(yán)苛的功耗邊界內(nèi),實(shí)現(xiàn)了高吞吐量與極致能效的雙重平衡。
為助力合作伙伴在新的產(chǎn)業(yè)環(huán)境中加速創(chuàng)新,Arm AGI CPU 的推出有望成為代理式數(shù)據(jù)中心的計(jì)算基石。Arm此次向芯片產(chǎn)品領(lǐng)域的拓展,為生態(tài)合作伙伴在構(gòu)建和部署基于Arm架構(gòu)的基礎(chǔ)設(shè)施時(shí)提供了更大的靈活性。合作伙伴可根據(jù)需求,靈活選擇Arm IP授權(quán)、 Arm CSS方案,或直接部署Arm自主設(shè)計(jì)的芯片產(chǎn)品。
Arm AGI CPU的核心特性:
性能:?jiǎn)晤wCPU集成多達(dá)136個(gè)Arm Neoverse® V3核心,在單核、系統(tǒng)級(jí)芯片 (SoC)、刀片式服務(wù)器及機(jī)架各層級(jí)均實(shí)現(xiàn)行業(yè)領(lǐng)先的性能表現(xiàn)*,同時(shí)提供每核心6GB/s內(nèi)存帶寬,時(shí)延低于100 ns。
擴(kuò)展性:300瓦TDP設(shè)計(jì),每線(xiàn)程獨(dú)立核心,可在持續(xù)負(fù)載下提供確定性性能,避免降頻與線(xiàn)程閑置。
能效:支持高密度1U服務(wù)器機(jī)箱的風(fēng)冷部署方案,單機(jī)架可支持多達(dá)8,160個(gè)計(jì)算核心;同時(shí)也支持液冷系統(tǒng),單機(jī)架可實(shí)現(xiàn)超過(guò) 45,000 個(gè)核心的部署規(guī)模。
這些特性能夠?qū)崿F(xiàn)更高的工作負(fù)載密度,更優(yōu)的加速器利用率,并在現(xiàn)有功耗預(yù)算內(nèi)釋放更多可用算力。在AI基礎(chǔ)設(shè)施持續(xù)擴(kuò)展的過(guò)程中,這些都是至關(guān)重要的優(yōu)勢(shì)。Arm AGI CPU可實(shí)現(xiàn)單機(jī)架性能達(dá)到x86平臺(tái)的兩倍以上,每吉瓦AI數(shù)據(jù)中心算力的資本支出 (CAPEX) 節(jié)省高達(dá)100億美元。
獲全球生態(tài)廣泛支持
作為Arm AGI CPU的早期合作伙伴及聯(lián)合開(kāi)發(fā)者,Meta 利用該代理式AI CPU優(yōu)化其全系應(yīng)用的基礎(chǔ)設(shè)施,并與其自研的 Meta 訓(xùn)練與推理加速器 (MTIA) 協(xié)同部署,從而在大規(guī)模AI系統(tǒng)中實(shí)現(xiàn)更高效的編排與調(diào)度。雙方承諾將圍繞Arm AGI CPU的多代芯片產(chǎn)品展開(kāi)長(zhǎng)期深度合作。
除Meta外,Arm已確認(rèn)與Cerebras、Cloudflare、F5科技、OpenAI、Positron、Rebellions、SAP、SK電訊等企業(yè)達(dá)成進(jìn)一步的商務(wù)合作。這些客戶(hù)將在代理式CPU核心應(yīng)用場(chǎng)景中部署Arm AGI CPU,覆蓋加速器管理、控制平面處理、云與企業(yè)級(jí) API、任務(wù)與應(yīng)用托管等領(lǐng)域。
為加快產(chǎn)品落地與規(guī)模化部署,Arm與永擎電子、聯(lián)想、廣達(dá)電腦、Supermicro等頭部OEM廠(chǎng)商及ODM廠(chǎng)商展開(kāi)合作,早期系統(tǒng)現(xiàn)已推出,更廣泛的商用部署預(yù)計(jì)將于今年下半年落地。
超大規(guī)模云服務(wù)商、云計(jì)算、芯片、內(nèi)存、網(wǎng)絡(luò)、軟件、系統(tǒng)設(shè)計(jì)與制造等領(lǐng)域的50余家領(lǐng)軍企業(yè),均對(duì)Arm計(jì)算平臺(tái)向芯片領(lǐng)域拓展表示支持。其中包括亞馬遜云科技、博通、谷歌、Marvell、美光、微軟、NVIDIA、三星、SK 海力士、臺(tái)積公司等行業(yè)標(biāo)桿企業(yè)。
結(jié)語(yǔ)
三十多年來(lái),產(chǎn)業(yè)界基于Arm計(jì)算平臺(tái)持續(xù)創(chuàng)新,在數(shù)千億臺(tái)設(shè)備上實(shí)現(xiàn)了可擴(kuò)展、高能效的計(jì)算能力。隨著AI重塑全球計(jì)算基礎(chǔ)設(shè)施,整個(gè)生態(tài)系統(tǒng)正尋求大規(guī)模部署 Arm 技術(shù)的方案。此次Arm AGI CPU的推出將Arm 計(jì)算平臺(tái)矩陣擴(kuò)展至量產(chǎn)芯片領(lǐng)域,標(biāo)志著 Arm 計(jì)算平臺(tái)的發(fā)展邁入全新階段——Arm正式進(jìn)軍數(shù)據(jù)中心芯片領(lǐng)域,將其高能效架構(gòu)規(guī)模化引入AI基礎(chǔ)設(shè)施。