端側(cè)AIGC拐點已至：AI?ASIC正在重塑智能終端格局

當你的手機能在本地運行270M參數(shù)的大模型、完成25輪對話僅耗電0.75%；當你的眼鏡能實時識別路人身份并生成對話建議；當你的玩具能記住孩子的名字、情緒和偏好，并講出專屬故事——我們便知道：生成式人工智能（AIGC）正從云端走向終端，從演示走向日常。

這一轉(zhuǎn)變的背后，是一場靜默卻深刻的硬件革命。2025年11月25日，在“IIC Shenzhen - 2025國際集成電路展覽會暨研討會”同期舉辦的“全球CEO峰會”上，芯原股份董事、首席運營官、執(zhí)行副總裁、全球銷售負責人汪洋發(fā)表了題為“AI ASIC平臺加速端側(cè)AIGC規(guī)模部署和演進”的主題演講，系統(tǒng)揭示了端側(cè)AIGC爆發(fā)背后的關(guān)鍵推手：專用人工智能芯片（AI ASIC）平臺。

芯原股份董事、首席運營官、執(zhí)行副總裁、全球銷售負責人汪洋

大模型進入收斂期，輕量化推動端側(cè)落地

汪洋指出，根據(jù)第十三屆芯原CEO論壇五大預測之一（2024年1月）：到2028年，中國基礎(chǔ)大模型數(shù)量將少于10個。“百模大戰(zhàn)”終將回歸理性，模型競爭將從數(shù)量轉(zhuǎn)向效率，從云端轉(zhuǎn)向終端。

AI大模型“百模大戰(zhàn)”（來源：陸奇、奇績論壇、民生證券研究院）

與此同時，開源社區(qū)正成為技術(shù)演進的新引擎。以DeepSeek為代表的開源模型通過混合專家（MoE）架構(gòu)將計算量降低90%，并采用多頭潛意識注意力（MLA）機制將鍵值（KV）緩存占用減少93.3%；再結(jié)合強化學習訓練與模型蒸餾優(yōu)化，不僅將推理能力顯著提升至媲美OpenAI-o1，更成功將“大模型”壓縮為可在消費級硬件上運行的“小模型”。這使得端側(cè)AIGC不再依賴昂貴的云服務(wù)，真正具備規(guī)模化落地的可能。

推動端側(cè)AIGC落地的另一股力量來自輕量化開源模型。谷歌最新發(fā)布的Gemma 3系列提供從超輕量級（0.27B）到高性能（27B）的多種規(guī)模，滿足從端側(cè)到云側(cè)的多樣需求。其中，Gemma 3 270M 是僅有2.7億參數(shù)的緊湊型模型，專為特定任務(wù)微調(diào)設(shè)計，已內(nèi)置強大的指令遵循和文本結(jié)構(gòu)化能力。更關(guān)鍵的是其極致能效表現(xiàn)：經(jīng)INT4量化后，Gemma 3 270M 僅需240MB內(nèi)存即可運行。在Pixel 9 Pro手機上實測，連續(xù)進行25輪對話僅耗電0.75%。這一數(shù)據(jù)標志著端側(cè)大語言模型（LLM）已具備全天候可用的工程可行性。

AI產(chǎn)業(yè)重心遷移：從“云重端輕”到“端側(cè)主導”

一個顛覆性的趨勢正在形成。根據(jù)第十三屆芯原CEO論壇提出的另一五大預測之一：到2028年，用于端側(cè)微調(diào)卡和推理卡的銷售額將超過用于云側(cè)的訓練卡。這一判斷標志著AI產(chǎn)業(yè)重心正從“云重端輕”轉(zhuǎn)向“云邊協(xié)同、端側(cè)主導”。

汪洋指出，驅(qū)動這一拐點的核心，是AI正在經(jīng)歷一場根本性的“遷徙”——從集中式云端走向分布式終端。這一范式轉(zhuǎn)變包含兩大維度：

其一，價值重構(gòu)。端側(cè)AIGC帶來四大不可替代的價值：響應(yīng)時間從秒級邁入毫秒級的低延遲；數(shù)據(jù)100%本地處理的隱私保護；近乎零成本的本地推理（對比云端調(diào)用單次約0.012元）；以及支持離線運行的可靠性。

其二，能力進化。端側(cè)AI正從“純推理”邁向“訓推一體”，設(shè)備具備本地持續(xù)學習與自我演化能力。典型代表如英偉達Jetson Thor芯片（算力2070TOPS）、特斯拉AI5/AI6芯片，均已支持終端自主微調(diào)。

這一趨勢有堅實的數(shù)據(jù)支撐。據(jù)IBS預測，到2035年，AI相關(guān)芯片將占據(jù)全球半導體市場77.7%的份額。邊緣AI芯片市場規(guī)模正以遠超云端的速度擴張——2025年后，邊緣AI增速顯著拉開與云端差距，成為半導體增長的核心驅(qū)動力。

AI相關(guān)半導體產(chǎn)品市場占比預測（來源：IBS，2025年8月）

AI相關(guān)半導體市場（云端vs邊緣）預測（來源：IBS，2025年8月）

芯原AI ASIC平臺：全棧式支撐端側(cè)AIGC

面對端側(cè)AIGC對算力、功耗、成本的極致要求，通用芯片已難勝任。汪洋強調(diào)：“只有ASIC，才能同時滿足高性能、超低功耗與大規(guī)模量產(chǎn)的成本控制。”

芯原依托其全球領(lǐng)先的半導體IP組合與一站式芯片定制能力，構(gòu)建了覆蓋“IP→Chiplet→SoC→系統(tǒng)方案”的AI ASIC平臺，已在眾多AI應(yīng)用場景中實現(xiàn)應(yīng)用。

在智能手機領(lǐng)域，芯原通過“生成+感知”雙協(xié)處理器架構(gòu)，系統(tǒng)性支撐端側(cè)AIGC應(yīng)用。一方面，AIGC協(xié)處理器集成自研Neurobrick AI降噪架構(gòu)，配備大型神經(jīng)網(wǎng)絡(luò)處理器（NPU），內(nèi)含32K MAC計算單元與15MB共享SRAM，能效比高達30TOPS/W。該方案支持Stable Diffusion圖像生成、AI視頻增強、深度估計與語義分割等生成式任務(wù)，并采用DDR-Less超低功耗設(shè)計。某旗艦手機搭載后，影像處理速度提升200%，功耗降低60%，并實現(xiàn)“拍錄一體”與煙花人像等創(chuàng)新功能。另一方面，超低功耗AI-ISP（圖像信號處理器）協(xié)處理器專注于智能影像增強，支持8K@30fps視頻處理，具備多攝像頭實時融合、高動態(tài)范圍（HDR）合成、低光照環(huán)境下的AI降噪與細節(jié)重建能力。其始終在線功耗極低，可實現(xiàn)“全天候視覺感知”而不顯著影響續(xù)航，已應(yīng)用于多款高端機型，支撐電影級拍攝、夜景超分與精準人像虛化等體驗。二者協(xié)同，使手機既能“看懂世界”，也能“創(chuàng)造內(nèi)容”，成為端側(cè)AIGC最成熟的載體。

面向智能眼鏡，芯原提供了超低功耗解決方案，系統(tǒng)在始終在線狀態(tài)下待機功耗僅為3.8mW，RTC模式下更可低至5μW。通過20多個電源域的復雜設(shè)計，將低功耗設(shè)計做到了極致。目前，芯原已與谷歌深度合作，基于Open Se Cura開源項目，共同開發(fā)面向端側(cè)LLM的Coral NPU IP，為智能眼鏡、可穿戴設(shè)備及AI玩具提供“輕量級、始終在線、超低能耗”的算力基礎(chǔ)。Coral NPU已成為芯原NPU IP產(chǎn)品矩陣的關(guān)鍵組成部分，賦能近百家現(xiàn)有及新客戶。

AI玩具正成為端側(cè)AIGC的重要落地場景。數(shù)據(jù)顯示，全球AI玩具市場規(guī)模預計將在2030年突破千億元，年復合增長率超過50%；中國本土市場增速更高達70%以上。這類產(chǎn)品需要集成自動語音識別（ASR）、語音合成（TTS）、計算機視覺（CV）、LLM以及多模態(tài)理解能力。關(guān)鍵技術(shù)模塊包括：聲學回聲消除（AEC）、背景噪聲抑制（ANS）、語音活性檢測（VAD）與關(guān)鍵詞喚醒（KWS）等，確保在嘈雜環(huán)境中精準捕捉指令。芯原通過提供超低功耗NPU與配套軟件棧，幫助客戶快速推出具備情感交互能力的下一代智能玩具。

AI玩具市場規(guī)模預測（來源：京東）

在智能駕駛領(lǐng)域，芯原與恩智浦（NXP）已合作多年，在累計部署至數(shù)千萬輛汽車的i.MX芯片上展開深度合作。其為客戶定制的新一代車規(guī)級AI芯片采用全球先進的車規(guī)工藝，算力領(lǐng)先，功能安全等級滿足ASIL-D（模塊級）和全芯片ASIL-B要求。為應(yīng)對自動駕駛平臺對靈活擴展與快速迭代的需求，芯原采用Chiplet架構(gòu)，通過UCIe/BoW接口將NPU、AI-ISP、HPC加速器等模塊高效互聯(lián)，有效解決“算力不足”與“平臺僵化”兩大行業(yè)痛點。目前，芯原的圖像信號處理器（ISP）、NPU、顯示處理器（Display Processing）等多款I(lǐng)P已通過ISO 26262認證，服務(wù)超過20家汽車電子客戶。

隨著物理AI與空間計算興起，3D空間理解成為端側(cè)AIGC下一階段的關(guān)鍵方向。芯原正重點布局3D感知與生成技術(shù)，并與頭部AR/VR廠商合作推進端側(cè)3D內(nèi)容生成。其目標是讓終端設(shè)備不僅能“看見”2D畫面，更能“理解”三維空間結(jié)構(gòu)，并在此基礎(chǔ)上實現(xiàn)虛實融合的交互體驗。該技術(shù)將率先應(yīng)用于AI眼鏡、機器人及智能座艙，成為連接數(shù)字世界與物理世界的重要橋梁。

芯原：全球AI ASIC平臺龍頭與Chiplet雙賽道布局

作為中國半導體IP第一股，芯原是全球唯一同時擁有六類處理器IP（NPU、GPU、VPU、DSP、ISP、Display Processing）的公司，在AI ASIC領(lǐng)域具備不可復制的平臺優(yōu)勢。其IP組合覆蓋從感知、計算到顯示的完整數(shù)據(jù)通路，可為客戶提供一站式芯片定制服務(wù)。

在全球IP收入排名中，芯原位列第八（中國大陸第一）。其NPU IP已在全球出貨近2億顆，被91家客戶用于140多款AI芯片；視頻處理器（VPU）IP被全球前20大云服務(wù)商中的12家采用，以及被2024年中國造車新勢力前8中的5家采用；GPU IP累計出貨量突破20億顆。這種深厚的積累，使其能快速響應(yīng)端側(cè)AIGC碎片化、高定制化的市場需求。

芯原正通過Chiplet技術(shù)在兩大賽道同步發(fā)力。首先，在云端生成式人工智能領(lǐng)域，Chiplet架構(gòu)幫助客戶將大算力AI芯片拆分為多個Die，降低對先進工藝（如3nm/2nm）的依賴，縮短設(shè)計周期，并提升良率與靈活性。其次，在高端智慧駕駛領(lǐng)域，Chiplet不僅提升算力密度，還通過異構(gòu)集成實現(xiàn)功能安全冗余。例如，將ASIL-D級NPU與ASIL-B級GPU封裝在同一基板，既滿足安全要求，又控制成本。該方案已進入多家車企下一代中央計算平臺驗證階段。無論是數(shù)據(jù)中心的高性能訓練，還是智能汽車的實時推理，芯原的Chiplet解決方案都已占據(jù)了先發(fā)優(yōu)勢，實現(xiàn)領(lǐng)跑。

結(jié)語：AI的未來，在終端

最后，汪洋引用了一句古話：“讀萬卷書不如行萬里路，行萬里路不如閱人無數(shù)。”今天，大模型通過海量文本“讀萬卷書”；空間AI與物理AI讓機器“行萬里路”；而理解復雜場景與人類情感，才是真正的“閱人無數(shù)”。要實現(xiàn)這一切，AI必須走出數(shù)據(jù)中心，走進真實世界。而AI ASIC，正是這場遷徙的載體。

當每一部手機、每一副眼鏡、每一個玩具、每一輛汽車都擁有專屬的智能大腦，AIGC才真正從技術(shù)奇觀變?yōu)樯钊粘?。芯原所做的，不是造一顆芯片，而是搭建一個讓端側(cè)AIGC大規(guī)模落地的平臺——在這個平臺上，創(chuàng)新者可以更快、更省、更可靠地把想象變成現(xiàn)實。