人工智能(AI)是目前整個科技界最炙手可熱的增長點。推動AI落地和發展需要三大力:算力、運力和存力,其中的“存力”就是存儲,最典型的代表應用就是HBM。就連新晉市值王英偉達(Nvidia)都開出13億美元的預算,用于向美光和SK海力士預定HBM3E產能,以確保其GH200和H200芯片的順利出貨。
HBM為何如此受追捧?從原理來看,HBM通過將多個DRAM芯片垂直堆疊并與處理器直接通過硅穿孔技術(TSV)連接,極大地提高了數據傳輸速度。相比傳統的DDR內存,HBM提供了更高的帶寬,能夠滿足GPU、AI加速器等對大量數據吞吐的即時需求,降低了數據交換的延遲,減少了能耗。
目前HBM在AI中主要用于云端訓練,但其實這種設計理念延伸到邊緣端,同樣也可以大顯身手。
“存儲是一個標準化的行業,華邦在行業內深耕多年,希望著眼于未來的需求和趨勢,為市場帶來差異化的產品,推動行業進一步發展。這也是兩三年,華邦都在力推CUBE產品的原因。”日前在深圳舉辦的一場媒體見面會上,華邦電子產品總監朱迪接受了《電子工程專輯》等媒體的采訪,他詳細介紹了CUBE(Customized Ultra-Bandwidth Elements,半定制化超高帶寬元件)產品,并以利基市場的大量應用為例,闡述了華邦在存儲行業的布局戰略。

華邦電子產品總監朱迪
什么是CUBE?與HBM有何異同?
談到CUBE,朱迪表示,可以很形象地把它當成小號的HBM。
如果說服務器上的GPU搭配的是大容量、高帶寬的HBM,用于匹配高算力芯片,那么CUBE就是采用類似思路的定制化存儲element(元件)。“傳統DRAM的IO線就好比高速公路,車道數量已經限定,即使速度再快,整體數據吞吐量也有限。而且傳輸速度過快會提高功耗,甚至導致傳輸錯誤。所以提高數據吞吐量的正確方式,應該是提高帶寬。” 朱迪說道。
如此大量的IO連接,如果依靠傳統出PIN、焊球和PCB走線,是無法實現的。所以HBM和CUBE高帶寬的物理實現方式都是將存儲單元與主芯片一起用2.5D或3D方式,die-to-die封裝在一起。這種實現方式讓大家想到了Chiplet,其實CUBE正是運用了Chiplet的概念,而華邦也是UCIe產業聯盟的成員之一。
相比傳統的分立存儲元件,采用CUBE方案因為系統集成度高,不用PCB走線,大大減小了板子面積,節省了成本,更重要的是數據傳輸速度和帶寬得到提升,功耗可以低于 1pJ/bit,與HBM媲美。

CUBE與HBM最大的差別,在于容量。
由于需要承擔訓練帶來的海量數據吞吐,HBM往往需要具備更多的層數和更大的容量。以目前的HBM3來說,每個存儲層容量可達8/16/32Gb,理論上通過堆疊更多層數,單顆HBM3的容量最高可達64GB。“CUBE瞄準的是邊緣端應用,所以容量會比較小。但它的速度和帶寬跟HBM相當,這對于客戶來講非常有誘惑力。”朱迪認為,算力下沉是趨勢,云端算力下放到邊緣端,可以讓邊緣側的響應速度更快且更安全。
目前搭載CUBE的方案已經可以在邊緣端做推理或少量訓練。
CUBE不僅僅是產品,也是一項服務
根據華邦的客戶反饋,在邊緣端做得足夠強以后,總體成本并不會升高,反而會降低。其中最典型的例子是汽車類應用,ADAS等功能主要依靠主控芯片做運算,但如果說在端側車載雷達、攝像頭等傳感器的算力夠強,就可以對采集數據進行預處理,主控芯片就不需要算力太強。
據介紹,CUBE產品并非標準件,而采用半定制化,這是因為不同客戶的最終產品形態都不一樣,容量、速度或是與SOC的連接方式都不同。
這種差異化的產品形式,也決定了采用CUBE的用戶也需要具有足夠的創新精神,敢于用新技術。“只有這樣,客戶自身的產品才能實現創新和差異化,為他們的客戶帶來不一樣的價值。”朱迪透露,目前采用CUBE的客戶都具有相當的行業影響力,他們的創新會帶動整個行業應用新技術的趨勢。反之如果大家都做“Me too”產品,那么最終只能在成本和價格上內卷。
由于需要跟SoC客戶深度綁定,所以目前華邦將CUBE作為一項服務來做( CUBE as a Service),而不僅僅當做標準品售賣。與客戶對接的內容包括但不限于:存儲接口形式、封裝形式,甚至還有第三方封測廠。

“我們在中國臺灣也有兩家這樣的封裝公司,來配合做CUBE產品。所以華邦是既提供產品也提供相關服務,總體來說是在提供存儲解決方案。”朱迪說道,“如果有更多的客戶有共性需求,我們也可以把它作成通用規格。但本質上因為CUBE的封裝形式,所以無完全通用。”
據介紹,CUBE目前主要采用KGD封裝,也就是常說的SIP合封(將DRAM和SOC上下堆疊或side by side平放在一起合封為一顆芯片)。具體來說KGD就是將成品DRAM wafer送到客戶指定封裝廠,再與主芯片封裝,目前華邦超過一半的DRAM產品都是以KGD的方式售賣,對這種商業模式也早已駕輕就熟。

“對于SOC主控廠商來說,也更希望與華邦這樣的IDM公司(有自己的制程、技術和產能)合作,這樣產能和質量比較有保障。”朱迪說道。
CUBE和傳統DRAM的不同應用領域
邊緣運算有不同的等級,對算力、存儲的要求差別很大。其中穿戴類設備、邊緣服務器設備、監控設備、ADAS 及協作機器人等典型的邊緣運算應用場景,需要處理實時高清信號,做AI推理,但同時又要求低功耗,是CUBE的主要應用領域。
朱迪表示,華邦的邊緣運算產品中,CUBE是目前最高級的形態,主要與SoC搭配;再往下一級,可以用低LPDDR2/3/4, 例如華邦與意法半導體合作的一些STM32系列MCU和MPU;其它對算力要求不高的終端應用,采用HYPERRAM™就足夠。

過去,LPDDR4、LPDDR5主要在手機上采用,PC端則主要采用DDR5。然而近兩年,穿戴類、工業類、智能家居類等端側應用對算力的需求增加,讓LPDDR4的應用場景越來越多。以典型邊緣計算落地場景IP Camera為例,由于需要做實時AI計算和處理高清視頻碼流,對于帶寬要求很高,而LPDDR4雙通道32位的帶寬天然高于標壓DDR4。據悉,目前IP Camera的SOC設計公司,大部分都是華邦的主力客戶,包括君正、國科、富瀚、星宸等。
華邦很早就布局LPDDR4,產品甚至比DDR4發布得更早一兩年,最近還推出了20nm新制程的4Gb、8Gb LPDDR4產品。據悉,華邦高雄廠去年剛投產,全新設備有能力做到1X納米制程,明年華邦的制程會來到16nm和14nm。

在汽車領域,華邦同樣是個低調的大佬。根據2022年數據,該公司已經是全球第五大車用存儲廠商。
“這是按營收算的,如果按出貨量算排名會更高,因為我們主要做小容量產品。”朱迪表示,現在國內的汽車行業競爭激烈,產品迭代周期非常長;在供應商層面,以前芯片廠商直接面對的是Tier 1,而現在Tier 0、Tier 0.5都出現了,車廠也會參與到關鍵器件的選型中。這些對于存儲芯片廠商都是挑戰。
ADAS是華邦目前瞄準的幾類車載應用之一,其中又再細分為傳感器(包括激光雷達、毫米波雷達等)、攝像頭(后視、前視)和主控芯片,NOR Flash和DRAM都有機會做進去。“可以說在汽車應用上,除了智能座艙和駕艙的UFS、SSD、LPDDR5之外,其他部分我們的產品都能夠用上。”
尤其是汽車智能化和電氣化后,很多功能都在做冗余備份,以提高可靠性。例如汽車儀表領域的“一芯多屏”趨勢,一旦主控芯片宕機所有的中控屏、儀表盤就都不能顯示,這時候就需要冗余備份的小系統,其中就搭載著華邦的中小容量存儲。
目前汽車IDH或主控平臺方案商是華邦的直接客戶,海外客戶包括NXP、Mobileye等,國內則有地平線、芯馳、黑芝麻等等。
2025,存儲行業或迎來“大年”
存儲器行業的價格走勢,一直是電子行業的晴雨表。
談到目前的行業景氣度,朱迪表示,大容量存儲的價格其實從2023年下半年就開始上漲,其中的兩大帶動因素分別是:
1)需求的帶動,尤其是HBM。
2)大廠的自救,幾個季度的連續砍產能讓整個消費景氣反轉,庫存水位下降。
中小容量存儲則漲勢較慢。“本質上我們不能叫漲價,應該叫價格修正。畢竟存儲行業前幾大企業都在虧損,這是一個不正常的行業現象。多年充分競爭過的市場,通過價格修正能夠促進整個行業發展得更健康持續。”對于今年下半年和明年上半年的趨勢,朱迪表示,華邦在需求面保持樂觀態度,認為不會比去年差。
他還分享了一個關于HBM的數據,今年HBM占整個行業的產能是個位數,較樂觀的第三方報告認為,明年這一數字會占到30%,這是新出現的需求,會擠占整個DRAM的產能。“我們認為明年應該是存儲的大年,尤其是對于中小容量的產品。我們高雄新廠的產能已經從去年的1萬片,增加到今年的1.5片,明年會再沖到2萬片。”

華邦電子DRAM產品市占(圖自:Omida)
談到競爭,朱迪認為在市場環境中,競爭一直都存在,華邦坦然面對競爭的同時積極提升產品的創新力和競爭力,調整發展戰略并做前瞻布局。“深耕行業三十年,華邦是在競爭中一路走過來的,我們的NOR Flash也不是天生行業第一,也是通過充分的市場競爭才有了現在的成績。”經過下行周期,半導體投資環境沒有以前那么樂觀,存儲行業或許在這兩年會出現洗牌,能夠留下來的都是真正有競爭力的產品,都是健康良性競爭的結果。