恩智浦收購Kinara，加速邊緣AI發(fā)展

我們正邁入一個計算新時代，智能部署到邊緣——從工廠機器人到駕駛輔助、乘客娛樂功能甚至協(xié)助完成作業(yè)的智能汽車。當(dāng)今的AI必須實現(xiàn)本地化、快速響應(yīng)、高效能且安全可靠，以滿足實時、設(shè)備端決策需求。

為此，恩智浦邁出了重要一步。我們近期宣布，正式完成對Kinara的收購。Kinara是業(yè)界高性能、高能效獨立神經(jīng)處理單元(DNPU)的領(lǐng)導(dǎo)企業(yè)之一。

重要意義

智能系統(tǒng)的未來將以邊緣為中心。從工廠的預(yù)測性維護到智能攝像頭中的生成式AI，邊緣系統(tǒng)被寄予厚望，需要不依賴云端，在本地處理復(fù)雜的推理工作。這一轉(zhuǎn)變帶來了諸多優(yōu)勢：降低延遲、增強數(shù)據(jù)隱私、降低帶寬成本以及增強抗風(fēng)險能力。但同時也對設(shè)備端計算性能和能效提出了更高要求。

與此同時，由于開發(fā)人員尋求安全、經(jīng)濟高效且節(jié)能的AI解決方案，邊緣AI處理市場正呈爆發(fā)式增長。Omdia在2024年底預(yù)測，到2029年，邊緣人工智能加速硬件市場(其定義涵蓋微控制器級別以上、且網(wǎng)絡(luò)往返時間在20毫秒以內(nèi)的所有計算設(shè)備)規(guī)模將從該年底的430億美元增長至897億美元。[1]

通過收購Kinara，恩智浦借助高性能獨立NPU增強了其產(chǎn)品組合，并為AI驅(qū)動邊緣系統(tǒng)建立了一個可擴展的平臺。恩智浦將吸納Kinara在機器學(xué)習(xí)硬件、軟件協(xié)議棧和應(yīng)用集成方面經(jīng)驗豐富的AI工程師團隊。同樣重要的是，此次收購將增強恩智浦的軟件實力，更好地支持客戶構(gòu)建量產(chǎn)型解決方案。

獨立神經(jīng)處理單元正在重塑邊緣智能。如需了解恩智浦與Kinara如何共同推進本地AI發(fā)展的更多信息，請查閱官方新聞稿。

邊緣需要高效且可擴展的AI

Kinara的旗艦產(chǎn)品Ara-1和Ara-2是旨在應(yīng)對全系列邊緣AI工作負載的獨立NPU。第一代芯片Ara-1可提供高達6 eTOP[2]的性能，并已在以視覺為中心的邊緣應(yīng)用場景中大規(guī)模部署。第二代產(chǎn)品Ara-2則是一個性能高達40 eTOP的強勁引擎，專門針對生成式AI、大語言模型(LLM)、視覺語言模型(VLM)、視覺語言行動模型(VLA)、代理式AI及系統(tǒng)級加速進行了優(yōu)化。

Ara-2支持卷積神經(jīng)網(wǎng)絡(luò)(CNN)和基于Transformer的架構(gòu)，專為滿足現(xiàn)代AI的計算和內(nèi)存帶寬需求而構(gòu)建。它在處理大語言模型和多模態(tài)應(yīng)用方面表現(xiàn)出色，例如，將視覺輸入與語音或文本結(jié)合以進行情境感知推理。

Ara-2能夠在AI計算和嵌入式系統(tǒng)上實時執(zhí)行生成式AI和LLM，從而帶來低延遲、更低運營成本和增強的數(shù)據(jù)隱私

Ara-1和Ara-2所基于的架構(gòu)采用基于RISC-V的可編程數(shù)據(jù)流設(shè)計，推理引擎能夠在專有乘積累加運算(MAC)單元上被高效解析和執(zhí)行。這種靈活性意味著解決方案能夠隨AI算法的演進而適應(yīng)，工程師既能處理當(dāng)前的工作負載，也能為未來的任何需求做好準備。

Kinara與恩智浦相輔相成

Kinara的價值超越其芯片本身。其全面的AI軟件協(xié)議棧包含一個軟件開發(fā)套件(SDK)、模型優(yōu)化工具以及一個包含大量預(yù)優(yōu)化AI模型的庫。Kinara SDK將被集成到恩智浦的eIQ^®軟件開發(fā)環(huán)境中，以便開發(fā)人員能夠輕松地在合并后的產(chǎn)品組合上構(gòu)建、優(yōu)化和部署AI應(yīng)用。

全面的AI軟件協(xié)議棧包含一個軟件開發(fā)套件(SDK)、模型優(yōu)化工具以及一個包含大量預(yù)優(yōu)化AI模型的庫

這套統(tǒng)一的工具為開發(fā)人員提供了無縫且簡化的用戶體驗。無論是構(gòu)建智能攝像頭、語音助手、預(yù)測性維護引擎還是多模態(tài)人機接口，開發(fā)人員現(xiàn)在都能享受到一站式服務(wù)體驗。我們廣泛的應(yīng)用處理器、獨立NPU、電源管理、安全及連接產(chǎn)品陣容，都能得到差異化軟件支持的全面保障。

此外，Kinara的獨立NPU與恩智浦的i.MX應(yīng)用處理器(MPU)(如i.MX 8M Plus和i.MX 95)能夠自然搭配。在邊緣AI應(yīng)用中，DNPU加速器將分流繁重的推理任務(wù)，而MPU則可管理預(yù)處理、后處理及通用計算。這種協(xié)同作用使客戶能夠獨立于應(yīng)用處理器來擴展AI性能，并獲得滿足任何成本或功耗預(yù)算的系統(tǒng)級靈活性。

此次收購?fù)瓿珊螅髦瞧挚蓪ⅹ毩PU和強大的AI軟件集成到其處理器、連接、安全和高級模擬解決方案產(chǎn)品組合中，進一步增強恩智浦提供從TinyML到生成式AI的完整、可擴展AI平臺的能力

此外，Kinara長期以來一直是恩智浦合作伙伴計劃的成員，其與恩智浦應(yīng)用處理器的成功部署案例，為客戶提供了值得信賴的基石。

共同釋放生成式AI的潛力

通過將獨立NPU集成到產(chǎn)品組合中，恩智浦能夠支持復(fù)雜的生成式AI和大語言模型任務(wù)在邊緣運行。生成式AI擅長對圖像和視頻進行實時解讀與推理，基于高質(zhì)量視覺內(nèi)容提升清晰度和決策能力。Ara DNPU器件能夠運行多模態(tài)LLM模型，從圖像和視頻中提取特征和情境信息，并利用文本和語音輸入來執(zhí)行基于視覺輸入的任務(wù)，從而為諸如老年人監(jiān)護、工業(yè)安全分析、工廠危險檢測以及樓宇或家庭安防等應(yīng)用提供實時分析。

在零售領(lǐng)域，生成式AI能根據(jù)客戶個人偏好創(chuàng)建虛擬展廳或產(chǎn)品設(shè)計。在制造業(yè)，DNPU解決方案與生成式AI及代理式AI相結(jié)合，能夠有效提升效率、精度與適應(yīng)性，為各行業(yè)的創(chuàng)新、針對性及自主應(yīng)用鋪平道路。

展望未來

隨著新的AI應(yīng)用場景日新月異，邊緣技術(shù)正在飛速演進。通過收購Kinara，恩智浦現(xiàn)可提供廣泛的邊緣AI計算選項組合，涵蓋微控制器、應(yīng)用處理器和獨立NPU，使客戶能夠為任何邊緣應(yīng)用獲取全棧解決方案。通過我們的整體產(chǎn)品方案，客戶能夠加快開發(fā)流程、降低系統(tǒng)復(fù)雜性，并專注于打造差異化AI體驗以提升競爭力。

作者：

Ali Ors

恩智浦半導(dǎo)體邊緣處理AI機器學(xué)習(xí)戰(zhàn)略技術(shù)總監(jiān)

Ali專門負責(zé)領(lǐng)導(dǎo)各跨職能團隊，為機器學(xué)習(xí)和視覺處理領(lǐng)域提供創(chuàng)新產(chǎn)品和平臺。他目前在恩智浦負責(zé)全球AI機器學(xué)習(xí)戰(zhàn)略和技術(shù)工作。Ali曾在恩智浦汽車業(yè)務(wù)部負責(zé)ADAS和自主產(chǎn)品的AI戰(zhàn)略、戰(zhàn)略伙伴關(guān)系和平臺設(shè)計。加入恩智浦之前，Ali曾擔(dān)任CogniVue公司的工程副總裁，負責(zé)開發(fā)視覺SoC解決方案和Cognition處理器IP內(nèi)核。Ali持有加拿大渥太華卡爾頓大學(xué)的工程學(xué)學(xué)位。