當今世界已經到處都是功能繁多和性能卓越的，以往只出現在科幻小說里的高科技產物。當我們使用聯網設備并使用可以媲美過去的“超級計算機”的手機拍攝高清照片時，很少有人會考慮其中的底層技術。而更加鮮為人知的是，產品規格與市場需求的相互作用所形成的矛盾愈趨強烈與復雜，使得產品迭代的設計生產與相關投入產出的合理性，也變得愈發棘手。
對具有更低功耗和更多功能的小型設備的不懈追求，推動了對更高集成度的需求。因此，這需要更小的硅片尺寸，要求設計人員采用 28nm、16nm、12nm、7nm、5nm 及更精微的工藝。而每一次硅工藝的更新，對設計和制造成本都會帶來非線性增長。基于精微工藝的設計需要越來越稀缺的專業知識、更長的設計時間、更昂貴的設計工具，并帶來更高的程序風險。
這些呈指數增長的設計成本必須由項目生命周期內出貨的產品分攤。不幸的是，隨著全球競爭的加劇、應用功能多樣性在增加、而產品的生命周期卻在縮短。因此，符合經濟效益的定制型芯片項目越來越少，同時能匯聚這些愈發稀缺的人才的公司也越來越少。
至少從理論上講，諸如 FPGA 之類的可重新編程技術可以緩解其中的許多問題，但傳統的 FPGA 體積大、效率低且價格昂貴，通常只用來做原型驗證和調試。易靈思 通過生產低功耗、高效、密度足以運行計算密集型任務、且為大批量采用定價的FPGA，直接滿足了這些相互制掣的動態市場需求。本文討論了 AI 硬件設計和部署背后的經濟學，將其優勢和考慮與 易靈思 的 FPGA 技術聯系起來，闡明了當有更好的硬件平臺可選時，芯片設計和制造的巨額成本與負擔如何變得越來越不合理。
從頭開始設計芯片，從成本、專業知識和時間角度來看，需要幾乎無法估量的投資；最終，IC/芯片設計只能交由在此領域具有持續積累的公司。有時，一群懷才不遇的工程師會從一家大公司出來，創建一家初創公司并制造 IP。然而，進入的門檻通常如此之高，以至于新想法甫一出世，就立馬夭折了。這種硬件“障礙”從本質上扼殺了創新，尤其是在新興的計算密集型 AI 領域；在該領域，特別是每個垂直行業的關鍵和非關鍵任務的應用層出不窮。這種軟件所需的處理能力具有復雜、計算密集、高耗電、且總在更新等特征。通常情況下，用定制芯片來支持這些不斷變化的需求，其成本是不合理的（圖 1）。
設計開發成本
首先，需要電子設計自動化 （EDA）軟件來執行基本的 IC 和布局設計、模擬和驗證。 EDA 軟件生態系統為設計流程的各個方面提供了豐富的工具，可以在預期框架內優化設計。EDA軟件的價格高昂，單個授權每年的費用從數萬美元到數十萬美元。考慮到要用在數十到數百臺機器上，相應成倍增加的費用、會輕易突破百萬美元大關。這只是涉足芯片制造成本的一方面。為了生成最終產品，公司可能會購買 模擬或數字的軟硬核IP，以將特殊的 I/O 功能集成到他們的設計中。IP核開發行業本身就是個價值數十億美元的產業；正因如此，購買IP的成本也將輕易突破百萬美元量級。如果一家公司資金充裕，那么購買來自專業無晶圓廠半導體公司的硅片級 IP， 比花費時間和工程開工費（NRE），在企業內部自己做IP要簡單和快捷得多。
制造成本
完成芯片設計是一項艱巨工作，其中流片過程需要工程師團隊在廣泛的全局模擬、分析、關鍵設計審查、電路迭代/布局改進和掩模數據準備后才簽發，以確保設計的可制造性并生成光掩模的最終 GDSII 文件。隨著晶體管尺寸的縮小，光掩模的質量對于精確制造最初設計的芯片至關重要。整個過程很容易出錯，因為它是從軟件設計到芯片生成的轉變。公司在這種耗資數百萬美元的制造過程中投入巨資，通常會依靠多項目晶圓 （MPW，又稱為silicon“shuttle”）來降低風險。它們允許設計公司通過購買部分 MPW 并與多方分攤總掩模成本，在流片之前生產該芯片的樣片。這些選擇允許 IC 公司在完全流片投資之前，拿到并驗證幾千個樣片。
測試和封裝成本
為了最大限度地提高新型堆疊芯片級封裝 （SCSP）和系統級封裝 （SiP）設計的良率，供應商要求芯片制造商提供已知良好的裸片（KGD）。雖然這會增加裸片的成本，但最終會降低封裝缺陷器件的成本。裸片測試是個棘手過程，涉及定制的測試卡，其中數以千計的探針壓在微凸塊上，通過電壓、電流和溫度應力測試來測試缺陷。有缺陷的裸片被封存，而 KGD 被運到封裝廠進行組裝。所有這些額外的步驟都伴隨著額外的成本考慮。封裝裸片本身是門科學，既有寄生電感和電容、也有嚴格的熱管理考慮。電-熱協同仿真對于檢測和優化熱問題是必要的，這又為最終設計增加了另一層次的復雜性和專業知識。熱分析后，封裝廠交付測試好的器件準備組裝。但是，經常會出現硬件/軟件升級的情況，這時，整個過程將從頭再來。這令整個流程的成本飛漲，致使較小玩家無法進入 ASIC 或 IP 設計領域。
圖 1：圍繞定制芯片的設計和開發過程及其相關成本
摩爾定律的崩潰：更小的器件幾何尺度背后的挑戰
摩爾定律的明顯放緩進一步加劇了出品定制芯片的不可行性，從而使晶體管尺寸和功率密度呈指數級改良的黃金時代已止步不前。遵循此邏輯，為滿足芯片越來越高的性能要求，制造商不得不轉向制造大芯片。然而，隨著芯片尺寸的增加，缺陷和錯誤制造的風險會增加，良率就會下降。這促使半導體制造商和設計公司尋求其它可行的解決方案，包括將單片 IC 的功能分解為互連的較小芯片，以執行計算密集型處理。
小芯片
小型器件的封裝在 1980 年代，已從多芯片模組（MCM）發展到系統級封裝設計，再到現在的小芯片。在小芯片設計中，原本的“大芯片”被劃分為定制設計的、硬化的 IP 模塊（或較小的裸芯），它們可被更經濟地制造。這些小芯片與其它模塊共同優化，并通過標準化接口連接，猶如SoC 的功能，但以更低成本和更短時間構建。裸芯可以由不同的工藝建構，其中一些采用更經濟的 28nm工藝，或者最新最尖端的 7nm（或更精微）光刻工藝。而封裝的拓撲結構則可以是基于 TSV 的硅中介層（2.5D）、堆疊芯片（3D）、嵌入式多芯片互連橋 （2.5D）或扇出 MCM 等。
與制造大型 SoC 并試圖通過加進更多功能和性能來更新技術相比，基于小芯片的 ASIC 更具成本效益。理論上，每個模塊都有可能被重用或擴展用于未來的硬件設計迭代；其中芯片到芯片的標準化接口可實現模塊之間的互操作性，從而縮短上市時間。從設計角度看，這種易于升級的能力不容忽視——庫中易于取用的已成熟的芯片設計可與其它小芯片混合和匹配，以形成一個新系統。在實踐中，定義良好的標準接口只占少數。仍然有許多未標準化的接口對采用來自第三方的小芯片庫造成障礙，因為這些第三方根本不知道要使用什么標準進行設計且只能承受選擇其中的一個。通常，這些接口的速度非?？?，因此往往會推動封裝設計朝著更昂貴的方向發展。
小芯片設計是一項相對新的技術，其中大部分知識由大型芯片開發商和制造商掌握。對于芯片設計人員來說，在未來的 ASIC 項目中使用小芯片具有很大潛力。這種新的設計方法在一定程度上規避了越來越棘手的成本和開發時間瓶頸。然而，對于那些沒有實力投資于生成和優化小芯片所需資源的公司來說，這條路并不行得通。
嵌入式處理器
通常，最能讓設計人員隨意使用的工具是標準嵌入式處理器并盡可能多地用軟件進行設計，僅在必要時才訴諸硬件。這樣，已定義好的標準和功能使標準硬件器件可跨多個市場使用，以積累所需的數量。設計人員只能在軟件中盡可能多地實現功能，并在必要時連接少量膠合邏輯和外圍器件。在某些情況下，模型分區是跨多個內核完成的，以加快并行處理時間。 GPU 是當前深度神經網絡（DNN）訓練的寵兒。這也帶來了若干挑戰。首先，需要一個復雜的控制單元，而且經常有冗余內存訪問，導致系統功耗上升。其次，由于這些處理器的通用性本質，基于特定DNN 算法的硬件優化難以見到。第三，對 ML 算法的升級和更改就變得難以實施，從而吁求更多的處理能力。綜上，充其量，這是種不得已的折中；理想情況下，處理器和加速器應位于同一硅片。這樣，可以快速優化系統性能。
使用 FPGA 進行硬件加速的成本和計算優勢
將 ML 算法映射到硬件是個復雜過程，牽涉到數據準確性、吞吐量、延遲、功耗、硬件成本、靈活性和可擴展性之間的權衡和取舍。通過投入更多處理內核的方式解決問題，很快就會變得不切實際，特別是如果問題涉及成本和功耗。在 FPGA 上實現硬件加速比使用嵌入式處理器要簡單得多，這是由于硬件架構的根本差異。 CPU和GPU只能實現數據并行，而FPGA（和ASIC）提供數據和流水線并行。在 CPU 或 GPU 中，每個處理器根據單指令、多數據運行模型執行相同的任務，對不同的分布式數據執行相同任務，或者處理單元（PE）在每個時鐘周期執行相同操作，同時對數據進行分區并并行分發給各PE。在 FPGA（和 ASIC）中，指令集中的不同任務可以在每個時鐘周期并發執行，從而流水線中的每個 PE 可以并行獲取具有不同時間戳的數據。這為具有數據并發性和依賴性的 DNN 提供了快速的硬件加速。
為了更好地形象化表述這點，可以實際的托盤壓印工廠作為示例。工廠通過切割、壓印和貼標簽來處理托盤。 CPU 或 GPU 可能處理一大排托盤。然而，每一行在進行壓印之前都會經歷相同的切割操作。壓印一行后，下一個時鐘周期將專用于對其標記。另一方面，FPGA 將能夠同時處理多排托盤——當一排托盤被切割時、另一排被壓印、另一排被標記，所有這些都在同一個時鐘周期內實現。通過這種方式，可以充分利用 FPGA 流水線，使其本質上更高效。DNN 計算和數據移動的優化技術可以在 FPGA 硬件上更好地實現。FPGA 允許設計人員處理適合特定應用的數據包大小，且可為應用精準匹適和調整通信協議和拓撲。
與 ASIC 相比，FPGA 還為 AI 提供了重要優勢。無論制造商是否使用了更具成本效益的小芯片封裝技術，一旦 ASIC 被制造出來，設計人員或多或少會被計算的數據類型以及由器件到其外圍設備的數據流的性質所困擾。 FPGA 提供了一個更通用的平臺，它提供了 ASIC 的流水線并行能力，且沒有基于特定應用的傾向性、電路固化和高成本等缺憾。 FPGA 還受益于使用尖端電路設計、制造、晶圓加工和封裝技術的最先進工藝帶來的好處。越來越多的 FPGA 使用 FinFET 技術構建在 16nm或更精微的工藝節點1。但是，最終用戶可以或多或少地從這種先進工藝的成本負擔中得到紓解。因為與模擬/混合信號 IC、布局、信號完整性、電源完整性和半導體封裝工程師團隊相比，獲得 掌握VHDL技術的人才 不僅便宜得多，也要容易得多。軟 IP 核本身只是硬 IP 核成本的一小部分，比硬件過時相關的成本風險要小得多，因只要應用需求發生變化，I/O 接口也會隨之變化。
FPGA 生態系統概覽
到 2026 年，全球 FPGA 市場預計將超過 90 億美元，其中大部分增長歸功于數據中心和高性能計算應用?，F代 FPGA 市場主要由計算頻譜的兩個極端來驅動：一端是高端、高耗電的 FPGA；另一端是低端、膠合邏輯 FPGA（圖 2）。
在 1980 年代，FPGA 在具有晶體管-晶體管邏輯 (TTL) 的膠合邏輯中找到了自己的利基市場——用于快速設計和系統原型設計，將 IP 與通用 I/O 協議和通信接口“膠合”在一起。近十年后，FPGA 變得越來越復雜，引入了大型 SRAM 模塊、嵌入式數字信號處理 （DSP）模塊中的乘法器-累加器、嵌入式處理器軟核、I/O 和 SerDes 接口。這為之前由 CPU、GPU 和 SoC 主導的市場帶來了一定程度的設計靈活性，它能夠通過可重新配置的平臺生成軟 IP。數據中心開始利用功能強大的高端 FPGA 來提升大規模數據系統的性能，用于加密、壓縮、過濾和虛擬交換，作為從多核處理的一種轉變。這形成了性能和計算效率之間的平衡以及可重構性的額外巨大優勢。深度學習網絡正處于由新的層類型和不斷變化的數據集驅動的不斷升級的過程中?；谠撛?，FPGA 被寄予厚望、用于推理的可編程加速器。FGPA 已被證明是通過優化數據移動、修剪網絡、降低算術精度和稀疏化（sparsification）來有效實現 DL 算法的強大工具。
在這個不斷增長的AI應用生態系統中——更新的模型、優化技術和支持硬件加速——低端和高端 FPGA 之間的差距越來越明顯。自動航空機載和地面車輛、醫療保健、視覺識別、欺詐檢測以及更多應用的機會將不可避免地需要完全相同的可重新配置平臺，但要求采用更具成本效益、耗電更少的封裝。
圖 2：FPGA 及其潛在應用
使用可定制、經濟高效的 FPGA 打破定制芯片的束縛
本文主旨是揭示研制定制芯片的成本和專業知識方面的困難?？梢栽谑袌錾细偁幉⒆罱K推動適合 AI 小芯片的價格點和硬件能力的芯片制造商，幾乎組成了一個排他俱樂部。大行其道的通用 CPU 和 GPU 解決方案非常適合某些 AI 應用，但在其它應用中存在固有限制，這進一步限制了開發人員可用的解決方案。而易靈思的 FPGA 就非常適合需要低功耗、低延遲、低成本、小尺寸和易于開發的 AI 應用。
使用易靈思量子計算結構的 FPGA 體積小、功耗低且高效。它們是按批量級別來定價，其中最低端型號起價不超過 10 美元，開發套件起價為 48 美元（圖 3）。這些是預定義的標準產品，并且通過易靈思平臺進行了硬件加速、需要零 NRE，從而將上市時間縮短數年并可節省數百萬美元的開發成本。這些新的經濟方面的好處，重啟了曾因芯片開發成本而被窒息的可能性。它們的可重新編程特性確保了快速調試、降低了程序風險，且使最終的設計在現場部署之前（及之后）保有靈活性。設計人員可“免費”創新，可在每個產品的基礎上實現自定義功能，在標準芯片平臺中通過創新功能、區分產品 SKU。這之所以成為可能，是因為易靈思量子結構的突破性效率將高性能注入了主流市場。
圖 3：[一種比較其它流行 FPGA方案、關鍵 FPGA 參數（例如，LE 數量、大小、成本、外設數量等）的可能對比]
鈦金系列的規格概覽（圖 4）呈現了高密度計算架構與 DSP 模塊、高速 I/O 和收發器接口的集成，以滿足從低功耗小尺寸的邊緣應用到高性能工業自動化和嵌入式視覺應用的廣泛需求。這種 LE的密度與尺寸比形成了 FPGA 應用的新視野。易靈思的設計足夠小、功能足夠強大，既可以替代傳統的低端 FPGA（這些 FPGA 太小而無法容納完整的設計、因此用作橋接器件）；又可以取代將小型 FPGA膠合在一起的完全定制芯片。
圖 4：鈦金FPGA規范
易靈思 量子結構中的動態硬件和軟件分區
易靈思 FPGA 設計流程還采用了現在熟悉的開發方法，即在系統設計時最大程度地使用軟件，僅在需要提高性能的地方訴諸硬件。開源和軟件定義的 RISC-V 處理器可以在 FPGA 內免費實例化。它仿佛為設計人員提供了加速器的“插座”，把部分 C/C++ 代碼通過插入些小塊的硬件來加速執行。并且可以在同一個可配置結構中實現動態硬件和軟件分區，以實現最佳性能和效率、加快上市時間并降低開發成本。
RISC-V 指令集架構從它在加州大學伯克利分校低調的濫觴至今，已經有了巨大發展。作為 RISC-V 計劃的直接結果，現在已有一組豐富的開源軟核。因此，它已成為全域 AI 供應商（從商業科技巨頭到美國軍方）越來越受歡迎的芯片架構，與流行的 Arm 和 x86 架構競爭2。與許多開源軟件/硬件平臺一樣，該新興的 RISC-V 生態系統通過更高效、更安全的設計促進了更多協作。此舉降低了設計人員進入市場的障礙，能夠實例化最接近特定應用需求的 RISC-V 實現并相應地對其進行配置。設計人員可以在處理器上開發 C 代碼，當運行不可避免地變得太慢時，可以輕松地逐步將任何瓶頸遷移到 FPGA 中實現，直到滿足所需的系統性能。如果沒有 FPGA 平臺，這種直接的硬件加速很難實現——即使在現場部署設備后，用戶仍然可以使用該功能。
在更精微的芯片工藝的實現成本變得非線性飆升的情況下，持續的芯片工藝迭代變得越來越難以證明其合理性。然而，加大的集成度增加了封裝的復雜性和成本。這種復雜性的增加會導致設計時間延長、費用增加。由于這些因素，從 IC 的批量生產中獲得利潤的營利在下降。首先，競爭的加劇為消費者提供了更多選擇，從而減少了每款產品的出貨量。競爭的加劇還縮短了產品的使用壽命和供貨周期。新的計算密集型節點和技術必須越來越敏捷，不僅要支持不斷變化的市場需求，還要跟上深度學習模型的升級。對于很多復雜度適中的人工智能應用，由于缺乏合適的 FPGA，導致設計人員只能依賴定制小芯片或嵌入式處理器進行硬件加速。 易靈思 肇始的新 FPGA 經濟視野，使設計人員能夠在一個將為社會帶來革命性利益的領域中更靈活地進行創新。這可以說是千載難逢的量子劇變，為產品設計的可能性提供了這樣一個拐點——遠離定制芯片的死胡同，進入任運揮灑的定制FPGA 的新篇章。
參考
1https://www.marketsandmarkets.com/Market-Reports/fpga-market-194123367.html
2https://spectrum.ieee.org/riscv-rises-among-chip-developers-worldwide#toggle-gdpr
(本文由易靈思供稿，電子工程專輯對文中陳述、觀點保持中立)
責編：Luffy Liu
