AI應用需要怎樣的硬體加速？ - 電子工程專輯

對於人工智慧/機器學習應用，需要有高運算能力的運算單元、高效高速資料傳輸以及高儲存頻寬。

摩爾定律從2003年開始放緩。

為了延續性能倍增、功耗減半， ... 【下周直播】工業大數據即服務，以數據驅動製造業數位化轉型！ 立即報名>> 登入 註冊 聯繫 首頁 新聞 TechRoom 產品新知 網通技術 電源技術 控制技術 可程式邏輯技術 處理器技術 感測器/MEMS技術 EDA/IP技術 光電技術 儲存技術 介面技術 無線技術 製造技術 放大/轉換技術 嵌入式系统 測試/量測技術 下載 線上研討會 小測驗 影音 視訊 onAir 申請中心 研討會與活動 EEAwardsAsia 雜誌 各期雜誌線上看 2022年2月雜誌 編輯計劃表 訂閱雜誌 X 首頁»市場脈動»AI應用需要怎樣的硬體加速？ AI應用需要怎樣的硬體加速？ 作者:FranklinZhao,EDNChina 類別:市場脈動 2019-01-09 (0)評論 摩爾定律現已打破。

未來性能成長需要依賴架構上的改變，即需要利用可程式的硬體加速器來實現性能成長。

對於人工智慧/機器學習應用，需要有高運算能力的運算單元、高效高速資料傳輸以及高儲存頻寬。

摩爾定律從2003年開始放緩。

為了延續性能倍增、功耗減半，英特爾(Intel)CPU採用多核心來實現。

然而，到2015年以後，多核心也達不到了。

核心數每增加一倍，運算性能並不能成倍成長。

因此，業界需要尋找新的方法來實現延續，比如針對應用進行硬體加速。

人工智慧(AI)的硬體加速，如果想要做得好的話，需要具備三個條件：運算能力很強、資料傳輸高效、記憶體頻寬高。

業界衡量性能的指標包括性能功耗比和性能價格比。

硬體加速應用六大應用場景【白皮書免費下載】解密RF訊號鏈：特性和性能指標 日前，AchronixSemiconductor行銷副總裁SteveMensor指出，硬體加速應用有幾大類應用場景： Achronix行銷副總裁SteveMensor 雲端加速。

涉及壓縮解壓縮、區塊鏈和安全等，需要很高的運算能力和功耗成本比。

邊緣運算。

很多應用由於需要低延遲，不允許將數據傳到資料中心處理，而需要在邊緣處理，並且需要低功耗。

儲存。

有些應用需要高效率，因而要求在記憶體中進行資料處理。

5G基礎設施。

5G網路中的BBU(基頻單元)和RRU(射頻遠端單元)，其協定處理有很大不確定性，需要用FPGA來程式設計。

傳統的網路加速需要用FPGA，而現在網路中出現了新的智慧網卡，要求在發給伺服器之前進行加解密、壓縮解壓縮等各種處理。

自動駕駛。

涉及人工智慧、資料運算和感測器融合等，需要具有可程式設計性。

人工智慧/機器學習應用為何需要FPGA？ FPGA在人工智慧/機器學習(AI/ML)上扮演重要角色。

AI涵蓋各種應用和層面，工業、教育、政府、農業等各行各業都可以運用。

個人電腦在1980年到2000年成長很快。

從2000年開始(包括智慧型角手機的出現)，無線網路成長更快。

而在未來，據估計，隨著5G的到來，AI的成長又將會更快。

據估計，在半導體業務方面，到2024年，AI將佔有約500億美元市場。

Mensor介紹，硬體加速從實現上看可以有幾種不同選擇：CPU、GPU、FPGA和ASIC。

CPU最有靈活性，能夠覆蓋各種不同應用，但它的能力(效率)最弱。

ASIC的成本、性能和功耗最好，但它不能改變。

目前AI演算法層出不窮，ASIC不能滿足各種要求。

可程式硬體加速的選擇（來源：AchronixSemiconductor） 若要同時具有可程式設計性和效率，則可以採用GPU和FPGA。

在功耗和效率上，FPGA比GPU更強。

尤其是在AI推理上，對於低精度場景，FPGA的性能功耗比比GPU大16倍。

Mensor補充說：「GPU更適合用在伺服器側，而FPGA則更適合用在邊緣側。

」FPGA適合做推理，GPU適合做訓練。

FPGA的優勢（來源：AchronixSemiconductor） 7nmeFPGA性能增強 日前，Acronix推出新的7nm架構IP——Speedcore7t，在功耗、性能和晶片尺寸(PPA)上均有改進。

從製程上看，7nm比16nm快60%。

同時，它針對AI/ML做了新的架構改進(第四代架構)，對於AI/ML應用，性能比16nm成長3倍。

此外，相比16nm，其功耗降低50%，裸片面積減少2/3。

7nm相對16nm在架構上做了很大改變，例如演算邏單元(ALU)增加一倍，佈線佈局做了改善，並且針對AI/ML運算增加了新的模組(詳見下圖)。

ALU和MAX針對AI/ML更有效率，其他四個則適用於所有應用，他補充說。

從走線架構來看，相對於傳統架構，它增加了bus走線，這對很多應用都很有用，例如現在有的AI應用資料高達512位元。

Bus走線是在傳統走線之上，是另外一層，沒有佔用傳統LE(邏輯單元)和開關等等。

尤其是在AI/ML方面更有效率，Mensor指出。

下一代佈線結構（來源：AchronixSemiconductor） 除了bus走線以外，它還增加了busmux，例如4進1出(不固定，也可以是2或3個)。

AI/ML應用可能有幾個不同記憶體輸入，如果用傳統方法來做，則可能消耗很多LUT/LE資源以及佈線佈局資源。

而新的bus佈線則不會佔用到這些資源。

此外，其性能比傳統方法實現2倍成長。

…繼續閱讀請連結EDNTTaiwan網站 訂閱EETimesTaiwan電子報 加入我們官方帳號LINE@，最新消息一手掌握！ 分享TwitterFacebookLinkedInPrintMoreRedditTumblrPinterestPocketTelegramWhatsAppSkype Related 文章Tag: 人工智慧可程式邏輯技術運算 發表評論 取消回覆 YoumustRegisteror Logintopostacomment. 訂閱EETimesTaiwan電子報 最新文章 最熱門文章 2022-03-11 美分析師：Nvidia被駭是國家災難 2022-03-11 技術再進化　SiC半導體2022年榮景可期 2022-03-11 A2B如何為汽車應用SOTA帶來變革 2022-03-11 「車輪上的資料中心」全球汽車調查結果 2022-03-11 裝置安全性將直接影響企業盈虧 2021-10-21 新標準讓嵌入式快閃記憶體元件更容易替換 2022-03-02 元件造假新套路：「木馬」嵌入FPGA或記憶體 2022-03-07 2025年Intel真有機會重回王座嗎？ 2020-01-13 用AI幫你的廣告文案找靈感！ 2019-07-03 從雲端走入凡間：「AIattheEdge」商機發酵中 2020-12-07 又是不怎麼智慧的智慧家庭設定… 2020-10-26 AiP技術為毫米波雷達帶來的演進與創新 2020-09-23 振興美國晶片製造業就對了？學者提異見 2020-08-12 H1-B簽證凍結　美科技業憂人才流失 2020-06-24 為何從不曾在高壓電線上看到鳥兒？ 最新文章 GPU 2022-03-11 美分析師：Nvidia被駭是國家災難 MOSFET 2022-03-11 技術再進化　SiC半導體2022年榮景可期 ECU 2022-03-11 A2B如何為汽車應用SOTA帶來變革 5G天線 2022-03-11 「車輪上的資料中心」全球汽車調查結果 數位轉型 2022-03-11 裝置安全性將直接影響企業盈虧 最熱門文章 JEDEC 2021-10-21 新標準讓嵌入式快閃記憶體元件更容易替換 Counterfeitpart 2022-03-02 元件造假新套路：「木馬」嵌入FPGA或記憶體 Core處理器 2022-03-07 2025年Intel真有機會重回王座嗎？ CES 2020-01-13 用AI幫你的廣告文案找靈感！ EDA/IP技術 2019-07-03 從雲端走入凡間：「AIattheEdge」商機發酵中 EET電子工程專輯©2022本網站內之全部圖文，係屬於eMediaAsiaLtd所有，非經本公司同意不得將全部或部分內容轉載於任何形式之媒體 關於我們 隱私政策 用戶協議 繼續瀏覽網站