用於終端AI加速的10大處理器 - 電子工程專輯
文章推薦指數: 80 %
無論是處理器巨擘還是產業新貴,都在盡力提供差異化產品——本文列出了目前市場上最具代表性的10款AI加速處理器。
人工智慧(AI)和機器學習(ML)應用的加速是 ...
【下周直播】工業大數據即服務,以數據驅動製造業數位化轉型!
立即報名>>
登入
註冊
聯繫
首頁
新聞
TechRoom
產品新知
網通技術
電源技術
控制技術
可程式邏輯技術
處理器技術
感測器/MEMS技術
EDA/IP技術
光電技術
儲存技術
介面技術
無線技術
製造技術
放大/轉換技術
嵌入式系统
測試/量測技術
下載
線上研討會
小測驗
影音
視訊
onAir
申請中心
研討會與活動
EEAwardsAsia
雜誌
各期雜誌線上看
2022年2月雜誌
編輯計劃表
訂閱雜誌
X
首頁»處理器技術»用於終端AI加速的10大處理器
用於終端AI加速的10大處理器
作者:SallyWard-Foxton,EETimes歐洲特派記者
類別:EDA/IP技術
2020-06-16
(0)評論
AI和ML應用處理器不斷湧現,加速了幾乎所有神經網路的處理工作。
無論是處理器巨擘還是產業新貴,都在盡力提供差異化產品——本文列出了目前市場上最具代表性的10款AI加速處理器。
人工智慧(AI)和機器學習(ML)應用的加速是一個相對較新的領域,各種各樣的處理器不斷湧現,加速了幾乎所有神經網路的處理工作。
無論是處理器巨擘還是產業新貴,都在盡力提供差異化產品——或是針對不同的垂直市場、應用領域或功率預算,或是具有不同的價位。
本文列出了目前市場上最具代表性的10款AI加速處理器。
應用處理器
英特爾MovidiusMyriadX【白皮書免費下載】採用RTD的高EMC性能精密溫度測量解決方案
MyriadX由愛爾蘭新創公司Movidius開發,該公司於2016年被英特爾收購。
MyriadX是Movidius的第三代視覺處理單元,也是首款搭載專用神經網路運算引擎的處理器,可提供1TOPS的運算能力,專門用於深度神經網路(DNN)運算。
神經網路運算引擎與高傳輸量智慧記憶體直接連接,避免了資料傳輸時的任何儲存瓶頸。
MyriadX支持FP16和INT8運算,擁有一個核心群(包含16個專有SHAVE核心),以及升級擴展版的視覺加速器。
MyriadX可用於第二代英特爾神經運算棒(NCS2),NCS2實際上是外形跟隨身碟一樣的評估平台。
它可以插入任何工作站,使AI和電腦視覺應用能夠快速啟動並在專用的Movidius硬體上運作。
恩智浦半導體i.MX8MPlus
i.MX8MPlus是一款異質應用處理器,採用芯原的專用神經網路加速器IP(VivanteVIP8000)。
它為消費者及工業物聯網終端設備提供2.3TOPS的推理加速能力,足以完成多個物體的辨識、40,000個單詞的語音辨識,甚至還可以對醫學影像進行分類(MobileNetv1每秒對500個影像進行分類)。
圖1恩智浦的i.MX8MPlus是該公司首款搭載專用神經網路加速器的應用處理器,專為物聯網應用而設計。
(圖片來源:恩智浦半導體)
除神經網路處理器以外,i.MX8MPlus還搭載運作速度為2GHz的4核心ArmCortex-A53子系統,以及Cortex-M7即時子系統。
針對視覺應用,它提供兩個影像訊號處理器,可以支援兩個立體視覺高畫質相機或一個12MP相機。
針對語音應用,它提供一個800MHzHiFi4音訊數位訊號處理器(DSP),可用於語音資料的預處理和後處理。
XMOSxcore.ai
xcore.ai用於實現人工智慧物聯網(AIoT)應用中的語音控制。
它是一種交叉處理器,兼具應用處理器的性能,以及微控制器的低功耗與即時操作特性,用於語音訊號的機器學習推理。
圖2XMOS的xcore.ai採用專有架構,專為語音應用中的AI處理而設計。
(圖片來源:XMOS)
它採用XMOS專有的Xcore架構,包含的邏輯核心可用於I/O、DSP、控制功能或AI加速。
每顆xcore.ai晶片上有16個這樣的核心,設計人員可以根據需要選擇為每個功能分配多少個核心。
透過將不同功能映射到韌體中的邏輯核心,可以創建一個「虛擬SoC」,這完全是由軟體實現。
XMOS還在Xcore中增加了向量管道功能,用於機器學習。
xcore.ai支援32位元、16位元、8位元和1位元(二進位)網路,可提供3,200MIPS、51.2GMACC和1,600MFLOPS的運算能力,同時擁有1MB嵌入式SRAM,以及一個低功耗DDR擴展介面。
車用SoC
德州儀器TDA4VM
TDA4VM是德州儀器(TI)首款搭載專用深度學習加速器的SoC,是應用於汽車先進駕駛輔助系統(ADAS)的Jacinto7系列的一部分。
該模組採用C7×DSP及內部開發的矩陣乘法加速器(MMA),運算能力高達8TOPS。
圖3德州儀器的TDA4VM用於複雜的ADAS,使車輛能夠感知周圍環境。
(圖片來源:德州儀器)
這款SoC可以處理來自一個8MP前置攝影機的視訊串流,或者處理來自4~6個3MP攝影機加上雷達、光達(LiDAR)和超音波感測器的組合資料。
例如,在自動代客泊車系統中,其搭載的MMA可用於對這些輸入資料進行感測器融合。
TDA4VM專為5W~20W的ADAS應用而設計。
該產品目前處於預生產階段,但已有可用的開發套件。
GPU
NvidiaJetsonNano
Nvidia著名的JetsonNano是一款外形小但功能強大的GPU模組,專門針對終端設備中的AI應用。
該公司表示,與大多數Jetson系列產品(AGXXavier和TX2)一樣,Nano模組上的GPU採用Maxwell架構,有128個核心,運算能力達到0.5TFLOPS,足以處理多個高解析度影像感測器的資料流程並執行多個神經網路,功耗僅為5W,該模組還搭載了4核心ArmCortex-A57CPU。
圖4Nvidia的JetsonNano模組搭載具有128個核心的強大GPU,適合邊緣AI應用。
(圖片來源:Nvidia)
與Nvidia其他產品一樣,JetsonNano也採用了Nvidia的神經網路加速庫CUDAX,價格便宜的JetsonNano開發套件已經上市。
消費性輔助處理器
KneronKL520
耐能(Kneron)是台灣旅美科學家在美國成立的一家新創公司,首款產品為KL520神經網路處理器,專用於智慧家居、安防系統和行動裝置等應用中的影像處理和人臉辨識。
經過最佳化,它可以運作影像處理中常用的卷積神經網路(CNN)。
圖5Kneron的KL520採用可重配架構和巧妙的壓縮技術,在行動裝置和消費類設備中完成影像處理。
(圖片來源:Kneron)
KL520運算能力達到0.3TOPS,功耗僅為0.5W(相當於0.6TOPS/W)。
該公司稱其晶片MAC效率超過90%,能夠實現精確的人臉辨識,晶片架構可重新配置,並針對不同的CNN模型量身定制。
Kneron的輔助編譯器採用壓縮技術,能夠在有限的晶片資源內執行更大的模型,從而節省了功耗和成本。
KL520現已上市,製造商AAEON的加速卡中(M2AI-2280-520)也使用了這款處理器。
GyrfalconLightspeeur5801
Gyrfalcon的Lightspeeur5801是為消費性電子產品市場而設計,可提供2.8TOPS的運算能力,功耗為224mW(相當於12.6TOPS/W),延遲僅為4ms。
Gyrfalcon採用了比其他架構更節能的「記憶體內處理器(processor-in-memory)」技術,並且可以在50MHz和200MHz之間改變時脈速度,從而相應地調節功耗。
Lightspeeur5801包含10MB記憶體,因此整個模型都可裝在晶片上。
Lightspeeur5801是該公司生產的第四款晶片,已經用在LG的Q70中階智慧型手機中,用於相機效果的推理,5801PlaiPlugU盤開發套件現已上市。
超低功耗
EtaComputeECM3532
ECM3532是EtaCompute的第一款產品,在物聯網電池供電或能量採集設備中用於AI加速。
在影像處理和感測器融合等一直在執行的應用中,其功耗可低至100μW。
該晶片搭載兩款核心,ArmCortex-M3微控制器核心和恩智浦半導體CoolFluxDSP。
它採用專有的電壓和頻率調節技術,可以調節每個時脈週期,以充分利用兩個核心的每一瓦功率,兩個核心的任何一個都可以執行機器學習…
…完整閱讀請連結EDNTaiwan網站
訂閱EETimesTaiwan電子報
加入我們官方帳號LINE@,最新消息一手掌握!
分享TwitterFacebookLinkedInPrintMoreRedditTumblrPinterestPocketTelegramWhatsAppSkype
Related
文章Tag:
人工智慧機器學習處理器
發表評論
取消回覆
YoumustRegisteror
Logintopostacomment.
訂閱EETimesTaiwan電子報
最新文章
最熱門文章
2022-03-11
技術再進化 SiC半導體2022年榮景可期
2022-03-11
A2B如何為汽車應用SOTA帶來變革
2022-03-11
「車輪上的資料中心」全球汽車調查結果
2022-03-11
裝置安全性將直接影響企業盈虧
2022-03-11
創意電子發佈2.5D與3D多晶粒APT平台
2022-03-07
2025年Intel真有機會重回王座嗎?
2021-10-21
新標準讓嵌入式快閃記憶體元件更容易替換
2022-03-02
元件造假新套路:「木馬」嵌入FPGA或記憶體
2020-01-13
用AI幫你的廣告文案找靈感!
2019-07-03
從雲端走入凡間:「AIattheEdge」商機發酵中
2020-12-07
又是不怎麼智慧的智慧家庭設定…
2020-10-26
AiP技術為毫米波雷達帶來的演進與創新
2020-09-23
振興美國晶片製造業就對了?學者提異見
2020-08-12
H1-B簽證凍結 美科技業憂人才流失
2020-06-24
為何從不曾在高壓電線上看到鳥兒?
最新文章
MOSFET
2022-03-11
技術再進化 SiC半導體2022年榮景可期
ECU
2022-03-11
A2B如何為汽車應用SOTA帶來變革
5G天線
2022-03-11
「車輪上的資料中心」全球汽車調查結果
數位轉型
2022-03-11
裝置安全性將直接影響企業盈虧
ASIC
2022-03-11
創意電子發佈2.5D與3D多晶粒APT平台
最熱門文章
Core處理器
2022-03-07
2025年Intel真有機會重回王座嗎?
JEDEC
2021-10-21
新標準讓嵌入式快閃記憶體元件更容易替換
Counterfeitpart
2022-03-02
元件造假新套路:「木馬」嵌入FPGA或記憶體
CES
2020-01-13
用AI幫你的廣告文案找靈感!
EDA/IP技術
2019-07-03
從雲端走入凡間:「AIattheEdge」商機發酵中
EET電子工程專輯©2022本網站內之全部圖文,係屬於eMediaAsiaLtd所有,非經本公司同意不得將全部或部分內容轉載於任何形式之媒體
關於我們
隱私政策
用戶協議
繼續瀏覽網站
延伸文章資訊
- 1針對AI SoC嵌入式處理器IP進行標準檢測的7個竅門 - Synopsys
處理器標準檢測(processor benchmarking)就是種經過檢驗而可靠的方法,能幫助工程師找出一些答案。但即使如此,想要在處理器上執行的AI 演算法類型仍會對其效能產生 ...
- 2邊緣人工智慧與電腦視覺解決方案資源 - Intel
CPU. Intel 的CPU 是大多數一般AI 工作負載最靈活的處理器,並且是整合在矽晶片中的AI 增強功能(例如Intel® Deep Learning Boost,Intel® AVX 5...
- 3Nvidia新戰略,要推出自己的CPU產品,為擴大運算戰地搶進AI ...
這顆伺服器CPU的問世,也將是繼GPU、DPU後,Nvidia所推出的第3種運算基礎技術,用以重新架構資料中心推進AI的能力,更將替該公司搶進AI資料中心補足 ...
- 4適用於電腦、筆記型電腦、伺服器與AI 的Intel® 處理器
Intel® 處理器能為您帶來兼顧業務與個人用途的世界級效能。依裝置類型(如筆記型電腦、桌上型電腦、工作站與伺服器)從眾多的處理器中挑選。探索最適合沉浸式遊戲、 ...
- 5用於終端AI加速的10大處理器 - 電子工程專輯
無論是處理器巨擘還是產業新貴,都在盡力提供差異化產品——本文列出了目前市場上最具代表性的10款AI加速處理器。 人工智慧(AI)和機器學習(ML)應用的加速是 ...