為深度學習而生的NPU,未來會統治世界嗎?
文章推薦指數: 80 %
導語:深度學習舞台上,低功耗、高速度的NPU是絕對主角。
文/馬蘭
隨著人工智慧和深度學習逐漸進入人們視野,中科院、谷歌、IBM、英偉達等中美科研機構和商業公司也紛紛推出了用於深度學習的處理器,以滿足速度和低能耗方面的需求。
現在的晶片,既有CPU、GPU、DSP這樣的傳統晶片,也有專門為深度學習而生的NPU。
這些深度學習處理器各有什麼特點,誰更出彩呢?
NPU、CPU、GPU,傻傻分不清?
對於CPU用電腦的人都會非常熟悉,而與其是一詞的NPC,又是什麼呢?CPU,中文名稱為中央處理器,英文全稱center process
units,是一台計算機的運算核心和控制核心,是一款通用處理器,滿足最廣泛的通用計算需求。
它的功能主要是解釋計算機指令以及處理計算機軟體中的數據。
一般工作原理是從存儲器或高速緩衝存儲器中取出指令,放入指令寄存器,並對指令解碼,把指令分解成一系列的微操作,然後發出各種控制命令,執行微操作系列,從而完成一條指令的執行。
GPU,又稱為圖形處理器,英文全稱Graphic Processing Unit,主要是顯示卡的「心臟」。
它對顯示卡的重要性相當於CPU在電腦中的作用,決定了該顯卡的檔次和大部分性能,同時也是2D顯示卡和3D顯示卡的區別依據。
其中,2D顯示晶片在處理3D圖像和特效時主要依賴CPU的處理能力,稱為「軟加速」。
其實,與CPU、GPU相同,NPU也是一種處理器。
不過,NPU是一種網絡處理器,是嵌入式神經網絡處理器,採用「數據驅動並行計算」的架構,特別擅長處理視頻、圖像類的海量多媒體數據。
NPU:為深度學習而生的專業晶片
由於深度學習的基本操作是神經元和突觸的處理,而傳統的處理器指令集是為了進行通用計算髮展起來的,其基本操作為算術操作(如加減乘除算法)和邏輯操作(如與或非判斷),往往需要數百甚至上千條指令才能完成一個神經元的處理,深度學習的處理效率不高。
因此,在原來條件下,谷歌需要使用上萬個x86 CPU核運行7天來訓練一個識別貓臉的深度學習神經網絡。
可見,傳統的通用處理器用於深度學習的處理效率不高,這時就必須去研發麵向深度學習的專用處理器。
此時,低功耗、高速度的NPU應運而生,成為完美的深度學習的處理器。
NPU ,英文全稱Network Processing Unit,稱為網絡處理器,採用「數據驅動並行計算」的架構,徹底顛覆了傳統的馮諾依曼架構。
這種數據流類型的處理器,單顆NPU(28nm)能耗僅為400mW,極大地提升了計算能力與功耗的比例,特別擅長處理視頻、圖像類的海量多媒體數據,使得人工智慧在嵌入式機器視覺應用中可以大顯身手。
相較而言,NPU在功耗上面比CPU低很多。
而且從長遠來看,CPU跑大型算法模型較為吃力。
同時,NPU也具有類似GPU的並行計算特點。
火熱的NPU概念股與無主流NPU廠商的尷尬
因此,可以說,在人工智慧火熱的階段,NPU無疑是業內焦點。
專家甚至認為,「在NPU這類晶片真正投入到嵌入式設備中,智能硬體才算是有了可堪大用的智能計算平台」。
並預測,未來NPU將廣泛應用於高清視頻監控、智能駕駛輔助、無人機、機器人等嵌入式機器視覺領域。
與之前,GPU概念受熱捧一樣。
由於GPU響應速度快,對能源需求遠遠低於CPU,可以平行處理大量瑣碎信息,並在高速狀態下分析海量數據,在AR/VR遊戲、自動駕駛等領域,應用前景廣闊,所以GPU概念受熱捧。
如上市公司景嘉微已實現軍用GPU的國產化,公告擬投資1.63億元加碼GPU項目建設。
通富微電則表示通過收購AMD蘇州和AMD檳城各85%股權,進軍GPU封裝測試領域。
現在,概念股的火熱蔓延到了NPU,資本市場上甚至催生出了「NPU概念股」。
可是直至目前,國內外仍未有主流的NPU廠商產生。
不過,今年6月20日,中星微率先推出中國首款NPU晶片,這是全球首顆具備深度學習人工智慧的嵌入式視頻採集壓縮編碼系統級晶片。
他們表示,這款基於深度學習的晶片運用在人臉識別上,最高能達到98%的準確率,超過人眼的識別率。
該晶片於今年3月6日實現量產,目前出貨量為十幾萬件。
不過,也有人其認為此次中星微推出的NPU晶片,主要面向的是安防領域應用,是否適合機器學習使用仍待觀察。
結語:從長遠來看,NPU將是未來的智能硬體中均不可或缺這麼一塊晶片,註定會席捲世界!只是現在還不太成熟,需要有更多的金錢和企業投入到具體的研究中,只有研究出了好產品,然後推出通用型晶片,再多多接受市場的磨鍊,才能設計出更加符合市場需求的產品和穩定性更好的產品。
2016年人工智慧技術進展大盤點
作者簡介:趙永科,筆名卜居,CSDN博主,堅持寫技術博客8年。現就職於阿里雲計算有限公司,從事異構平台上的人工智慧算法優化與系統設計,熱愛讀書和NES遊戲。著有《深度學習:21 天實戰 Caff...
2017年全球AI晶片公司大盤點
2017年,我們被AI公司的融資信息一次次刷屏,從2千萬到1億美金,讓我驚詫道,AI的黃金年代真的來了嗎?接下來讓我們一起回顧一下2016-2017年AI晶片公司融資概況。
阿法狗刷屏,晶片商扎堆深度學習,中國AI扛旗者在哪?
在AlphaGo阿法狗第一局戰勝圍棋高手李世石後,英國《金融時報》中文版頭條文章為:網際網路終結,人工智慧崛起。此時此刻,網際網路時代的領先者和弄潮兒不落窠臼,一場革命就要到來,他們似乎正在拋棄...
一文讀懂深度學習,值得收藏!
今天,中天微宣布與深鑒科技達成一項智慧財產權合作框架協議,雙方將利用各自在嵌入式通用處理器以及深度學習處理方面的技術優勢,合作構建具有中國智慧財產權的人工智慧SoC平台與解決方案。
51連接器|全球人工智慧晶片公司大盤點,我國有哪些企業
AI晶片分類:從功能來看,可以分為Training(訓練)和Inference(推理)兩個環節;從應用場景來看,可以分成「Cloud/DataCenter(雲端)」和「Device/Embedd...