晶片巨頭Arm推AI開發全套件,聯合四大學降低AI門檻

文章推薦指數: 80 %
投票人數:10人

智東西(公眾號:zhidxcom)文 | 軒窗

智東西9月14日消息,今天全球晶片架構IP授權商Arm在上海舉辦人工智慧開發者峰會。

會上,Arm中國、瑞芯微以及OPEN AI LAB聯合發布了,面向開發者教育的嵌入式人工智慧應用開發平台EAIDK (Embedded AI Development Kit),連接晶片、算法到應用。

同時,Arm今天也宣布推出第一塊用於AI/ML的開發板卡EAIDK-610。

此外,Arm中國也表示,正在開展AI大學教育和開發者節計劃,首批有南京大學、浙江大學、武漢大學和上海理工大學四所高校。

一、軟硬體一體化開發套件EAIDK

安謀科技(中國)副總裁金勇斌表示,過去26年里,基於Arm架構的晶片市場份額達到了一千億台,而隨著AI技術的發展,衝上下一個一千億的時間將會從26年壓縮到4年,到2020年左右可以達到。

不過,隨著IoT x AI=AIoT的時代到來,終端設備應用開發生態,雖然存在著,差異化、場景化和普及化的市場機會,但也存在著碎片化、定製化和入門難的挑戰。

比如,有晶片和應用場景的開發者缺少算法和平台、有算法的開發者缺少好的嵌入式跨平台框架、有算法和硬體平台的開發者則找不到算力優良的嵌入式平台。

為此,Arm聯合OPEN AI LAB、瑞芯微推出嵌入式AI開發安全套件EAIDK(Embedded AI Development Kit),包含硬體平台、嵌入式人工智慧平台、人工智慧算法以及應用軟體的一體化開發平台。

金勇斌告訴智東西,從今年4月份開始,Arm就有了此套方案的構想,今天則推出第一塊開發板卡EAIDK-610。

硬體方面,EAIDK-610基於瑞芯微RK3399晶片,同期也推出了不少配件,包括嵌入式可編程接口板、高清相機模組、4K相機模組、以及MIPI接口和eDP接口的顯示觸摸一體化屏等選件。

軟體層面,EAIDK搭載了OPEN AI LAB的核心AI開發平台AID,包含支持異構計算的嵌入式深度學習推理加速引擎Tengine、計算庫HCL、ML/DL視覺/語音算法庫,為AI應用開發者提供簡潔、高效、統一的API接口。

二、神經網絡推理引擎Tengine

Tengine是一款輕量級模塊化高性能的神經網絡推理引擎,專門針對Arm嵌入式設備優化,支持Arm Cortex CPU、Arm Mali GPU、Arm DLA以及第三方DSP。

開發者可以使用Tengine在主流框架模型和嵌入式作業系統間切換,還能異構調度平台里的各類硬體,充分利用硬體算力。

此外,Tengine還提供了常見AI應用算法,包括圖像檢測,人臉識別,語音識別等。

Tengine同時還支持各類常見卷積神經網絡,包括SqueezeNet,MobileNet,AlexNet,ResNet等,支持層融合、8位量化等優化策略,並且通過調用針對不同CPU微構架優化的HCL庫,將Arm CPU的性能充分挖掘出來。

在Tengine框架中,HCL計算庫將作為其一個插件,是性能最快的Arm CPU NN計算庫,並且支持動態8位量化計算,精度幾乎不變,相比於NCNN最快能帶來2-3倍的性能提升,內存使用減少為三分之一。

Tengine不僅對上層應用提供推理API接口,支持主流模型與格式,還在下層定義硬體接口,適配嵌入式平台各類計算模塊,支持同時運行多個AI應用算法以及調用多個計算模塊計算。

Tengine可以使應用和算法廠商擺脫複雜的嵌入式平台適配工作,配合HCL直接挖掘硬體的潛能,晶片廠商可以利用它以最快速度開發晶片,並將其應用於邊緣AI應用中。

三、投身AI開發者教育的Arm

作為全球晶片架構IP授權商,ARM的晶片架構代號在業內耳熟能祥,如去年推出的 CPU架構Cortex-A76。

目前,ARM在全球擁有3家設計團隊,分別是位於美國德州的奧斯丁團隊、位於法國南部的索菲亞團隊以及位於英國大本營的劍橋團隊。

今年4月ARM在中國成立合資公司——安謀科技(中國),中方投資者占股51%,ARM占股49%,接管ARM在國內的所有業務。

安謀科技(中國)商務副總裁劉潤國表示,Arm看好中國的產業鏈、生態和資本優勢,未來將開發出符合中國產業的IP方案。

Arm公司機器學習市場開發總監John Kourentis認為AI正在無處不在,並且正在向著終端移動,寬頻、電力、支付、駕駛、安全等領域。

2017年初,Arm曾經推出了一套全新晶片架構技術DynamIQ,不僅採用了新的指令集,專門針對人工智慧進行了優化;而且同時可容納8個核,並且提高了晶片架構的靈活性,支持大小核的靈活配置。

今年3月,ARM推出了一套全新的Mali多媒體IP套件,適用於手機、平板、電視等終端。

目前,Arm中國正在開展AI大學教育和開發者節計劃,首批有四家高校:南京大學、浙江大學、武漢大學和上海理工大學。

此外,金勇斌也說到,Arm此前在中國已與500所高校建立了直接聯繫。

結語:Arm正在積極擁抱端智能

Arm是智能設備第一大主流晶片架構提供商,全球有超過90%的智能設備採用了其晶片架構。

隨著深度學習在終端設備上的應用,端智能時代已經逐步到來。

在此之時,Arm也開始不遺餘力地推動端智能時代的發展。

從今年開始,Arm先是通過優化晶片GPU性能,使中低端設備更容易切入端智能,將AI能力推向平民化。

在底層硬體打完基礎後,今天Arm將目光聚焦到了應用開發者的身上。

無論是在中國建立合資公司,還是積極與中國的產業鏈以及開發者互動,我們都可以看出Arm已將端智能發展作為一項重要的戰略,正在積極擁抱端智能。

而在Arm的積極入局後,終端領域的AI應用開發也將進入全面平民化的前夜。


請為這篇文章評分?


相關文章 

2016年人工智慧技術進展大盤點

作者簡介:趙永科,筆名卜居,CSDN博主,堅持寫技術博客8年。現就職於阿里雲計算有限公司,從事異構平台上的人工智慧算法優化與系統設計,熱愛讀書和NES遊戲。著有《深度學習:21 天實戰 Caff...