AI裝置端產品與晶片之技術發展趨勢分析

對於各議題所發展的研發技術項目如下：. （一）半通用AI晶片：解AIoT少量多樣議題，協助IC設計業者掌握自主具設計彈性(可重組、可延展) ... 趨勢觀點 現在位置： 首頁 趨勢觀點SmartIC AI裝置端產品與晶片之技術發展趨勢分析 AI裝置端產品與晶片之技術發展趨勢分析 109-12-13 臺灣人工智慧晶片聯盟張世杰副會長工業技術研究院產科國際所范哲豪 我國半導體產業在全球具舉足輕重的地位，若想要固本攻頂，勢必要在AI晶片產業上有更積極的作為。

前言近年來人工智慧發展進入前所未有的高速成長期，所衍生之技術也陸續落實到一般大眾生活。

從產業發展來看，AI已對現有的硬體、軟體、演算法、系統、商模等帶來快速革新，其影響遍及個人、社會、產業、政府，因此AI已成為產業或國家競爭力的指標。

根據工研院最新發布的「亞洲2030前瞻科技調查」報告，未來十年亞洲最看重的前十大技術發展項目中，首選是AI/機械學習技術，也是目前我國發展的重要關鍵。

發展人工智慧(AI)技術，除須考量資料收集與處理、演算模式、應用需求等，硬體效能也是AI設計中非常重要的一環。

因此不僅全球各大半導體業者均積極布局AI晶片相關技術與產品，全球幾個具硬體發展能量的國家，紛紛將AI晶片列為國家戰略發展目標，如美國在2018年開始了「美國電子復興計畫」，預計於五年之內投入15億美元。

另一方面，中國大陸2017年提出「新一代人工智能發展規劃」，目標在2030年領先世界，以取得全球AI制高點。

日、韓等半導體強國也都進行大規模的投資，以搶進全球AI強國之列，更牽動了AI晶片霸權新賽局。

我國半導體產業在全球具舉足輕重的地位，若想要固本攻頂，勢必要在AI晶片產業上有更積極的作為。

資料來源：工研院產科國際所 圖1　各國政府皆已高度投入AI技術發展 資料來源：工研院產科國際所 圖2　全球AI晶片之產品布局 AI裝置端晶片技術發展趨勢及挑戰過去AI運算主要是在雲端上進行，國際大廠在雲端的軟硬體系統皆大幅領先，我國過去擅長的產業優勢難以進入其市場。

然而，在低延遲應用需求擴增、雲端傳輸成本過高及使用者隱私考量等因素下，AI推論運算的需求已由雲端逐漸轉移至邊緣端、裝置端上。

2018年已有近四成企業規劃在邊緣端處理資料，預估2020年將有75%資料，幾乎都會在邊緣端來完成處理。

裝置端產品智慧化將是顛覆AI運算架構的新力量。

開發裝置端AI晶片需滿足裝置端產品具備輕薄可攜、高省電性、離線智慧等特性。

因此裝置端AI晶片技術具有以下的挑戰。

趨勢與挑戰一：裝置端AI晶片在功率限制下需要提升算力與應用彈性 提昇裝置端AI晶片的算力與使用彈性，可以增加更多應用服務的種類，例如臉部辨識解鎖，照相的品質增強，處理低照度具有雜訊的照片。

顯示器也可以做更多種類畫面與畫質的增強效果處理。

但一方面要提升算力，但另一方面又要兼顧耗電量，確實是發展AI晶片的技術難題。

趨勢與挑戰二：智慧物聯網(AIoT)產品少量多樣 智慧物聯網(AIoT)產品多屬長尾利基商品，各別市場數量可能不大，但只要能訴求正確的目標族群，則仍可能獲利。

因此對AI晶片設計業者來說是機會(多樣性)也是挑戰(快速timetomarket)。

少量多樣AI應用情境使我國IC公司面臨下線成本之門檻提高。

此外多樣化產品要求提高晶片系統設計複雜度，更需要在短時間內完成，這些挑戰阻礙了國內廠商的投入。

資料來源：工研院產科國際所 圖3　AIoT產品具有少量多樣長尾市場特性，不一定有殺手級產品 趨勢與挑戰三：傳統的馮、紐曼架構亟耗電，需新AI晶片架構來導入裝置端 雲端的AI晶片解決方案，雖然效能強與彈性大，但耗電量也隨之大增。

目前的AI晶片平均能耗大約是在1TOP/W，離人腦的500TOPS/W距離很遠，仍有很大的改善空間。

這樣的AI晶片用在使用電池的設備上，操作時間勢必縮短很多，因此裝置端的AI晶片需要新的晶片架構，來達到省電的目的，至少也需要是減少十倍甚至是百倍的耗電量。

 資料來源：工研院產科國際所 圖4　嵌入式AI平台往人腦效率發展 趨勢與挑戰四：缺乏軟硬體整合能力 在發展裝置端AI晶片，多數廠商會面臨缺乏關鍵AI智財、缺乏軟硬體整合能力等問題。

另一方面，國內廠商目前在AI晶片方面的發展較為單打獨鬥，缺少軟體技術、架構設計、以及軟硬體協同優化；然而AI的市場產品是較需要能快速開發並快速應用，著重於軟硬體整合能力。

由於AI需要大量的運算能力，也跟採用的軟體演算法有密切的關係，因此如何在功耗、面積、效能等方面取得平衡，同時根據應用進行軟、硬體分工最佳化，都不純粹是靠過往的經驗就可獲得；再加上國內部份廠商的軟體技術能量稍嫌不足，都限制了業者的投入。

台灣產官學研一同攜手解決AI晶片技術問題為呼應並協助解決產業界需求與痛點，同時也為了健全即時AI晶片的發展環境，期望以國內半導體產業優勢，與打造N+1AI晶片的解決方案。

行政院於2018年9月成立「AIonChip示範計畫籌備小組」，規劃並聚焦產學研共識之技術研發項目。

針對「半通用AI晶片」、「異質整合AI晶片」、「新興運算(EmergingComputing)架構AI晶片」與「AI晶片軟體編譯環境開發」等四個議題，制定我國AIonChip發展藍圖。

一、成立AIonChip示範計畫，解決裝置端AI晶片技術問題 對於各議題所發展的研發技術項目如下： （一）半通用AI晶片：解AIoT少量多樣議題，協助IC設計業者掌握自主具設計彈性(可重組、可延展)的裝置端AI推論晶片架構；同時聚焦於先業界一步的裝置端學習(On-DeviceLearning)AI晶片軟硬體技術。

（二）異質整合AI晶片：布局下世代AI晶片封裝技術，發展智慧裝置端系統熱控、多樣可適性異質整合、異質共用介面等技術，以協助我國IC產業鏈運用共通介面發展晶片的系統整合。

（三）新興運算架構AI晶片：對應產業布局下世代AI晶片技術，布局包括發展類比、記憶體內，及類神經新興運算架構，以大幅突破目前AI運算的效能瓶頸，並協助我國產業取得新興運算架構之發展先機。

其中，新興架構晶片矽智財(SiliconIntellectualProperty,SIP)可協助我國IC設計業立足於裝置端AI晶片產業，而新興架構技術平台，可協助半導體製造業加值既有相關製造技術，成果亦可帶動後續系統廠在系統應用上的創新。

（四）AI晶片軟體編譯環境開發：結合國內IC設計及系統軟體業者，制定共通介面，推動形成AI開發環境生態圈，降低業者投入AI領域的門檻；建立雛形系統，提供最適化的AI晶片設計分析環境，協助廠商以此為基礎，結合各自的技術特色，搶攻市場；開發先進編譯器技術，與國際EDA領導業者合作，整合快速驗證環境，縮短下世代AI晶片開發時程，充分發揮多樣化硬體效能，帶動國內產業轉型。

資料來源：工研院電光系統所整理 圖5　AIonChip終端智慧發展技術發展藍圖 二、成立AITA聯盟，由業界命題，建立AI晶片核心技術 成立「台灣人工智慧晶片聯盟」(AITA;AI-on-ChipTaiwanAlliance，簡稱愛台聯盟)，超過百家半導體業者共組四大技術委員會(SIG)，串連裝置端AI晶片及系統應用。

由業界帶頭發展關鍵技術，提供業者交流平台，以促成上下游廠商結盟為AI晶片找到出海口，促進台灣AI產業升級，並構築產業技術藍圖，引領AI商機。

並透過業科以及技轉等方式，協助國內業者開發AI加速器軟硬體產品。

資料來源：AITA聯盟 圖6　成立AITA聯盟建立AI晶片核心技術 AIonChip示範計畫及AITA的目標是讓業者能降低AI晶片研發費用、縮短AI晶片的開發時程，協助我國業者成為全球裝置端AI晶片產業的領航者。

結論我國有半導體、ICT等強項，更是全球大廠信任的夥伴，這些優異條件奠定了發展裝置端AI晶片的優勢。

AIonChip示範計畫及AITA聯盟，將協助晶片設計業者掌握AI晶片彈性多工的自主設計能力，同時因應製造及封測業者對於少量多樣、快速產製的技術缺口。

同時打造具備多工、彈性、低耗電之新興裝置端AI晶片架構，並建立起具國際競爭力的AI智慧系統生態系，除帶動半導體產業，亦同步帶動AI裝置端設備及系統整合業者發展更多應用服務。

技術方面則是結合我國半導體設計與製造強項，協助IC設計業者取得國際領先，讓半導體相關產業名列世界前茅，最後更要將類比AI晶片推向全球頂尖，挑戰這極為艱難的目標。

回上一頁 友善列印 分享： 分享到我的Twitter 分享到我的Plurk 分享到我的Facebook 工研院資訊與通訊研究所 ©2015IndustrialTechnologyResearchInstitute.法律聲明Facebook 發行單位：工業技術研究院資訊與通訊研究所 服務信箱：[email protected] 發行地址：新竹縣竹東鎮中興路四段195號51館719室建議網頁瀏覽器為IE8.0以上(含)版本 top