普林斯頓大學學者利用內存計算技術加速AI

據普林斯頓大學網站2018年11月報導，通過改變計算的一個基本特性，普林斯頓的研究人員研發了一種新型的計算機晶片，獲得了更好的性能，並大大降低了該晶片應用於人工智慧系統中的能量需求。

新型的計算機晶片與標準程式語言一起工作，對依賴於高性能計算但電池壽命有限的電話、手錶或其他設備可能特別有用。

該晶片基於一種被稱為內存（in-memory）計算的技術，旨在解決計算機處理器的一個的主要計算瓶頸，即必須花費時間和能量從存儲器中獲取數據。

內存計算直接在存儲器中執行，因而能夠獲得更好的速度和效率。

之前，研究人員與Analog Devices公司合作研製了內存計算的電路圖，並發布了一個報告，隨後便發布了該晶片和一個配套的編程系統。

該電路的實驗室測試表明，這種晶片的性能將比同類晶片快數十到幾百倍。

然而，最初的晶片並不包括最新版本的所有組件，因而其性能有限。

Naveen Verma實驗室的研究人員報告說，他們已經將內存計算電路集成到可編程處理器的架構中。

該晶片現在使用C等常用的計算機語言工作。

Hongyang Jia是Verma的團隊種一名研究生，也是晶片設計者之一。

他表示：「之前的晶片是一個強大的引擎，而現在這個晶片是一輛完整的車。

」

儘管普林斯頓研發的晶片可以適用於更大範圍的系統，但它的設計目標是支持用於深度學習推理的系統：這種推理算法允許計算機通過學習數據集做出決策並執行複雜的任務。

深度學習系統可以支持諸如自動駕駛車輛、面部識別系統和醫療診斷軟體之類的事情。

Verma表示，對許多應用來說，晶片的節能性與其性能的提升同樣重要。

這是因為許多人工智慧應用程式都期望能夠在由電池驅動的設備上運行，如行動電話或可佩戴的醫學傳感器。

例如，蘋果iPhone X的電路中已經包含了一個AI晶片。

但是，如果需要節能和性能提升的眾多應用程式無法獲得這些性能，它們就沒有意義了—這時就需要可編程性。

Verma說：「經典的計算機架構將中央處理器與存儲器分開。

前者負責處理數據，而後者負責存儲數據。

計算機的大量能源被用於來回移動數據。

」

在某種程度上，新晶片解釋了摩爾定律不斷放緩的原因。

1965年，英特爾創始人Gordon Moore觀察到集成電路上的電晶體數量大約每年翻一番，工業界也注意到這些電晶體在這一過程中變得更快和更加節能。

幾十年來，這一現象被稱為摩爾定律，它是計算機不斷變強過程中的一個主要規律。

但近年來，電晶體的改進並沒有保持以前的速度，已經逐漸接近其基本的物理極限。

Verma專長於電路和系統設計，他考慮的是如何從結構層面繞過當前的障礙，而不是從電晶體層面。

如果能夠在與計算機內存相同的位置進行計算，則AI所需的計算效率將獲得很大提高，因為不需要花費時間和能量從遠處獲取存儲的數據。

這將使計算機變得更快，卻不需要升級電晶體。

但是創建這樣一個系統是一個挑戰。

必須將存儲器電路設計得儘可能密集，以便封裝大量的數據。

另一方面，也必須為計算所需的額外電晶體分配空間。

一種選擇是用電容器代替電晶體。

電晶體的本質是一種開關，能夠用電壓變化表示1和0，而後者可以組合成二進位的計算機信號。

它們可以使用由1和0組成的數字陣列進行各種計算，而這正是這些系統被稱為數字系統的原因。

電容器存儲並釋放電荷，因此它們可以表示任何數字，而不僅僅是1和0。

Verma意識到，使用電容器，他們可以在比使用電晶體更緊密的空間中進行計算。

電容器也可以被非常精確地製作在晶片上，甚至比電晶體更精確。

新的設計將電容器與晶片上靜態隨機存取存儲器（SRAM）的傳統單元相匹配。

電容器和SRAM的組合被用於在模擬（非數字）域中對數據進行計算，但可靠更高，且允許引入可編程特性。

現在，存儲器電路能夠以晶片中央處理器的方式執行計算。

Verma說：「近年來，在解決計算系統的能量和速度問題上，內存計算已經顯示出很好的潛力。

但最大的問題是，這個潛力能否被系統設計人員擴展用於我們真正關心的所有AI應用程式。

這使得可編程性成為必要。

」