你的意圖是什么？

工程人員展示了一款用于汽車的神經網絡芯片，該款芯片可以預測出汽車撞上行人的風險。

-----工程人員正嘗試將占用較大空間的人工智能塞入移動系統。

 近些年來，基于神經網絡的人工智能系統取得了一系列顯著成功：有在圍棋比賽中擊敗人類頂尖棋手的，有自動生成啤酒評論的，還有營造迷幻藝術的。可是，讓這些極度復雜且耗電量超高的系統走入現實世界并安裝在便攜式設備中卻絕非易事。然而，在今年2月份于舊金山召開的IEEE國際固態電路會議上，來自麻省理工學院、英偉達和韓國科學技術學院（KAIST）的團隊卻用自己的成果證明，人類距離實現這一目標又近了一步。他們在大會上展示了用來運行人工神經網絡的低功率芯片的原型，借助這些芯片，智能手機將能夠自行判斷看到的內容，自動駕駛汽車將可以預測行人的行動，如此等等。

到目前為止，神經網絡——這種運行方式與彼此連接的腦細胞構成的網絡非常相似的學習系統——一直因其巨大的能耗而無法在那些可以從人工智能中受益最多的移動設備（例如智能手機、小型機器人和無人機）上運行。人工智能移動芯片在提高自動駕駛汽車智能水平的同時也只能以耗盡其電池電量為代價或在燃料經濟性方面作出妥協。

智能手機的處理器很快便可以將某些強大的神經網絡作為軟件在手機上運行。高通公司正將其下一代驍龍智能手機處理器連同一個軟件開發包一起提供給手機制造商，以便利用神經網絡開展自動圖像標注。這種專注軟件的設計方案可謂一項里程碑式的成就，但同時也有它的局限性。例如，手機的應用程序無法自己學習任何新內容——它只能通過性能更加強大的計算機接受相應培訓。同時，神經網絡專家認為，如果他們可以使電路本身擁有一些神經網絡的友好特征，那么便有可能實現更復雜的功能。

麻省理工學院的電氣工程教授維維安?施（Vivienne Sze）介紹說，神經網絡越大，其計算層便越多，運行過程消耗的能量便越多。無論其應用領域如何，主要的電源消耗都源自數據在處理器和內存之間的轉移。對用于進行圖像分析的卷積神經網絡而言，這個問題尤其突出。（名稱中的“卷積”一詞暗示涉及的眾多步驟。）

對于人腦而言，提取記憶建立聯想是個很自然的過程。一個3歲的小孩都可以輕松地指出圖片中的圖像是一只貓躺在床上。卷積神經網絡也可以將圖像中的所有物體進行分類。首先，像圖像識別模型AlexNet這樣的系統會找到圖片中物體的邊緣，然后開始逐一地識別這些物體——貓、床、毯子，最終推斷出圖像中是一個室內場景。然而，即便是完成這樣簡單的分類作業，也需要消耗極高的能量。

神經網絡，特別是用于圖像分析的神經網絡大多運行于圖形處理單元（GPU），而驍龍處理器也是通過GPU實現其場景探測功能的。維維安?施表示，GPU在圖像處理方面已經非常專業了，但若要制造出可以有效運行神經網絡的電路，可做的事情還有很多。

維維安?施與麻省理工學院的計算機科學教授兼英偉達資深杰出研究科學家祖爾?艾默（Joel Emer）合作開發出首款可運行最前沿的卷積神經網絡的定制芯片——Eyeriss。他們展示的這款芯片僅以普通移動GPU十分之一的能耗便可運行AlexNet這一計算量非常龐大的算法：普通手機GPU的能耗在5至10瓦之間，而Eyeriss只需要0.3瓦。

維維安?施和艾默合作開發的這款芯片之所以能夠節省能耗，是因為他們在168個處理引擎中每一個的旁邊都放置了一個專用存儲體。這樣一來，芯片便可以盡可能少地從一個較大的主存儲體中獲取數據。除此之外，Eyeriss還將其傳送的數據予以壓縮，并通過一些統計手法省略掉了GPU通常采用的某些步驟。

KAIST教授兼該學院下屬的多媒體超大規模集成電路（VLSI）實驗室的負責人金利燮（Lee-Sup Kim）表示，這些為神經網絡驅動的圖像分析所制造的電路還可用于機場的人臉識別系統以及機器人導航。在這次會議上，金利燮教授的實驗室展示了一款可作為物聯網通用視覺處理器使用的芯片。與Eyeriss類似的是，KAIST的這款設計也是通過拉近存儲和處理單元之間的距離實現數據移動最小化。這款芯片的能耗只有45毫瓦，當然，公平來說，它所運行的網絡遠沒有Eyeriss那么復雜。芯片通過限制數據移動和減輕計算量的方式降低能耗。金利燮教授團隊發現，在關鍵計算中所用到的99%的數字只需要8比特，所以他們才得以對計算資源加以限制。

英偉達的艾默教授表示：“在通用性和效率之間作選擇是一個很大的挑戰。”維維安?施、艾默和金利燮教授都正在嘗試制作用于圖像分析的通用神經網絡芯片,即一種神經網絡處理單元（NNPU）。而另一位來自KAIST的教授、系統設計創新和應用研究中心的負責人柳會峻（Hoi-JunYoo）則傾向于采用更加專業的應用驅動方式制作神經網絡硬件。

在柳會峻教授所描述的系統中，有一種是為自動駕駛汽車設計的。這種系統可以運行能夠識別視野范圍內的各種物體的卷積網絡，同時還可以使用一種不同的算法——遞歸神經網絡。“遞歸”是指系統的一種時間技能，擅長分析隨時間推移而不斷變化的各種視頻、語音及其他信息。柳會峻教授的團隊尤其希望開發一款運行遞歸神經網絡的芯片，用以追蹤移動物體并預測其意圖：人行道上的那個行人是否要進入車行道？這套能耗為330毫瓦的系統可一次性預測20個物體的意圖，而且幾乎可以實時作出判斷——時間僅滯后1.24毫秒。

與麻省理工學院團隊開發的芯片相比，柳會峻教授的這套系統的另外一個不同之處在于，它的硬件部分——也就是被柳會峻教授稱為意圖預測處理器的部分——能夠在途中繼續學習。柳會峻教授的設計中集成了一套被其命名為深度學習內核的電路，專門用于增加神經網絡的訓練機制。對于卷積神經網絡而言，這種深度學習訓練往往在功能強大的計算機上進行。但柳會峻教授表示，我們的設備應該能夠適應我們的需求，并在使用過程中不斷學習。“為所有事件進行預先編程是不可能實現的。現實世界變化多端，幾乎完全不可預測。”柳會峻教授如是說。

作者：KatherineBourzac