●■●

令人頭疼的基礎運算練習題，是我們小學時代記憶中非常生動的一部分。在做3752×6901這樣的乘法運算時，我們只能借助紙筆的幫助，可能要花上一分鐘的時間才能算出結果。誠然，如今我們都會隨身攜帶手機，所以我們能夠快速地查出這道小練習題的結果是25892552。事實上，現代手機中的處理器每秒能夠進行1000億次此類操作。此外，相關的芯片只耗費幾瓦的功率；而人類大腦要耗費大約20瓦的功率，需要的時間也遠遠多于芯片。由此看來，對于這樣的運算，芯片的效率遠遠高于我們的大腦。●當然，大腦進化的目的并不在于算數，所以大腦算數方面的能力比較差。然而，大腦卻擅長處理周圍環境中連續的信息流，并對信息做出反應——有時候我們甚至意識不到它到底有多快。無論一臺傳統計算機耗費多少能量，對于我們的大腦輕易就可以完成的事情，例如理解語言、跑上一段樓梯等，它們完成起來都非常困難。

如果我們能夠研發出既具備計算能力，又擁有大腦那般能源效率的機器，那么，這臺機器就會成為游戲規則的改變者；屆時，機器人將能夠在物理世界中嫻熟地移動、用通俗易懂的語言和我們交流。各個大型的系統將能夠從商業、科學、醫學領域或政府部門獲取大量數據，來檢測全新的模式、發現因果關系，或是進行相關的預測。智能移動應用，如Siri和微軟小娜，對云技術的依賴將會降低；同樣的技術，還可以應用到那些低功耗設備，用于維持我們的感官、運送藥物、模仿神經信號，以此來彌補器官損傷或癱瘓。

但是，現在就進行如此大膽的嘗試，是不是還為時過早？要根據大腦運轉規律開始研發相關的技術，我們手中掌握的大腦知識是不是太有限了？我相信，即便只能模擬出神經回路的一些基本特性，也依然可以為許多相關商業應用帶來舉世矚目的進步。為了達到大腦的性能水平，計算機應在多大程度上模擬生物細節？這依然是一個沒有確切答案的問題。但是今天的腦啟發或神經形態系統對于回答這個問題而言，將是非常重要的研究工具。 

●■●

用于儲存數據和指令的存儲器和用于處理此類信息的邏輯之間存在著物理分離，這是傳統計算機的一個關鍵特征。而人類大腦中卻不存在這種差異。在一個由大約1000億個神經細胞（神經元）以及超過100萬億個連接點（突觸）組成的龐大網絡中，計算與數據存儲可以共同在本地完成。這些連接點以及每個神經元對輸入的反應方式，決定了大腦的大部分行為。

當我們論及人類大腦所具備的那些超凡能力時，通常所指的是在長期的進化過程中最新增加的部分：新皮質。這一層薄薄的、高度折疊的皮質形成了我們大腦的外殼層，可以執行多種多樣的任務，包括感覺輸入處理、運動控制、記憶以及學習。這些范圍很廣的能力可以通過一個較為統一的結構來完成：由神經元組成的6個水平層以及100萬個500微米寬的豎列。以此集成相關的電碼信息，并沿著那些從神經元中延伸出來的卷須狀物——樹突與軸突——來分配這些信息。

與所有的人體細胞相似，一般情況下，一個神經元內部與外部之間的電壓約為-70毫伏。當神經元接收到與之相連的其他神經元發出的信號時，這一膜電壓也會相應地發生變化。當該膜電壓升到一個臨界閾限時，就會生成電壓脈沖，或是尖峰，持續時間為若干毫秒，電壓值約為40毫伏。電壓脈沖會沿著神經元的軸突進行傳導，直至到達突觸。突觸是一種復雜的生物結構，能夠將一個神經元的軸突連接到另一個神經元的樹突上。如果這種尖峰達到一定的條件，那么突觸就會將其轉化為另一個電壓脈沖。電壓脈沖會沿著接收神經元的分支樹突結構傳導，然后讓其細胞膜電壓產生或正或負的變化。

連通性是大腦的一個重要特性。如錐體細胞——人類新皮質中一種尤為重要的細胞——容納了約3萬個突觸，可以接收其他神經元發來的約3萬個輸入信號。大腦一直在不停地進行自適應調整。由于受到感覺輸入以及外部環境反饋的驅動，神經元和突觸的特征——甚至是網絡結構本身——總處于不斷變化中。

目前，通用型計算機更傾向于數字化操作，而非模擬操作；但對大腦進行歸類卻不是那么容易。神經元可以積累電荷，就像電子電路中的電容器那樣。很明顯，積累過程就是一個模擬過程。但大腦也同樣可以使用尖峰作為信息單位，且基本上都是二進制的：在任一位置和時間，要么出現尖峰，要么不出現尖峰。從電子學角度來看，大腦其實就是一個混合信號系統，具有本地模擬計算以及二進制尖峰電壓通信能力。模擬與數字技術混合，可幫助大腦克服傳輸損耗的缺陷。尖峰電壓從本質來說，都有一個值（0或1），可以在不丟失基本信息的情況下，傳輸很長一段距離；此外，該電壓脈沖達到網絡中下一個神經元時還可以再生。

大腦與計算機之間的另一個關鍵差異在于，大腦在同步所有信息時無需中樞生物鐘的參與。雖然我們能觀察到同步事件——腦電波，但這些事件都是神經網絡的自發產物。有趣的是，現代計算已經開始運用類腦異步性，通過進行并行操作來加快計算的速度。但是，大腦和計算機這兩個系統中并行的水平與用途卻截然不同。

●■● 

把大腦構造作為計算模型來運用，這一理念有著深厚的根基。在早期的嘗試中，人們的注意力主要集中在簡單的閾值神經元上：如若權重輸入的總和超過閾值，就會輸出一個數值；如總和在閾值以下，就會輸出另一個數值。在沃倫?麥卡洛克（Warren McCulloch）和沃爾特?皮茲（Walter Pitts）20世紀40年代提出的方案中，雖然生物實在論方面的論據有限，但它卻是人類向采用放電神經元概念作為計算元件所邁出的第一步。

1957年，弗蘭克?羅森布拉特（Frank Rosenblatt）提出了一種后來被稱為“感知機”（perceptron）的閾值神經元變異體。一個集成眾多節點（人工神經元）的網絡被分為若干層；位于網絡邊緣處的“可見”層可充當輸入或輸出的角色，與外部世界進行互動。而那些用于執行大批量計算的“隱藏”層，則位于輸入與輸出層的中間。

同時，羅森布拉特還介紹了在大腦中發現的一個本質特征：抑制性。感知機網絡中的神經元，除了能夠將所有的輸入信息集成在一起以外，還可以造成負貢獻。這一特征使得神經網絡僅通過一個隱藏層，便可以解決邏輯中的異或問題；在這種邏輯下，只有在兩個二進制輸入不同時（只有一個輸入為真），輸出才為真。這個簡單的例子表明，利用生物實在論可以帶來新的計算能力。然而，對于大腦的功能來說，哪種特征才具有本質意義呢？哪些又是無用的進化痕跡呢？答案無人知曉。

的確，我們知道有些傲人的計算成就可以在不過多依賴生物實在論的前提下完成。比如，深度學習領域的研究人員在使用計算機從復雜的圖片上分析大批量數據和找出特征方面已經取得了重大進展。雖然他們構建的神經網絡與之前相比具備了更多的輸入信號與隱藏層，但這些網絡的基礎仍然是簡單的神經元模型。這些強大的能力反映出的并不是生物實在論，而是它們所容納的網絡規模，以及用來訓練它們的強大的計算機。在計算性能、能量效率以及學習能力方面，深度學習網絡與生物大腦仍然相距甚遠。

當對大腦進行大規模模擬時，再次凸顯了大腦與當今計算機之間的巨大鴻溝。多年來，人們為了跨越這一鴻溝進行了多次努力，但所有的工作都受到了兩種因素的嚴重限制：能量與模擬時間。例如，馬庫斯?帝斯曼（Markus Diesmann）及其同事在幾年前為了完成相關的模擬，在日本的超級計算機“京”上使用了約8.3萬個處理器。盡管使用的是高度簡化的模型，也沒有進行任何學習活動，模擬17.3億個神經元所消耗的能量卻是同等規模的大腦耗能的100億倍。且總的來說，這些模擬的實時運行速度還不足生物大腦運行速度的千分之一。

那么，速度為什么會這么慢呢？原因在于如果在傳統計算機上模擬大腦，則需要數十億個耦合在一起的微分方程，來描述細胞和網絡的動態情況。模擬過程有很多，例如電荷穿過一個細胞膜的運動。如果計算機運用布爾邏輯（該邏輯中精準度的達成以犧牲能量為代價）并將存儲和計算相互分離，在真實模擬大腦時，效率就會很低。

計算機模擬可以成為協助我們理解大腦的一種工具。我們可以將實驗室知識進行傳輸，運用在那些我們可以進行試驗并和真實世界的觀察情況進行對比的模擬中。但如果我們想要反其道而行之，運用神經系統科學方面的相關經驗來打造全新的、強大的計算系統的話，那么我們應反思計算機的設計與制造方式。

實際上，在電子設備中復制大腦的運轉方式，可能遠比第一眼看上去更可行。因為在一個突觸中構建一個電勢所消耗的能量大約是10毫微微焦耳（10-15焦耳）。金屬氧化物半導體（MOS）晶體管上的柵極遠比那些最先進CPU所使用的大得多，能耗也更高；最先進CPU的柵極只需要0.5毫微微焦耳就能進行充電。因此，一個突觸傳導就等同于向（至少）20個晶體管進行充電。此外，在設備層面上，生物電路與電子電路并沒有太大差異。從原理上來說，我們應該可以用晶體管構建出與突觸和神經元類似的結構，然后將其接通，實現一個不會消耗驚人能量的人工大腦。 

●■● 

讓晶體管模仿神經元來打造計算機的概念起源于20世紀80年代加州理工學院卡福?米德（Carver Mead）教授的研究工作。當以特定模式進行操作時，半導體器件可以遵循與神經元相同的規則，這就可以在保證高水平能量效率的前提下進行相關計算。這便是后來被米德命名為“神經形態”計算概念的核心論點之一。

米德的團隊也發明了一種神經通信框架，在此框架中，尖峰電壓僅被按照其網絡地址和出現的時間來編碼。這是一項開創性的工作，因為這是第一次讓時間因素成為人工神經網絡的基本特征。時間在大腦中是一個關鍵因素：各種信號要花時間進行傳播、各個神經膜也要花時間對不斷變化的情況做出響應。并且，時間決定了突觸后電勢的成型情況。

硅神經元

從上圖中早期的原型芯片中演化出來的大腦規模的設計被稱為“Spikey”。芯片共有4個主要元件——神經元，用于集成多個突觸發出的信號，并在電壓超過閾值時放電；線路驅動器，協助調和神經元發出的信號，并將這些信號輸送至突觸；密集的突觸陣列，能夠對這些信號進行加權，具備“可塑性”，可根據時間的長短發生變化；數字電路，用于連接外部世界，傳遞芯片配置或數據等相關信息。神經元之間的連接可以在外部進行設置，也可以根據可塑性機理從內部演化而來。

如今，一些相當活躍的研究團隊，如蘇黎世聯邦理工大學的賈科莫?因迪韋里（Giacomo Indiveri）的研究團隊、斯坦福大學夸貝納?波爾漢（KwabenaBoahen）的研究團隊，已經按照米德提出的方法，成功制作出了生物皮質網絡中的若干個元件。他們采用的方法是使用極低的電流來操作那些處于通電閾值以下的晶體管；以此構建出那些能耗低并能模擬神經行為的模擬電路。

對該方向進行進一步研究，或許可以實現腦機接口等系統的應用。但要研發出具備完整動物大腦能力（如網絡規模、連通性和學習能力）的電路，還需一個巨大的飛躍。

因而，在2005年左右，3個研究團隊分別開始獨立研究神經形態系統。他們的研究與米德的初始方案相差甚遠，旨在研發出含有數百萬個神經元的大型系統。

由英國曼徹斯特大學史蒂夫?費伯（Steve Furber）領導的大三角帆（SpiNNaker）項目，是最接近傳統計算的項目。該團隊已設計出了一種特制的、全數字化的芯片。該芯片包含18個ARM微處理器內核，時鐘速度為200兆赫——約為現代CPU運行速度的1/10。雖然ARM內核是傳統計算機，但是它們能夠模擬尖峰。這些尖峰會通過一個專門設計的路由器進行傳送，實現與大腦相同的異步通信。目前的一項方案（歐盟人腦工程項目的一部分）已于2016年完成，其中共有50萬個ARM內核。根據神經元模型的復雜程度，每個內核可以模擬多達1000個神經元。

由加州IBM阿爾馬登研究實驗室的蒙德拉?莫達（Dharmendra Modha）及其同事開發的TrueNorth芯片，放棄了將微處理器作為計算裝置。芯片上計算與存儲相互交錯，是一個真正意義上的神經形態計算系統TrueNorth芯片依然是一個全數字系統，但依靠特制的神經元電路來實現指定的神經元模型。同時，通過利用28納米的三星互補金屬氧化物半導體（CMOS）技術，該芯片配置了54億個晶體管。這些晶體管在一個單芯片上，用于實現100萬個神經元電路和2.56億個簡單（1比特）突觸。

我認為，BrainScaleS是最偏離傳統計算，而與生物大腦最為接近的一個系統。該系統是我和同事在德國海德堡大學為人腦工程而開發的。BrainScaleS是一個混合信號系統，通過數字通信，將那些由硅晶體管制造的神經元和突觸（模擬器件）結合在一起。這一全尺寸系統由20個未經切割的8英寸硅片構造而成，旨在創造出400萬個神經元、10億個突觸。

通過與神經系統科學家的密切協作，我們的系統能夠復制8種不同的生物神經元放電模式。與米德開創的模擬方法不同，BrainScaleS在一個加速模式中運作，運行速度是實時速度的約1萬倍。如此一來，該系統特別適合學習與研發方面的任務。

在未來，學習能力可能會成為神經形態系統發展過程中的重要組成部分。到那時，腦啟發的芯片，以及在傳統計算機上實施的神經網絡，可以通過更加強大的計算機進行訓練。但如果我們想在現實世界中運用神經形態系統（比如用于支持那些與我們一起工作的機器人），那么這些系統必須在現實的運行中實現學習與自適應。

通過在芯片上構建“可塑性處理器”，我和同事將學習能力賦予了第二代BrainScaleS系統。而可塑性處理器在必要時，可用來修改神經元和突觸參數。同樣，這一修改能力讓我們能夠對相關參數進行微調，彌補不同設備之間尺寸和電學性能方面的差異，就像大腦可以隨機應變一樣。

我在前文描述的那3種大型系統的特點是互補的。SpiNNaker的可配置性水平最高，因此可以用來檢測各種不同的神經元模型；TrueNorth具有很高的集成密度；BrainScaleS則是為了執行學習與發展的連續運算而設計。因此，找到正確的方法來評價此類系統的性能，需要進行不斷的努力。但早期的研究結果暗示了未來的前景。比如IBM的TrueNorth團隊最近就估計，在其研發的系統中，一次突觸傳導將消耗26微微焦耳的能量。雖然這些能量約是生物系統中同一操作所耗能量的1000倍，但卻是一臺傳統的通用型計算機進行模擬時所消耗能量的十萬分之一左右。

我們在理解這些系統能夠做什么，以及如何將其運用到現實世界的應用中等方面，仍舊處于初始階段。我們必須找到合適的方法，在降低能耗的同時，將諸多的神經形態芯片集成到那些具備增強型學習能力的更大網絡中。連通性便是挑戰之一：大腦是三維的，但我們搭建的電路是二維的。電路的三維集成，是人們正積極探索的一個領域，可以幫助解決這一問題。

另一個推動因素是非CMOS裝置，如憶阻器或相變型隨機存取存儲器（RAM）。目前，管控人工突觸對輸入信號做出何種反應的權重值，被儲存在傳統的數字存儲器中；而這些存儲器占據了構建網絡中需要的硅資源。其他形式的存儲器能夠幫助我們將細胞的尺寸從微米級降到納米級。隨著系統發展到今天的水平，我們面對的一個挑戰便是如何解決單個設備之間存在的差異。屆時，BrainScaleS創設的校準策略或許能派上用場。

雖然在研發可用且有用的神經形態系統方面，我們才剛剛揚帆起航，但所有的努力都是值得的。如果取得成功，我們將不僅能夠搭建強大的計算系統，甚至可以洞察自己大腦中的情況。

作者: Karlheinz Meier