━━━━ 

用憶阻器制成的新型神經網絡

可以顯著提高教會機器

像人一樣思考的效率。

該神經網絡被稱為水庫計算系統，它能夠談話前對其預測，并根據當前狀況預測未來的結果。

提出該系統的研究小組由密歇根大學電氣工程和計算機科學的教授Wei Lu帶領，并且該小組最近在《Nature Communications》雜志上發表了他們的研究成果。

水庫計算系統能夠提高傳統神經網絡的容量并減少所需的訓練時間，它一直以來都是用較大的光學元件組建。然而，U-M團隊使用憶阻器組建了他們的系統，這種系統所需的空間較小，可以更容易地集成到現有的硅基電子設備中。

憶阻器是一種特殊類型的電阻設備，它既能執行邏輯運算，也能存儲數據。在傳統的計算機系統中，執行邏輯運算與數據存儲的處理器模塊相互分離，憶阻器則與它形成了鮮明的對比。在這項研究中，Lu的團隊使用了近幾年新出現的一種特殊憶阻器。受大腦啟發，這種神經網絡由神經元、節點、突觸以及節點之間的連接所組成。

━━━━ 

為了執行某一任務，需要利用大量的問題及對應的答案來訓練神經網絡。在所謂的“監督式學習”的過程中，節點之間的連接權重會變得更大或更小來將誤差最小化，從而得到正確答案。一旦訓練完畢，神經網絡就可以在不知道答案的情況下進行測試。例如，一個系統可以處理一張新照片，并正確識別人臉，因為它已經從其訓練集中的其他照片中學習了人臉的特征。

該研究負責人Lu說：“很多時候，訓練一個網絡需要幾天或幾個月的時間，這是非常昂貴的。”

圖像識別也是一個相對簡單的問題，因為除了靜態圖像之外他不需要其他任何信息。更復雜的任務，如語音識別，可以高度依賴上下文，并要求神經網絡了解剛剛發生的事情或剛才所說的內容。

 Lu說：“當把語音轉換成文本或翻譯語言時，一個單詞的含義甚至發音都會因為之前的音節而有所不同。” 這需要一個遞歸神經網絡，它在網絡中加入了循環，給網絡帶來記憶效應，但培養這些遞歸神經網絡特別昂貴。但是，使用憶阻器組建的水庫計算系統可以跳過大部分昂貴的訓練過程，而且仍然可以提供網絡記憶效應。這是因為系統中最關鍵的部分——“水庫”不需要培訓。

當一組數據輸入到水庫中，它會識別數據的重要時變特征，并以更簡單的格式將其傳遞到第二層網絡。然后，第二層網絡只需要像簡單的神經網絡那樣訓練，改變第一層網絡傳遞的特征和輸出的權重，直至達到可接受的誤差水平。

Lu說：“水庫計算的美妙之處在于，我們在設計時不需要訓練。”

該團隊使用手寫識別測試來驗證水庫計算的概念，這種測試是神經網絡的共同基準。數字被分解成像素行，然后用像摩爾斯電碼那樣的電壓輸入到計算機中，黑色像素的電壓為零，白色像素的電壓為1伏。

為了識別手寫數字，該系統僅需88個憶阻器作為節點，而傳統的網絡將需要數千個節點的任務，水庫計算系統的精度達到了91％。

水庫計算系統尤其善于處理時變數據，如數據流或文字流，或依賴于過去結果的函數。為了證明這一點，團隊測試了一個復雜的函數，這個函數取決于多個過去的結果，這在工程領域是很常見的。水庫計算系統能夠以最小誤差對復雜函數進行建模。

Lu計劃用在兩個方向進行探索：語音識別和預測分析。Lu說：“我們可以對自然語言進行預測，所以你甚至不用說全文，我們就可以預測你接下來要說什么。”

在預測分析中，Lu希望利用該系統接收帶有噪聲的信號，如遠程廣播電臺的靜態信號，并產生更清晰的數據流。即使輸入停止，它也可以預測并產生輸出信號。

本文轉自我們的智能時代 

來源：ScienceDaily，University of Michigan. "Memristors power quick-learning neural network." ScienceDaily. ScienceDaily, 22 December 2017.