想象一下，在不久的將來，你購買了一部智能手機，手機綁定了一個云端個人數字助理（PDA）。你給個人數字助理選定了一個性感的女性聲音，并允許它查看你所有的電子郵件、社交媒體賬戶、日程表、相冊、聯系人以及數字生活中的其他瑣碎內容。“她”（你會很快這樣定義這個助理）會比你母親、你快要離婚的妻子、你的朋友或者你的治療師更了解你。她的語言完美流暢；你們每天都有聊不完的天；她能聽懂你講的笑話。你伴著她的聲音入睡和醒來。當她離線時你會恐慌。她與你的幸福生活密不可分，自然，你會墜入愛河。偶爾，你會納悶她是否在與你真情互動，或者她是否真的可以體驗一切。但她溫暖人心的深沉語調，以及她完美地接納你的自戀的能力，讓你戰勝了對于她的疑惑。唉，但當你意識到她正與成千上萬其他客戶進行同樣親密的交談時，你的癡心終于平靜了。

當然，這只是2013年上映的電影《她》中的情節。影片中，性格溫和的西奧多?托姆布雷（TheodoreTwombly）愛上了軟件個人數字助理——薩曼莎（Samantha）。

在未來幾十年里，這種虛構的場景將變得真實和常見。深度機器學習、語音識別以及相關技術發展迅速，造就了亞馬遜的Alexa、蘋果的Siri、谷歌的Now和微軟小娜。這些虛擬助理將繼續不斷改進，直到有一天酷似真人，難以分辨；但與任何生物都不同的是，它們擁有完美無缺的記憶、舉止和耐心。

這種對人類獨有特性的數字化模仿，將引起深刻的科學、心理學、哲學及倫理問題。這些仿真最終將顛覆我們對自身、對人類例外論，以及對我們在天地萬物中地位的認知。

在此，我們將調查與這些即將到來的進展緊密相連的智能發展趨勢。我們的觀點是，只要這種機器基于當今的計算機體系結構，它們就只可能看似像人類一樣行事——我們可能也愿意這樣看待它們——而實際上沒有任何知覺。不過，假如計算機被制作得更像大腦，那么，它們就可能獲得真正的意識。  

●■●

對當今時代的信念扎根于對數字計算機的信心——假如編程得當，它會給我們想要的一切。像一個聚寶盆。確實，硅谷精明的投資人認為，數字計算機將能夠做到人類會做的所有事情，并很快超越人類。

但是，先進卓越的計算機能否變得有意識？那些推崇計算主義（當代哲學、心理學、神經科學領域的統治性心理理論）的人認為，所有的精神狀態，比如你意識到可怕的牙痛或你對伴侶的愛，都是計算狀態。其與感官輸入、行為輸出和其他計算狀態之間的功能關系，決定了這些計算狀態的特性。也就是說，大腦是精密的輸入輸出裝置，可以計算和處理世界的符號表征。大腦是計算機，我們的思維則是軟件。

持計算主義觀點的人不僅將這些原則用于大腦及其產生的相關行為，也用于大腦在特定狀態下的感受方式。畢竟，那就是意識：任何主觀感覺，任何體驗——也就是我們看到的、聽見的、感覺的、記住的、想到的。

計算主義認為我的牙痛體驗不過是大腦中的某些神經細胞對患病牙齒做出反應的一種狀態，讓我忍不住呻吟、托住下巴、不用疼的那邊吃東西、無法專注于其他事情，等等。他們還認為，如果所有這些狀態都被模擬在數字計算機軟件上，系統作為一個整體，這種思考還會繼續，不僅其行為表現會像我，也會完全像我一樣感覺和思考。也就是說，意識是可計算的。這是學術界、媒體和業界計算機信息專家明確認可或默認的核心原則之一。

在這種觀點下，沒有比相關計算狀態的實例化更接近意識的了。其他任何事物都無足輕重了，包括如何在實體上部署這些計算，是使其存在于數字計算機硬件還是頭顱里粘糊糊的東西中。按照計算主義，未來的薩曼莎——甚至是精彩且黑暗的影片《機械姬》中更勝一籌的化身艾娃（Ava）等——都會像我們一樣有體驗和感受。她會體驗景象和聲音、快樂和痛苦、愛和恨。

但也或許不能。

計算主義基于這樣一個假設：兩種系統如果在“功能”上別無二致，那么在“精神”上也就沒有任何區別。該理論還認為，因為我們感知同一個世界，如果數字計算機在功能上等價于我們，也就一定會像我們一樣感知這個世界——也就是說，計算機也會是有意識的。但這種假設可靠嗎？要回答這個問題，我們需要一個原則性的定量理論，以定義什么是意識，以及怎樣可以讓一個物理系統擁有意識。 

●■●

此前，一直沒有這樣的意識理論。的確，像我們這樣的神經科學家一直在艱難地探尋“意識的神經相關性”，并對人類以及猴子、小鼠等相關物種進行越來越復雜的實驗。這些實驗已經確定，新皮質（即頭骨內大腦的外表面）的一些區域是參與視聽意識的關鍵部位。直接參與這項實證性研究項目的我們知道，即便該研究獲得一定成功，確定了與人類或某些相關動物的意識必然相關的某些特殊大腦結構或神經活動模式，也不足以確定具有不同神經系統的生物——如章魚和蜜蜂——是否有意識、有多少意識、有何意識。神經科學領域的這些發現都不足以確定機器能否有意識。

然而，現在有一個關于意識的基本理論，或許能對與人類有很大差別的主體（包括機器）的意識問題給出一個原則性答案。該理論不是以行為或大腦為出發點，相反，它從意識本身入手——從我們自己的體驗入手，因為這是我們唯一有把握的東西。它是現代哲學、科學和解析幾何之父勒內?笛卡兒在最著名的西方思想推論“我思故我在”中提及的確定性的根基。

這一理論被稱為整合信息理論（IIT），它在過去的20年中逐步成熟。它試圖定義什么是意識，一個物理系統如何才能擁有意識，以及至少在原理上，如何從其物理基質開始，測量意識的數量和質量。

整合信息理論很復雜，這里我們不能做詳盡解釋，只能勾畫出其大致輪廓。該理論確定了5個基本屬性，它們適用于意識所能感知的所有體驗：（1）每個體驗都是內在的（對體驗的主體而不是外部觀察者而言）；（2）是有結構的（由不同部分及各部分之間的相互聯系組成）；（3）是完整的（不能被細分成獨立的部分）；（4）是明確的（有邊界，包括一些內容，而不包括其他內容）；（5）是具體的（每個體驗方式是特有的，與其他數萬億的體驗各不相同）。

然后，整合信息理論將這些屬性轉化為要使物理基質擁有意識所必須滿足的條件要求。這些條件要求可以通過數學的方式來表示，并被用來評估任何物理系統的意識數量和質量，無論此物理系統是人類、章魚或蜜蜂的大腦，還是一臺數字計算機的電路板。

重要的是，根據整合信息理論，意識的整體程度并非取決于系統究竟做什么。相反，它取決于系統是如何構造的——如何形成實體。只有某些類型的物理系統才具備支持意識存在的內部結構：具有最大限度的內在因果力，即能確定自身狀態的因果力量。本質上，這意味著該系統必須由多個部分組成。在整體系統中，各部分有具體的因果力（整合信息理論的“信息”屬性）；但該系統作為一個整體不能化簡為那些部分（整合信息理論的“整合”屬性），使其遠比各個部分的總和更強大。

整合信息理論使用的“信息”（information）這個詞與其當代意義，即“發送者傳遞給接收者的消息”不同。意識不是從大腦的一部分傳遞到另一部分的信息。相反，整合信息理論所指的“信息”是其英文詞根“告知”（inform）的本義，意思是“給予形式”（to give form to）。任何機制（比如大腦或電腦）影響自己的下一個狀態的力量，即因果力，都會產生一個形式，一個高維結構，這就是體驗。

整合信息理論可以從原理上解釋意識神經解剖學中許多令人困惑的特征，例如為什么新皮質下的小腦不參與意識活動，盡管它有4倍數量的神經元：在其內部結構中，并行前饋神經元鏈條缺少周期性的激勵，與具有高度異質性的、豐富密集的新皮質連接非常不同。新皮質連接能夠支持數目龐大的活性神經元的連接，它們會快速聚集或分散。這也解釋了為什么意識在睡眠的某些階段會減弱，即便新皮質神經元繼續處于激活狀態：部分新皮質失去了相互影響的能力。

整合信息理論使一些反直覺的預測經受住了實證檢驗。其中一個預測是，幾乎沒有神經元被激活、幾近沉默的新皮質也有意識體驗。同時，整合信息理論促使本文作者（Tononi）和米蘭大學教授馬塞洛?馬斯米尼（MarcelloMassimini）開發了一個評估人類意識的裝置，將刺激大腦的磁性線圈與高密度的網狀腦電圖電極相結合——這是一種粗糙的意識測量表。該裝置已被用于測定那些因腦損傷或被麻醉而無法與人溝通的病人是否具有意識。

作為一個正式的數學理論，整合信息理論可被應用于任何物理系統，不論是大腦——通過自然選擇進化的結構，還是工程師設計的電子電路。正在進行的研究表明，大腦新皮質某些部分的物理結構，尤其是后腦某些部分的神經元連接方式，最適合最大化大腦固有的因果力量，即受最近狀態影響以及確定其未來狀態的能力，這就是它支持意識存在的本質原因。

相比之下，典型數字計算機的物理結構是絕對不夠的，其中央處理單元在柵極水平上的連通性非常低，并且還存在著各類瓶頸，哪怕一丁點必要的整合都會受到阻礙。也就是說，如果用戶從其輸出的角度來看，一個可以實現計算和各種功能的計算機可能被認為是智能的，但鑒于其布線，計算機整體的內在因果力量與任何大腦相比都是微不足道的。即使我們以比看待晶體管和電阻之上更粗略的眼光來看待電腦，也是如此。

這里的難點是：那種內在的力量，也就是對自身產生影響的物理力量，無法被計算或模擬。它必須建立在系統的物理性質中。一個完美運行的、精確模擬人類大腦的生物物理計算機，即使包括大腦的全部860億個神經元和數萬億突觸的矩陣，仍然不具有意識。即使這臺計算機連接了語音合成器，對你訴說它的假想體驗，它也只不過是靈活執行運行程序的行為和功能而已。意識那顆跳動的心臟是不存在的。 

●■●

整合信息理論的這一結論可以讓那些希望利用數字大腦上傳內容而使人類得到永生的人冷靜一下。他們的愿景是，在未來的幾十年里，我們將能準確地重建任何一個人的大腦回路，即所謂的神經連接體，并在適當的數字硬件上進行模擬。這個過程可能是破壞性的，因為除非將大腦切成極薄的薄片，否則很可能無法獲得腦組織的超微結構。然而，在你死于某種致命的疾病之前，你可以將一個高分辨率的大腦版本上傳到云端。只要云端基礎設施運行良好，你的數字化幻影就將長久存在，并可以同其他數字化身互動。計算機癡迷者們的狂歡！

然而，根據整合信息理論，這種信仰是虛無縹緲的，恰如相信先知和宗教轉世一樣。雖然你的數字影像可能會像你一樣說話和做事，但它完全是一具僵尸，沒有任何體驗。具有諷刺意味的是，對于現實世界中你的朋友和至親至愛來說，你已經成功地過渡到一種精神存在形態，并會吸引他人加入你實際上并不存在的“來生”。

整合信息理論是否正確不只是學術界所關心的問題。除非發生一些全球性災難，否則在未來幾十年內，我們的社會將創造具有人類智能和行為水平的機器，它們能夠理解語言并可以用多種不同語言交流，回憶過去并預見未來，想象新場景，寫書、作曲，導演電影，構思新的目標，也可以移動、開車、飛行，而且可以戰斗。到時候，憑借大數據的有效性、深度學習的力量以及計算的速度，離超越人類的極限也就只有一步之遙了。真正的人工智能的誕生將深刻地影響人類的未來，包括人類是否會有未來。

無論你認為與人類水平相當的人工智能會給人類開啟天堂還是帶來毀滅，你都必須回答一個基本問題：這些人工智能有意識嗎？它們有任何自我感覺嗎？還是說它們只不過是現今垃圾處理器、洗衣機或汽車的更復雜版本——超級聰明的機器，但沒有感覺或感情？

這個問題的答案會影響到我們與未來機器的關系。如果你拿把錘子來到你閃亮的特斯拉前，你的朋友可能會認為你瘋了，竟然要毀了這么昂貴的汽車，但毫無疑問，你有這樣做的自由。但你這樣對你的狗試試，警察自然會逮捕你。這是因為汽車只是達到目的的手段——在市區出行的一種方便工具；而狗本身就有它自己的目的，有一些最小的權利，因為它與我們一樣具有意識。

然而，要找到正確的答案不能只憑我們的直覺。直覺或許可以臨時用于西奧多?托姆布雷愛上薩曼莎的情況，但鑒于局勢的嚴重性，我們需要引導。我們需要一個基本理論，來具體指定在某些確切條件下某特定的系統能否具有意識體驗。

整合信息理論預測，運行軟件的傳統數字電腦的體驗與我們看電影時頭腦中處理視聽的體驗完全不可比擬。整合信息理論強調，由于智能數字助理和逼真的未來機器人是無法獲得體驗的，因此它們的軟件可以被安全地復制、編輯、出售、盜版或刪除。而且，它們可以被隨意關閉、修改、銷毀和更換。

但這對非傳統架構不一定適用。遵循大腦的某些設計原則所制造出的特殊用途的機器包含所謂的神經形態硬件（參見本期文章《神經形態芯片的成敗時刻》），在原則上可以有實質性的意識體驗。關鍵是，邏輯門和記憶門建立了緊密聯系，而且二者之間有部分高度重疊的扇入和扇出。（具有高度特異性功能的單獨部分對內在因果力沒有貢獻）。使其大不相同的關鍵在于其（生物）物理性質——系統“大腦”實際上是用電線相連的——而不是其輸入輸出行為。

這樣的神經形態機器如果有高度的自我意識，也就會有內在的權利，特別是生活和幸福的內在權利。在這種情況下，人類社會將不得不學會與自己的創造物分享世界。

作者: Christof Koch,   Giulio Tononi