“如果沒有在倫理方面作好準備，人類將來創造出的就可能是怪物。”近日，在由中科院學部科學道德建設委員會主辦，學部科學規范與倫理研究支撐中心、福建省科協共同承辦，《科學與社會》編輯部協辦的“人工智能：在效率和安全中尋求統一”2017科技倫理研討會上，北京大學信息科學技術學院教授查紅彬說。　　

隨著基于深度學習的AlphaGo連續戰勝多位人類圍棋名將，人工智能將對人類社會產生何種影響，以及人類是否存在被人工智能取代的風險等涉及人工智能倫理的討論便從未停歇過。　　

然而，在查紅彬看來，AlphaGo事實上還是在環境已知、規則化的封閉環境中取得的研究成果，而未來關于人工智能的研究對象應該是未知、非規則化環境中的機器人。　　

中科院科技戰略咨詢研究院研究員李真真表示，應從兩個維度看待人工智能的發展，即人工智能應用帶來社會智能化的過程、人工智能系統自身的發展及其引發的問題。　　

“智能化的過程令社會發生了變化，從社會生態視角來看，人工智能發展帶來了人機關系的核心問題。”李真真說。　　

事實上，當下人工智能的發展已經帶來了諸多倫理挑戰，比如是否會導致大規模失業、是否會帶來個人隱私與社會安全的隱患等。　　

不過，與會專家更關注的是“奇點”到來后，人類將如何自處？　　

據查紅彬介紹，人工智能的技術奇點是指人工智能超過人類智力極限的時間點，“此后世界的發展將會超出人類的理解范疇”。　　

依據庫茲韋爾的“加速循環規則”，技術的力量正以指數級的速度迅速增長，技術奇點將于2045年到來。這無疑會增加人類的緊迫感，但科學家也表示，對此并非無計可施。　　

據浙江大學預言與認知研究中心教授廖備水介紹，他們正在考慮將倫理嵌入到人工智能系統中。在他看來，當下人工主體的探討并沒有涉及社會層面的內容，而規范主體應當是人工主體與社會規范和倫理的結合。　　

廖備水表示，他們通過數學模型處理各種不一致情境中的推理，同時可實現不同利益攸關方的求同存異。這樣便可“為解釋自主智能系統的決策提供一種自然而形象的途徑”。　　

與會專家對探討人工智能發展的倫理框架態度積極，同時肯定了其發展對人類社會帶來的益處。　　

上海交通大學計算機科學與工程系教授呂寶糧表示，無創的可穿戴腦機交互系統可實現對人、動物在自然場景下的情緒識別和調控。“如特殊崗位的極端情緒和情感監控以及抑郁癥的檢測量化等都可以實現。”　　

會上，中科院院士裴鋼特別提醒，現在的倫理體系多是西方主導的倫理，這應當引起中國科學家的注意。他建議，中國科學家應加快探討相應倫理規則的步伐，在國際社會上發出自己的聲音。

來源：中國科學報