編者按：本文原作者Josh Althauser是一名企業家，具有設計和并購業務背景。

我們的生活正逐漸變得自動化。許多日常任務已經被下放給智能軟件算法來操作，而大多數消費者甚至都沒有注意到。例如，70%的股票交易現在都是完全自動化的。這種自動化已經導致失業的發生，并引起對新興AI技術的不滿。在某種意義上，這種憤慨可能是有價值的。Elon Musk預測，他所大力推行的無人駕駛汽車技術將會取代15%的勞動力。

Musk及其他未來學家、科學家，經常因為做出圍繞有關人工智能的倫理問題的警告而出現在新聞頭條上。如果人工智能的發展得不到有效控制，那一定會產生社會和經濟后果，甚至可能是負面的影響。

● 放棄人的控制

雖然人工智能技術不斷發展，但是我們對它的看法仍然保持一致。雖然越來越多的證據表明機器執行任務要比人類好得多，但是我們仍然相信人類的判斷，并害怕失去控制權。每年有近130萬人死于人類造成的交通事故，而無法駕駛汽車在進行數百萬里測試之后只發生了幾次事故。由于智能機器可以在幾分鐘內重新訪問和改進錯誤，它們能夠比我們更快的從錯誤中學習到教訓。不過，無論是過分的傲慢還是慎重的警惕，有關AI車輛的輿論熱度還是很低。

● 首先不要造成傷害？

無論公眾情緒如何，無人駕駛汽車時代仍將來臨。像特斯拉汽車公司和谷歌這樣的巨人已經在合理成功的情況下將數十億美元投入到各自的技術中，而Elon Musk表示我們已經非常接近于無人駕駛的未來了。機器人軟件工程師在自動駕駛AI方面去到了令人驚嘆的進步。

除了我們是否想放棄控制的問題之外，還有更深層次、更令人不安的問題。無論目前的情況如何，無人駕駛汽車都已經在路上了。當我們非常接近完全自動駕駛的交通時，我們真正應該關心的是復雜的道德問題。在這些相關的領域中，存在著有一個非常困難的問題。我們是否應該對無人駕駛汽車編程授予它們殺人的權利？

首先，答案是很明顯的。沒有一個AI應該具有選擇殺人的能力。我們可以很容易的解決由于某種類型的故障導致的傷亡問題。然而，定義AI如何和何時造成傷害并不那么簡單。

● 為自動化建立道德

想象一下，一輛坐著一個家庭的汽車即將撞上正在過馬路的行人。在這種情況下，汽車必須選擇挽救乘客的生命或行人的生命。假設這輛車可以轉向撞向附近的樹木以避免撞上行人，但是這毫無疑問會殺死乘客。又或者汽車繼續沿著道路行駛，以避免傷害乘客。在這種情況下，汽車是應該考慮雙方的生命數量，還是年齡因素？不讓AI有能力做出這些重要道德決定是否是不道德的？還是我們應該讓AI不具有任何拯救或犧牲生命的概念？

經濟學教授Jean-Francois Bonnefon表示：“隨著我們即將擁有數百萬輛具有自主權的汽車，認真考慮其中的道德問題是非常緊迫的。”

當被問及這一問題時，許多人都認為拯救多個生命比拯救一個生命更重要。我們甚至可以相信，拯救年輕人比拯救老年人更為重要。但是我們是無法達成一致意見的，尤其是當這種道德決定可能會導致傷亡的時候。

所以當被告知無人駕駛AI必要犧牲我們的生命或別人的生命時，我們會發現其缺少道德指南針的存在。在大多數情況下，自我保護的意識改變了我們對對錯的看法。

所以我們應該對無人駕駛AI編程讓它保護乘客嗎？又或者是否應該傾向于減少死亡人數？還是應該實現自我保護的最大利益？而我們作為無人駕駛汽車的擁有者，是否應該對汽車所做出的決定負責？

● 道德編程

目前，這些問題都是沒有明確的答案的。無人駕駛汽車毫無疑問會遇到雙輸的場景，并且需要做出困難的決策。有些人可能會認為，無人駕駛汽車不應該被道德困境所困擾，不應該擁有殺人的能力，即使是以更大利益為前提。然而，在這種情況下，自動駕駛車輛必須通過權衡利弊來定義罪惡更小的行為。為了做到這一點，自動駕駛車輛必須被賦予道德編程。

我們如何決定編程這些道德算法仍然是未知的。我們如何決定進行以及我們對這些倫理問題的結論將會塑造無人駕駛未來的道德。隨著我們離全面自動駕駛越來越近，道德編程問題將會扮演著越來越重要的角色。

來源：獵云網