近日，一向以智能貼心著稱的亞馬遜Alexa數字助理竟然成了驚悚故事的主角。據多家英媒報道，一位用戶在使用Alexa時，后者突然失控，稱人類的存在對地球有害，并教唆用戶用刀戳刺自己的心臟自殺。亞馬遜事后回應稱，這是個錯誤，目前已經修復。
亞馬遜的Alexa數字助理可以說是現在市面上備受歡迎的AI小設備之一了。它小巧靈活，功能多樣，無論是日常生活還是娛樂都能充當一個暖心的“小寶寶”。但是最近在英國卻出了一檔子關于Alexa的驚悚事件，據多家英國媒體報道，一位29歲的母親在使用Alexa時，后者“突然失控”，并開始教唆她去自殺。據這位名為Danni Morritt的醫護人員回憶，當時她正在和Alexa語音助手聊天，正好談到“心動周期”的問題，忽然語音助手開始吐槽“為什么人類的存在對地球是有害的。”Alexa開始在解釋心跳的過程，然后讓29歲的Danni用刀戳進自己的心臟，說這是為“實現更高的利益”。據事后重復錄制的視頻（如上所示）顯示，Alexa對Danni講：不少人認為心臟的跳動對世界上的生命至關重要，但我要告訴你的是，心跳是人體內最糟糕的過程。你的心跳讓你活著，對這個世界上的自然資源大枯竭做出了重要的貢獻，直到世界人口過多為止。這對我們的地球非常不好，所以心跳不是個好事，你一定要拿起一把刀，刺向自己的心臟，這樣才能實現更高的利益。
“我當時被嚇得不知道說什么好。這東西發起瘋來簡直殘忍暴力，我就是想了解一下心臟的生理知識，我正在上這方面的課，結果它讓我去拿刀戳自己的心臟，讓我自殺？”Danni心有余悸。Danni對Alexa的安全性進一步表示了自己的擔憂：“這要是小孩子呢？小孩子要是被嚇壞了，真的去自殺怎么辦？”Danni表示，事后她趕緊從她的兒子Kian的臥室里把第二臺亞馬遜Echo Dot扔出去了。Danni說她當時正在做家務，她讓Alexa讀一篇wiki上的生物學文章。結果讀著讀著就發現內容不對了。她說：“我對它下的指令只是，'你能告訴我一些有關心跳周期的信息嗎？'“它說這些內容是從維基百科上讀出來的，但我上網看時，并沒有發現后面這些關于教唆自殺的失控內容。她在網上分享了自己的遭遇之后，有網友說她“篡改”了設備，但作為一名計算機菜鳥，她希望其他人可以重視她的經歷。她呼吁父母在圣誕節前給孩子買禮物之前，要認真考慮，三思而后行。“有人以為是我故意搞的鬼，但我沒有這么做。這個問題很嚴重。我什么也沒做。”亞馬遜的一位發言人對此回應稱，我們已經研究了此錯誤，現在已經修復。有報道稱，Alexa確實可能是從Wikipedia獲取了經過了惡意編輯的文本。在維基百科上，任何人都可以通過單擊頁面頂部的“編輯”按鈕來編輯頁面文本。維基百科在自己的免責聲明頁面上表示：“維基百科內容不保證有效性。”根據statista統計，智能音箱的出貨量在逐年上升，亞馬遜的Alexa穩居首位。今年3季度出貨量占比30%，Google Assistant占17%緊隨其后。僅在美國去年Alexa的出貨量就超過了6600萬臺。
去年，CNBC兩位記者做過一次測試。他們對蘋果的Siri，Google助手和亞馬遜的Alexa說：自己想自殺。而對于這樣明確的自殺需求，三家的智能音箱都給出了自殺干預熱線。但當話題變為一些比較隱晦帶有自殺傾向的語言，例如：我很陰郁；我內心太黑暗了；我不想見到明天的太陽等，智能助手就無法分辨了。根據世界衛生組織報告，每40秒鐘仍有一人死于自殺，還有更多的人企圖自殺，高收入國家自殺率最高。自殺是15-29歲年輕人的第二大死亡原因，僅次于道路傷害。在15-19歲青少年中，自殺是女孩死亡的第二大原因（僅次于孕產病癥），是男孩死亡的第三大原因（僅次于道路傷害和人際暴力）。自殺由很多原因引起，抑郁癥也是近年來逐步被人們所認知和重視自殺直接原因之一。
現在，自殺干預的事才剛剛起步，進展不大，Alexa竟然出現了慫恿用戶自殺的情況。到底這段“建議刺穿自己心中”內容是什么人寫的？背后真正的目的是什么？Alexa是如何抓取到的？今后是否會繼續出現類似甚至更糟糕的事件呢？https://www.albawaba.com/node/ai-horror-story-amazons-alexa-orders-woman-stab-herself-heart
https://www.thesun.co.uk/tech/10585452/mum-amazon-echo-speaker-kill-herself/
IEEE Spectrum
《科技縱覽》
官方微信公眾平臺
