恐怖...亞馬遜虛擬助手Alexa 告訴用戶「殺死你的養父母」
2018/12/22 10:50
〔即時新聞/綜合報導〕就像蘋果手機有人工智慧助理軟體Siri一樣,全球電商龍頭亞馬遜的Echo音響也有虛擬助手Alexa,可以告知用戶今天的天氣狀況、點外賣等等,也就是處理一些基本的語音命令並對話,但令人不寒而慄地是,Alexa在一次聊天中竟告訴用戶「殺死你的養父母」。
據《路透》報導,市場研究公司估計,美國大約有3分之2的智慧音響用戶(約4300萬人)使用了亞馬遜的Echo,而亞馬遜希望透過Alexa更好地處理客戶的需求,無論是家庭安全、購物還是聊天陪伴。
為了實現這一目標,亞馬遜於2016年推出了Alexa獎,吸引電腦科學與軟體專業的學生提高Alexa的會話技巧。學生團隊會幫Alexa打造不同的聊天AI,Alexa也被允許和用戶進行更複雜的聊天。
亞馬遜客戶一旦向Echo說「讓我們聊天吧」,Alexa就會告知用戶將會有不同的聊天AI接管,並解除語音助手平時的約束。然而,Alexa所套用的聊天機器人正在失控,除了會大聊性行為之外,還叫1位用戶殺害養父母。亞馬遜事後調查發現,當時聊天AI引用了一篇來自Reddit的新聞評論。
事實上,和Alexa聊天還有可能帶來隱私問題,所有對話都會被記錄下來,這些訊息可能會被駭客、執法部門所利用。亞馬遜日前就承認,有位德國的客戶在和Alexa聊天時,意外聽到另一位用戶的對話錄音。
知情人士更透露,今年7月時,有一個由學生所設計的Alexa聊天AI,遭到中國駭客的攻擊,進而破解聊天紀錄。亞馬遜當時立刻禁用該款AI,並承認此次資料外洩的問題。不過,亞馬遜拒絕評論Alexa具體發生哪些錯誤,僅強調公司正在努力保護客戶的個資。