智能數碼助手能聽隱藏指令 超能力引犯罪擔憂

加拿大都市网

■亞馬遜的Alexa等智能產品可以聽到人聽不到的聲音。但可能有其他人在暗地裡與它們談話。美聯社

本報訊

不少人已習慣了對着他們的智能產品說話,叫它們讀出短訊、播放歌曲或設定鬧鐘。但可能有其他人在暗地裡與它們談話。

據《紐約時報》報道,中國及美國的研究人員在過去兩年,已示範他們能夠向蘋果的Siri、亞馬遜的Alexa以及谷歌的Assistant發出人耳聽不到隱藏指令。在各家大學的實驗室里,研究人員已能夠暗地裡啟動這些在智能手機及智能揚聲器內的人工智能系統,命令它們撥電話或開啟網站。這類技術要是落在不法份子手上,可被用來打開大門、電匯款項或到網上購物,所需的只是在電台上播放音樂。

柏克萊加州大學以及喬治城大學的一群學生,在2016年已展示出他們能夠在經由揚聲器及YouTube視頻播出的白噪音內隱藏指令,令智能產品開啟飛航模式或開啟網頁。

柏克萊加大的研究員在本月刊登的一份研究報告內更指出,可以在音樂或說話的錄音里直接嵌入指令。當人類聽到有人在講話或管絃樂團在演奏,亞馬遜的Echo揚聲器則可能聽到指令把某些東西加到你的購物清單上。

有份撰寫這份報告的加大柏克萊電腦保安博士生Nicholas Carlini表示:「我們要看看是否能夠把它弄得更隱形。」

Carlini指出,雖然沒有證據顯示這些技術有流出實驗室以外,但有人開始利用它們只是遲早問題。「我的假設是別有用心的人已找人從事我在做的工作。」

這些技術說明了,即使人工智能取得很大進展,但仍可以被騙倒及操縱。只需在一張數碼圖像上修改一些像素,便可以令電腦把飛機誤認作貓。研究員只需在路牌貼上一些細小貼紙,便可以混淆汽車的電腦視覺系統令無人車偏離車道或加速。

在語音施襲上,研究員利用人類與機械語音辨別系統之間的差異。語音辨別系統通常是把每一個聲音轉成字母,然後再拼出字和詞組。在音訊檔案內作出些微改動,研究員能夠把語音辨別系統本應聽到的聲音拿走,然後以機械會有其他解讀但人耳是幾乎聽不出分別的聲音取代。

聲控玩意的普及加劇了這些技倆的影響力。據研究公司Ovum指出,使用亞馬遜Alexa或蘋果Siri等數碼助手的智能手機和智能揚聲器,到2021年數量將會超過人類。據Juniper Research指出,屆時超過半數的美國家庭將會在家中至少有一部智能揚聲器。

share to wechat

延伸阅读

share to wechat

延伸阅读

share to wechat

Walmart 最新一期店内优惠(3月28日至4月3日)

DNA找爸爸 结果发现闺蜜是她的同父异母妹妹

29岁韩团女星惊传轻生!日前宣布离婚兼认爱新男友

女士旅行包3件套 闪购打5.4折仅售42.58