智能数码助手能听隐藏指令 超能力引犯罪担忧

加拿大都市网

■亚马逊的Alexa等智能产品可以听到人听不到的声音。但可能有其他人在暗地里与它们谈话。美联社

本报讯

不少人已习惯了对着他们的智能产品说话,叫它们读出短信、播放歌曲或设定闹钟。但可能有其他人在暗地里与它们谈话。

据《纽约时报》报道,中国及美国的研究人员在过去两年,已示范他们能够向苹果的Siri、亚马逊的Alexa以及谷歌的Assistant发出人耳听不到隐藏指令。在各家大学的实验室里,研究人员已能够暗地里启动这些在智能手机及智能扬声器内的人工智能系统,命令它们拨电话或开启网站。这类技术要是落在不法份子手上,可被用来打开大门、电汇款项或到网上购物,所需的只是在电台上播放音乐。

柏克莱加州大学以及乔治城大学的一群学生,在2016年已展示出他们能够在经由扬声器及YouTube视频播出的白噪音内隐藏指令,令智能产品开启飞航模式或开启网页。

柏克莱加大的研究员在本月刊登的一份研究报告内更指出,可以在音乐或说话的录音里直接嵌入指令。当人类听到有人在讲话或管絃乐团在演奏,亚马逊的Echo扬声器则可能听到指令把某些东西加到你的购物清单上。

有份撰写这份报告的加大柏克莱电脑保安博士生Nicholas Carlini表示:“我们要看看是否能够把它弄得更隐形。”

Carlini指出,虽然没有证据显示这些技术有流出实验室以外,但有人开始利用它们只是迟早问题。“我的假设是别有用心的人已找人从事我在做的工作。”

这些技术说明了,即使人工智能取得很大进展,但仍可以被骗倒及操纵。只需在一张数码图像上修改一些像素,便可以令电脑把飞机误认作猫。研究员只需在路牌贴上一些细小贴纸,便可以混淆汽车的电脑视觉系统令无人车偏离车道或加速。

在语音施袭上,研究员利用人类与机械语音辨别系统之间的差异。语音辨别系统通常是把每一个声音转成字母,然后再拼出字和词组。在音讯档案内作出些微改动,研究员能够把语音辨别系统本应听到的声音拿走,然后以机械会有其他解读但人耳是几乎听不出分别的声音取代。

声控玩意的普及加剧了这些技俩的影响力。据研究公司Ovum指出,使用亚马逊Alexa或苹果Siri等数码助手的智能手机和智能扬声器,到2021年数量将会超过人类。据Juniper Research指出,届时超过半数的美国家庭将会在家中至少有一部智能扬声器。

share to wechat

延伸阅读

延伸阅读

中国公民菲律宾潜水离奇溺亡 警方揭真相:氧气中毒

好评如潮!深层肌肉按摩枪 打折加优惠券74.98

知名杂货连锁店即将关闭多伦多的所有门店!

性能强大!家用空气净化器 打6折到手仅119.99