亚马逊等智能音箱“偷听”用户 AI安全问题再成焦点

据英国《每日邮报》报道，近日，美国消费者保护组织Consumer Watchdog出具的一份报告显示，来自亚马逊和谷歌的专利申请曝光了其智能音箱是如何“偷听”用户的。该组织的研究称，从这两大巨头的专利申请可以看出，这些设备可能被用作收集大量信息和广告推广的监听设备。

这项研究警示，在不远的将来，智能音箱可以监听到你的一切，从一些机密的对话，到你冲厕所的习惯，无所不包。而智能家居产品的新版本甚至可以收集用户数据并向其推销相应产品。


研究发现，亚马逊、谷歌智能音箱 可通过扬声器监听用户Google HOME和亚马逊Echo是目前市面上畅销的两款智能音箱。Google Home于2016年面市，可以通过语音控制音响，播放音乐或者回答简单的问题，连接到家中的灯光、恒温器等，成为家庭的控制中心。而亚马逊Echo被称为“Alexa”的语音助手可以像朋友一样与用户交流，同时还能播放音乐、新闻、网购下单、叫车、订外卖等等。

然而，Consumer Watchdog的研究却发现了这种看起来很高大上的智能音箱的漏洞。按道理来说，智能语音设备只有在听到“唤醒词”时才会作出反应。对于亚马逊的Echo音箱来说，唤醒词是“Alexa”，而对于Google Home智能家居设备而言，唤醒词为“OK，Google”。该组织研究发现，即使用户认为智能音箱在“休眠”的状态时，它们也可以被“唤醒”。实际上，这些设备只要开着，就一直都在收听声音。而亚马逊则设想用语音助手Alexa收集信息，并建立房间里内的任何人的档案，并依此向其推销相应产品。

据悉，亚马逊提交了一个算法专利申请，该算法可使未来的智能语音设备识别有关兴趣的语句。比如用户说“我喜欢滑雪”，设备便可通过扬声器进行监听，并针对这一喜好推荐相关广告。

而谷歌的专利申请则描述了未来智能家居系统监视家庭一切活动的场景。根据该专利描述，设备可获取多种信息，无论是家庭成员对电视节目的喜好，还是他们的卫生习惯，都可以通过这项相关新技术获取。该组织的隐私和技术项目总监约翰·辛普森表示：“谷歌和亚马逊公司希望你们认为，他们的智能家居设备能够用你的声音帮助你。但实际上，他们在家里窥探你和你的家人，并尽可能地收集你的活动信息。”

亚马逊称不会将客户的录音用于有针对性的广告对此，亚马逊的发言人说，“我们重视隐私，并在Echo智能家居设备中建立了多层隐私保护设置。我们不会将客户的录音用于有针对性的广告。像许多公司一样，我们提交了许多具有前瞻性的专利申请，并探索新技术的所有可能性。一项新专利需要多年才能获得认可，它并不一定反映当前产品和服务的发展趋势。”

但消费者保护组织Consumer Watchdog表示，谷歌和亚马逊对通过窥探日常生活中获得的数据来投放相应广告显得最感兴趣。一旦相关信息被获取，别人就可以访问它。例如，一些家庭保险公司和公用事业公司已经与智能恒温器公司Nest达成协议，将智能音箱放在客户的家中。

而执法部门已经试图获取智能设备采集的信息。去年，亚马逊Echo音箱登上头条新闻，当时美国警方正在调查一起谋杀案，并试图调取该设备的录音。Consumer Watch的研究报告警告说，黑客和身份盗窃者也有可能访问谷歌和亚马逊监听到的数据。

这一消息的爆出，也再次引发了业界关于人工智能安全问题的讨论。科技的进步固然可以给人类带来更大的便利，但同时，也带来了更多的安全隐患。

“安全性是部署人工智能的最大挑战。”加州大学伯克利分校计算机系教授宋晓冬说。她的研究方向是深度学习与安全领域。

从历史上看，自从有了互联网，就有了网络攻击。最早的蠕虫病毒，当时感染了6千台计算机，而这一数字占了当时世界上计算机总数的十分之一。2016年名为“wannacry”的勒索病毒则导致全球20万台电脑中毒，涉及 150多个国家。计算机病毒攻击不仅显现出多样化特点，恶意软件也不断升级，给经济发展了带来损害。宋晓冬介绍，人工智能领域的安全问题主要表现为两方面，第一个是攻击人工智能的学习系统，让其不能产生正确或需要的结果。第二个是对人工智能的滥用。宋晓冬和同事对于深度学习里的对抗性例子进行了研究。他们发现，在实施一些技术干扰后，计算机在进行深度学习时容易被欺骗，比如一个“禁止停车”标志，可能被计算机解读为“限速”标志。

他们还发现，攻击者可以对计算机生成模式进行篡改。实验中，他们对某个人脸识别系统进行了修改，结果整个系统就只生成了一个人的脸。

“自动驾驶如果出了问题，到底该由谁来负责呢？人工智能的安全性需要从早期就开始考虑。”宋晓冬说，这是一个跨学科任务，需要全社会共同参与。

本公众号现面向人工智能和大数据爱好者征稿（无稿酬），如果您想让您的文章、观点分享给更多人工智能和大数据爱好者，请发邮件至351745027@qq.com。                                                       欢迎扫码添加小编，加入人工智能和大数据公众号读者交流群，探讨、分享、交流！交流群每周会邀请行业专家进行在线分享！