谷歌陷语音监听风波 AI泄露隐私?

laodang @ 2019年07月19日  财经风云

谷歌陷语音监听风波 AI泄露隐私?
 21世纪经济报道 

 


随着AI语音技术的发展,个人隐私受到了巨大的挑战,你说的每句话都有可能正在被“偷听”。

“隐私不应该成为一种奢侈品,不能只提供给有能力购买高端产品和服务的人。”谷歌CEO桑达尔·皮扎伊(SundarPichai)曾在有关媒体上公开表示。然而,这一态度与事实相去甚远。

日前,据媒体报道,谷歌员工会收听来自GoogleHome智能音箱以及语音助手应用程序里的音频文件。其中,许多音频文件是在无意中收集,甚至无需用户激活用户的设备。此外,谷歌承包商泄露了超1000份用户与谷歌助理交谈的录音。

对此,谷歌回应称,这是为了更好地开发语音技术,改善用户体验。谷歌搜索团队产品经理大卫·蒙西斯(DavidMonsee)发文称,部分音频是用于开发语音识别系统,从而更好地适应各种语言、口音和方言。

无独有偶,今年四月份亚马逊也陷入隐私监听丑闻。亚马逊在全球雇佣数千名员工,收听Echo智能音箱用户家中和办公室录制的对话。而在国内,今日头条、美团、饿了么等平台也曾经陷入监听风波。

语音助手之困

与美团、饿了么回应称的“技术达不到”不同,亚马逊、谷歌均表示,之所以搜集用户录音,是为了更好的研发语音系统,使之能够理解用户发出的语音命令。

“我们认真对待客户个人信息的安全和隐私。”亚马逊发言人在一封电子邮件声明中表示,“我们只会标注一小部分Alexa录音,以便改善客户体验。这些信息有助于我们训练语音识别和自然语言处理系统,这样Alexa可以更好地了解您的请求,并确保服务适合每个人。”

蒙西斯在其博文中也同样解释,语言专家审查并转录一小部分音频内容,以帮助我们更好地理解这些语言。这是构建语音技术过程中的关键部分,也是创建像GoogleAssistant这样的产品所必需的。

与谷歌和亚马逊类似,苹果的Siri也有人工助手,他们负责判断Siri对用户命令的解释是否与用户所说的一致。根据苹果公司的安全政策显示,他们审查的录音不关联用户个人识别信息,并与一个随机标识符绑定存储6个月。之后,数据将从随机识别信息中剥离出来,但可能会存储更长的时间,以提高Siri的语音识别能力。

但是,这些智能音箱、语音助手等产品,在生活中的介入越来越多。个人信息被泄露的风险也相应增大,也引发了用户的担忧。比如智能语音助手可以帮助用户支付账单、获取银行账户信息。甚至许多智能语音助手,还能够根据消费者的历史购物记录,提供新产品推荐和建议。

一名AI语音行业资深人士在接受21世纪经济报道记者采访时认为,谷歌的行为不是严格意义上的窃听,窃听是指在非唤醒状态下还在监听录音。“服务商应该是帮谷歌做标注,比如我如何去识别你的口音,怎么知道你说的这句话是什么意思,这个是需要人去标注出来的。只要谷歌保证数据脱敏,以及服务商遵守隐私协议,不把录音泄露出去,从法律上是不存在问题的。人脸识别也是一样的问题,如果没有人标注,告诉机器这张照片是什么,那AI是无法工作的。”

立法亟待落实

随着AI语音技术及相关产品的发展,智能音箱、语音助手服务等已经成为主流的应用。

据Canalys发布的2019年一季度全球智能音箱产品统计报告显示,2019年一季度全球智能音箱产品出货量,相比2018年一季度增长了131.4%达到2070万台,全球智能音箱安装量将自2018年的1.14亿台上升到2019年的2.079亿台,同比增长82.4%,中国内地将成为今年全球增长最快的市场。

21世纪经济报道记者发现,当在今日头条、百度等应用上浏览或搜索特定内容时,在其他应用上也能看到类似的内容,甚至是精准推送的广告。此外,在人工智能的大力普及后,一大批平台的客服已经转为智能语音系统。

奥纬咨询董事合伙人GokhanedgeOzturk认为,保护客户隐私也是一个问题,通过智能语音助手提出的要求,会留下数字跟踪的痕迹。虽然大部分人们接受通过智能语音助手收集的数据,可能用于定向广告,但他们对透露敏感性销售,或揭示现金短缺的财务信息的感受可能有所不同。“一旦拥有足够的数据,人工智能程序可以为任何人生成相当令人信服的音频文件。黑客们甚至可以达到欺骗语音助手的目的。”

也有技术行业人士认为,分析声音命令并训练软件,以更清晰地识别口头语言,是没有问题的,但谷歌应该有严格的方法来辨别、处理和删除个人信息。没人愿意因为使用AI新技术而泄露个人信息,在AI技术的发展过程中,如何更有效地保护用户的信息,是需要整个行业思考的问题。

1月21日,谷歌曾因违反欧洲《通用数据保护条例》(GDPR)被法国国家数据保护委员会处以5000万欧元的罚款。《通用数据保护条例》(GDPR)自2018年5月25日生效,条例对用户数据收集等相关内容进行了一些规定及保护。但是,全球各地的落实状况也不一致。

2016年11月7日,中国全国人大常委会颁布《中华人民共和国网络安全法》,首次从立法层面对个人信息进行了定义和不完全列举。除此之外,世界上还有许多国家也在相继推进自己的隐私立法,有的已经出台,有的还在起草酝酿阶段。

这对消费者隐私保护来说是一个好消息,但随着新技术的不断发展,相关法案的补充、完善与更新就显得尤为重要。