有视频未必有真相：AI被用于诈骗换脸、声音模仿防不胜防

来源:澎湃新闻 2019-07-28 11:12 https://www.yybnet.net/

来源：法制日报（记者韩丹东）最近，2019防范治理电信网络诈骗论坛在中国互联网大会期间举行。

据论坛内容显示，机器学习、人工智能、大数据等热点技术已被犯罪分子用于实施诈骗。比如上游黑产利用机器学习、人工智能，突破互联网企业的验证码体系，或是利用人工智能技术恶意注册，获取号码资源，提供给犯罪分子实施诈骗。

随着科技的进步，花样翻新的电信网络诈骗令人防不胜防。

“技术一直以来都是双刃剑，我们在享受技术带来便利、新奇的同时，也会面临技术被滥用带来的风险。”中国传媒大学政法学院法律系副主任郑宁说。图片来源：微博@财新网

诈骗手段不断翻新，四种形式防不胜防

随着技术的更新，诈骗手段也不断翻新，那么AI诈骗主要有什么方式呢?

对此，郑宁总结了四种AI诈骗形式，并详细介绍了其中的原理。

据郑宁介绍，第一种是转发微信语音。骗子通过盗取微信号，然后提出转账要求，多数人会选择要求对方语音回复，这时骗子会转发之前的语音，从而获取信任，进而获得钱款。虽然目前微信语音是不能转发的，但骗子可以通过提取语音文件或者安装增强版微信(一般是基于xposed框架的插件),实现转发语音。

“对于这种诈骗形式，群众只需提高警惕，直接电话联系，即可识破骗局。此外，即使要求对方语音回复，也可提出具体的要求，比如要求对方提供身份信息、说明转账原因等，避免骗子利用之前的语音蒙混过关。”郑宁说。

郑宁谈到的第二种骗术是声音合成。具体的操作是骗子通过骚扰电话等录音来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。图片来源：微博@AMiner学术头条

郑宁说，通过神经网络和机器学习技术可以达到合成声音的效果。第一个利用神经网络生成人类自然语音的，就是DeepMind的WaveNet。WaveNet(波网)是一个用于生成原始音频的深度神经网络。它是由伦敦人工智能公司DeepMind的研究人员创建的。此技术通过使用用真实语音记录训练的神经网络方法直接模拟波形，能够生成听起来相对真实的类人声音。

据了解，2016年，谷歌在加拿大蒙特利尔大学建立的人工智能实验室(MILA)。基于声音合成技术，MILA在2017年4月成立了Lyrebird公司。在其网站DEMO部分，可以听到官方合成的足以以假乱真的特朗普以及奥巴马的声音。美国有位记者用机器合成的句子和家里人打电话做实验，他的家人完全分不清楚真假。

“合成的声音有明显的痕迹，但WaveNet可以把合成痕迹明显的机器语音，转换成更加流畅自然的语音，与人类声音之间的差异大幅降低，目前在鬼畜视频界做得风生水起。而Lyrebird则更进一步，它可以基于音色、音调、音节、停顿等多种特征，来定义某个人的声音，然后生成更加拟真的声音。”郑宁说。

郑宁补充说，第三种是AI换脸。视频通话的可信度明显高于语音和电话，但利用AI换脸，骗子可以伪装成任何人。第四种是通过AI技术筛选受骗人群，通过分析公众发布在网上的各类信息，骗子会根据所要实施的骗术对人群进行筛选，从而选出目标人群。例如实施情感诈骗时，可以筛选出经常发布感情信息的人群；实施金融诈骗时，可以筛选出经常搜集投资信息的人群。图片来源：微博@每日经济新闻

对此，中国人民大学法学院教授刘俊海说：“AI技术用于诈骗已经不是新鲜事，因为任何技术一旦出现，不法分子就会想到利用新技术来实施犯罪。”

加强个人信息保护提高警惕防范诈骗

诈骗手法在不断翻新，那么广大群众该如何预防，防止被骗呢?

郑宁提出了两点建议。第一是验证，提高警惕是防范诈骗的最好方式，在涉及钱款时，群众要提高安全意识，通过电话、视频等方式确认对方是否为本人，在不能确定真实身份时，可将到账时间设定为“2小时到账”或“24小时到账”,以预留处理时间。

此外，可以选择向对方银行汇款，避免通过微信等社交工具转账。因微信等工具均会绑定银行卡，向对方银行卡转账，一方面便于核实对方信息，确认钱款去向；另一方面，对方能通过短信通知得知转账信息，此外，即使是本人操作，也不影响对方提取钱款。

“第二是保护个人信息，注重隐私保护。社交平台的发展加大了保护个人信息的难度，民众将越多的个人信息暴露在网络上，遭受诈骗的概率越高。实施诈骗需要获取当事人的个人信息，网络共享加上AI技术，骗子搜集整理当事人的个人信息更为便捷。因此，为避免骗子借用个人信息实施诈骗，民众应当加强个人信息保护意识，以防止骗子利用AI技术掌握大量个人信息并对人物性格、需求倾向等进行刻画，从而有针对性地实施诈骗。”郑宁说。

在刘俊海看来，预防被骗的关键就是人们要提高自我保护意识，不要过于轻信网络上的信息，而且不要抱有侥幸心理，时刻记住天上不会掉馅饼，地上却会有陷阱。

即使人们时刻小心着被骗，但诈骗却一直存在，让人防不胜防，那么在日常生活中人们该如何防范呢?

对此，郑宁说，首先是相互提示，共同预防。亲戚朋友间要互相提示，相互宣传，因中老年人被骗较多，青年人要及时做好家中老人的宣传防范工作，提醒、告诫老年人接到电话、收到短信，只要是不认识、不熟悉的人和事，均不要理睬，以免被诱被骗。图片来源：微博@21世纪经济报道

“其次是拒绝诱惑，民众应当避免占便宜心理，警惕陌生人提供的好处；再次是谨慎处理金钱交易，无法确认对方身份时，拒绝交易；最后是保护网络账号及密码、手机号、身份证、家庭住址、亲属关系等个人敏感信息，不随意提供上述敏感信息。”郑宁说。

充分利用人工智能提升反诈骗精准度

对于这种利用新技术的诈骗该如何整治?

郑宁提出了四条监控整治建议：第一，即时通信、网络社交等平台企业应当加强账户管理，防止他人盗用用户账号及密码，建立风险提示制度，出现账号异常登录等情况时对用户进行风险提示；第二，利用以大数据分析和智能预警算法为基础的AI技术进行反网络诈骗，在工信部等部门的主导下，利用大数据优势，将相关数据通过反诈骗机制进行共享，进而提高反诈骗的精准度；第三，建立专门人工智能安全机构，制定人工智能标准，对AI技术进行管理和监督，监督AI技术在不同领域内的应用；第四，采取措施保证人工智能系统使用的数据被合理限制、管理和控制，以此来保护隐私权，在保护数据安全的情况下，不禁止利用AI技术造福公众。同时，刘俊海也提出了自己的建议。他说，希望监管部门和司法机关要善于驾驭使用AI技术，并且关注公众反映最突出的问题。