在声音社交与短视频及直播越发火爆的当下，如果一个陌生人突然顶着你的声音与脸出现在网络端，你的惊讶程度会否大过对自身安全的担忧？
3月18日，针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”(Deepfake)的技术的应用，国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关依法约谈映客、小米、快手、字节跳动、鲸准数服、云账户、喜马拉雅、阿里巴巴、网易云音乐、腾讯、去演等11家企业，督促其按照《网络安全法》《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》等法律法规及政策要求，认真开展安全评估，完善风险防控机制和措施，并对安全评估中发现的安全隐患及时采取有效整改措施，切实履行企业信息内容安全主体责任。
所谓“深度伪造”（Deepfake），也被译作“深度造假”，是计算机“深度学习”（Deeplearning）和“伪造”（fake）的组合，出现于人工智能和机器学习技术时代，通过自动化手段，尤其是人工智能算法技术进行智能生产、操纵、修改数据，实现媒体传播行为的一种结果。直白来讲就是在图片和声音中输入机器学习算法，进行“面部操作”（face manipulation），将一个人的脸部轮廓与表情转移至其他人脸上，同时利用对声音的处理制造出以假乱真的视频，大多数深度伪造都依托于名为生成式对抗网络（GANs）的深度学习技术。
根据《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》要求，出现具有舆论属性或社会动员能力的信息服务上线，或者信息服务增设相关功能；使用新技术新应用，使信息服务的功能属性、技术实现方式、基础资源配置等发生重大变更；用户规模显著增加等情形，互联网信息服务提供者应当自行开展安全评估，对评估结果负责，并向网信部门和公安机关提交报告。网信部门和公安机关根据对安全评估报告的书面审查情况，认为有必要的，应当依据各自职责对互联网信息服务提供者开展现场检查。
公开消息称，未来国家互联网信息办公室、公安部将继续指导各地网信部门和公安机关加大巡查检查力度，督促属地互联网企业严格遵守相关法律法规，积极主动履行安全管理义务，切实履行企业主体责任，共同维护网络传播秩序，营造良好网络生态。
截至发稿，相关企业均未回应第一财经记者的采访要求。多位业内相关企业人士对第一财经记者表示，此举主要为了技术规范，对企业技术安全使用标准进行进一步的明确与统一。
此前，语音社交软件Clubhouse 在全球范围内的火爆既引发同类产品的模仿追逐，也引发行业对声音社交安全性的思考。2019年夏天，一段似乎是“马克·扎克伯格”本人的假视频在Instagram上传播甚广，该“扎克伯格”在视频中声称已“完全控制了数十亿用户的数据，掌握了他们所有的秘密”。后经调查后发现这是一个艺术恶搞项目，AI换头技术和深度伪造(Deepfake)的危害，而非蓄意传播的虚假信息。
后来，Facebook与Reddit共同出台针对Deepfake的审核政策，该政策的方向不是为彻底清除这种伪造模式，而是要进一步缩小“清除”的目标焦点。Facebook表示他们将从平台上移除“有强误导性的媒体信息”，这些信息由机器学习技术以普通人看不出的方式“编辑或合成”，误导传播视频中的“仿冒”人物所发表过的言论。
另外，近期多家短视频平台上“蚂蚁牙黑”的换脸恶搞视频火爆刷屏，传播至抖音、快手、微博、朋友圈，该特效技术可以将人物图片同框一起魔性起舞。该换脸特效最初源自一款名为Avatarify的AI变脸软件。今年3月2日，Avatarify已在App Store中国区下架，官方并未说明下架原因。除了Avatarify外，Deep Nostalgia与ZAO等平台也因AI换脸应用引发争议，其背后原因均涉及DeepFake技术的以假乱真与面部识别带来的个人隐私泄露及滥用。
一位不愿透露姓名的头部互联网安全工程师对第一财经记者表示，Avatarify的下架主要是因为换脸恶搞视频的侵权问题，技术层面上这些换脸应用有可能突破人脸识别身份认证的场景，攻击者可能利用AI换脸骗取风控系统。另外如今大火的声音社交中，语音伪造技术也会被犯罪组织利用。较大的厂商一直在改进相关技术，技术层面的研发提升与其本身存在的各类风险问题未来将长期对抗存在。随着相关技术监管的加强以及企业方的自我完善，未来AI换脸与声音社交的应用将更加严格与谨慎。
来源：第一财经
（冉笑宇 ）
加载中,请稍侯......