警惕“AI换脸”

随着科技的发展，AI技术已经被广泛应用于各行各业中，其中有一项技术在今年爆火，即“AI换脸”：在一些视频平台上，不少网友以AI换脸为乐；在影视领域，这项技术解决了因为某些因素导致电视剧无法播出的问题。但与此同时，这项技术也是一把双刃剑，比如利用其伪造人脸识别认证、制造虚假新闻等。在法律人士看来，AI作为新兴科技本身在法律上是不受禁止的，但不管是经营者还是使用者，都要秉持科技向善的原则，避免利用这项技术从事违法犯罪行为。

从自娱自乐到行业应用

进入人工智能时代，网友们的自娱自乐不再只是写同人文和画漫画了，他们已经与时俱进地用上了AI技术。

不少B站或者短视频用户肯定在平台上看到过这样的现象，每当有一个视频爆火，就会有网友将自己喜欢的明星的脸通过AI技术“移花接木”到原视频的人物身上；一些网友还爱将一些喜剧明星的脸通过AI技术换到《甄嬛传》等宫廷剧的角色身上；还有人将自己的脸换到动漫人物身上……

当然，这里的AI换脸技术并不需要网友自行学编程、写代码，只要下载一个AI换脸的App，将自己想要用的脸和身体的照片放上去，就能实现换脸。北京商报记者在软件商店搜索“换脸”两字，可以看到很多相关的App，比如“换脸宝”“一键AI换脸”“爱脸秀”“AI换脸秀”“脸拍AI换脸”“AI换脸大师”等。

北京商报记者就AI换脸的一些技术和应用问题采访了云从科技、依图科技等AI公司，但截至发稿对方未给出回复。

除了被网友们用来娱乐，AI换脸技术也有正经用途。在今年热播的一部电视剧《突围》中，因饰演剧中一个重要角色的演员曾公开发表不当言论，剧组便动用了AI换脸技术将其相关出场镜头尽数“换脸”。不过，限于当下的技术水平，剧中但凡有这个角色的镜头，仔细观察还是能看出一些不自然的细节。

可以说，AI换脸技术在特定背景下确实有其存在的必要性。然而，随着这项技术的广泛应用，不法分子也学会了利用这项技术钻空子。

近日，常州警方发现，当地一家非法从事证书挂靠行业的公司，竟然使用AI换脸技术“伪造人脸”，帮助想要挂靠的专业人员在相关政务网站上进行识别认证。正常的人脸识别需要本人亲自进行识别认证，这个犯罪团伙便想到利用AI换脸技术“骗过”人脸识别认证，实施作案，犯罪嫌疑人在审讯过程中，还向警方演示了用多个制图软件让图片动起来的过程。

此外，还有一些人开始利用AI换脸技术造谣，尤其是用在公众人物身上。今年8月，演员刘昊然的工作室报警，称网友利用AI换脸技术传播对刘昊然带有侮辱性的视频、截图，同时还有含有存在诽谤言论的聊天记录。

“移花接木”要有法律界限

“AI换脸技术本身是一项中性技术，提供了一种解决问题的方式。” 中国互联网协会法工委副秘书长、中消协律师胡钢对北京商报记者表示，但要注意，使用这项技术的人，可能出于不同的目的、有不同的动机，虽然采用同样的技术，但所产生的社会效果和法律效果是不同的。

胡钢认为，网友通过某种方式创作一些内容、完成一些表演，是宪法规定公民所享有的权利，但任何一项言论或行为自由都和相关义务和责任匹配，自由的边界是不得侵犯其他个人或组织的利益，也不能损害公共利益，要有一个清晰的法律界限。“如果AI技术被用于诈骗，比如伪装成另外一个人并虚构一些内容，轻则损害他人的名誉权、肖像权，重则形成了传播谣言、扰乱公共秩序的危害，相关行为人利用现代科技信息技术时，一定要秉持科技向善的原则，牢牢守住法律的底线，不能利用这样的技术从事违法犯罪的活动。”

除了使用者要规范自己的行为，胡钢指出，AI换脸技术的开发者和经营者在授权他人使用相关产品时，一定要明白科技伦理的概念，考虑这项技术在法律上、伦理上是否可能被滥用，在开放过程中应当采取更加合法合规的措施和方式，以及注意后期的预防措施。“产品所展现的图像本身或者声音本身，开发运营者是否可以强制在其中凸显出这是经过AI技术处理的内容，存在不真实的可能性，或者标注仅用于表演，这种重要的提示完全可以嵌入到相关开发技术运营单位的经营流程之中，这点如果能牢牢守住，就能避免一些麻烦。”

关于这一点，北京商报记者查阅资料注意到，2019年，百度安全推出了国内首个基于人脸搜索、人脸属性提取、语音识别和OCR识别的深伪检测平台，采用多种算法和专利保护技术，对主流“深度伪造”数据识别准确率在99%以上，能及时地协助监管部门检测相关风险与问题。

不过，即便有识别技术，人们还是应该保持警惕心理，不以此技害人，也不被此技所害。

北京商报记者 石飞月

（王治强 HF013）