肖飒：诈骗频发，法律规制将避免AI换脸技术野蛮生长

2023-05-27 14:37:28 中新经纬

　　中新经纬5月27日电题：诈骗频发，法律规制将避免AI换脸技术野蛮生长

　　作者肖飒北京大成律师事务所合伙人

　　2023年以来，伴随深度合成产品和服务逐渐增多，利用“AI换脸”“AI换声”等虚假音视频进行诈骗、诽谤等违法行为屡见不鲜。

　　近期，内蒙古包头市就发生一起使用智能AI技术进行电信诈骗的案件，某公司负责人10分钟被骗走430万元。目前，世界范围内有据可查的第一起利用深度合成技术的诈骗案件发生在2019年，罪犯利用“AI换声”精准模仿一家国际能源公司老板的口音和语气，成功实施诈骗，涉案约243000美元。截至2023年5月，涉案资金仍未追回。

　　此外，还有“换脸冒充当红女星带货，赚得盆满钵溢”等案例……这无不说明相关AI技术的滥用，已对公共利益构成威胁。

　　深度合成技术公司面临严重法律风险

　　“AI换脸10分钟狂骗430万元”新闻中提及的技术就是AI深度合成技术，是广义的AIGC(人工智能生成内容)技术群组成部分。

　　深度合成技术是“朝阳产业”，随着技术迭代，深度合成技术成本急剧降低，相关技术企业已经可通过“走量”赚取暴利。据调查，目前制作一套“露脸且说话”视频成本低至数十元，且只需提供正面照片就能生成视频，视频不仅五官会动，再配上文字后口型都能对得上，而这只需几小时就可完工。有商家称利用照片生成1分钟时长视频仅需30元，质量要求不高的价格仅有几元。

　　这类行为面临巨大的刑事风险，《中华人民共和国刑法》规定有帮助信息网络犯罪活动罪，即明知他人利用信息网络实施犯罪，为其提供互联网接入、服务器托管、网络存储、通讯传输等技术支持，或提供广告推广、支付结算等帮助，情节严重的行为。

　　这意味着，如果有“客户”无正当理由，且没有显著证据表明其获得照片人认可而要求技术公司利用照片生成视频，并用以行骗，技术公司未来会极易因此陷入到相关刑事风险之中。

　　此外，未经允许的AI换脸技术也有可能构成严重民事侵权行为。2022年，被告上海某科技有限公司在其运营的“AI换脸”软件中使用某古风汉服模特所拍摄的古风造型视频模板，原告据此主张被告构成肖像权侵权。

　　因此，涉及深度合成等技术的AIGC创业公司须严格遵守信息发布审核、个人信息保护等合规义务。

　　用“法”打败“魔法”，相关法规亟待“靴子落地”

　　正因为AI深度合成技术诈骗案件在全球层出不穷，传统的“技术中立”观点已鲜有支持，各国对深度合成技术在逐步加强监管。

　　在中国，深度合成技术直接受到《互联网信息服务深度合成管理规定》规制。2023年4月，国家互联网信息办公室管理《生成式人工智能服务管理办法(征求意见稿)》公开征求意见，该意见稿定稿发布后，深度合成技术将受到进一步规制。

　　除此之外，《网络安全法》《数据安全法》《个人信息保护法》《互联网信息服务管理办法》《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》《网络音视频信息服务管理规定》等均涉及到对深度合成技术的规管。当然，《刑法》作为最后的保护手段，也有诸多罪名可规制利用AI深度合成技术犯罪的行为。

　　务必保持防范意识

　　个人面对花样翻新的AI诈骗，必须保持高度防范意识。

　　比如，不要轻易透露自己身份证、银行卡、验证码等信息，不要轻易提供人脸、指纹等个人生物信息给他人，不过度公开或分享动图、视频等。

　　一旦涉及到网络转账交易，要多重验证，确认身份，不要未经核实随意转账汇款。如不慎被骗或遇可疑情形，要保护证据，及时报警。