“AI换脸”,便利背后有风险-南漳新闻网
南漳新闻网隆重上线
新闻中心 > 南漳网信

“AI换脸”,便利背后有风险

南漳新闻网   2023-12-06 17:52   来源:网信湖北微信公众号 关闭窗口

上传一张照片,就可以把歌手换成自己;一键制作,就可以变成视频中的经典角色……一段时间以来,“AI(人工智能)换脸”技术被广泛应用于短视频的二次创作,给社会公众带来了新鲜体验。不少网友感叹,“AI换脸”生成的视频,惟妙惟肖,很有意思。但也有网友认为“AI换脸”技术存在不小的安全隐患,应当加强监管。

近日,河北石家庄一位律师在来信中反映,有的地方企业注册需要人脸识别,易被人利用“AI换脸”技术冒名注册,一旦发生这样的情况,需要花费大量的时间精力去维权,“建议提升人脸识别准确性的同时,增加多种验证方式,同时仔细审查身份证等信息。”

近年来,有不法分子为了牟利,利用“AI换脸”技术冒充熟人实施诈骗或者盗取个人信息等,侵害群众权益。据内蒙古包头警方通报,某公司法人代表郭先生10分钟内被骗430万元,犯罪分子的诈骗手法就是通过“AI换脸”和拟声技术佯装熟人,尽管郭先生通过视频聊天“核实”身份,但其“好友”却是犯罪分子用“AI换脸”技术假冒的。

此外,“AI换脸”技术还可能侵害公民的个人信息安全甚至公共信息安全。浙江杭州萧山区检察院曾对一起利用“AI换脸”技术侵害公民个人信息案向杭州互联网法院提起民事公益诉讼。虞某某从互联网公共空间非法获取众多人脸信息,利用“AI换脸”等深度合成技术非法处理、制作视频后,在社交软件上传播并获利,甚至还提供换脸视频定制服务,使不特定群体成为潜在的被侵害对象。最终,杭州互联网法院认定虞某某侵害公共信息安全,还应承担相应的民事侵权责任。

“AI换脸”技术是把双刃剑。“在为群众生活提供便利的同时,也将人们从真实场景中抽离出来,打破了‘人脸即真实’的传统认知和社会共识,造成视觉效果失真,生物识别信息的真实性被一定程度消解,存在信息安全和人身权利被侵害的风险。”中国社会科学院法学研究所网络与信息法研究室副主任、中国法学会网络与信息法学研究会常务副秘书长周辉说。

“从司法实践来看,目前已有不少因‘AI换脸’生成短视频侵犯知识产权或是人格权的案件进入到诉讼程序。”北京互联网法院综合审判一庭副庭长朱阁介绍,例如相声、影视剧等都属于著作权法保护的作品,短视频平台用户用“AI换脸”技术将相声、影视剧等换脸上传,可能面临侵犯著作权的法律风险。

我国民法典将人格权独立成编,规定任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。“短视频平台未征得当事人同意,提供他人形象模板让用户使用‘AI换脸’技术制作图片或视频并发布,平台和用户都面临侵犯他人肖像权的法律风险。”朱阁提示,即使用户基于对平台的信赖或者已经付费,也可能构成侵权。

根据相关规定,提供和使用生成式人工智能服务,应当尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。“‘AI换脸’等新技术本身是中性的,但应规范使用。”周辉表示,短视频平台等深度合成服务提供者在投入使用相关应用时,应充分考虑法律风险和市场风险,履行法律规定的显著标识义务,向公众提示深度合成后果,促使技术健康合规发展。

“社会公众既要增强个人信息特别是人脸等生物特征等信息的保护意识,同时使用新技术也要尊重他人的知识产权和人格权,尽到审慎的注意义务,避免陷入不必要的诉讼纠纷。”朱阁提醒。