当前位置: 主页 > 未来 > 详情
“有图有真相”已经成为历史?如何让AI换脸换装不再是双刃剑?

科技日报   2023-04-05 13:29:00

科技日报实习记者 李诏宇

“巧笑倩兮,美目盼兮。”“罗衣何飘摇,轻裾随风还。”自古以来,面部和衣物都是一个人身份的重要标志物之一。人们往往可以通过面部和衣物的特征来判断一个人的身份。


(资料图)

近年来,“有图有真相”这个说法更是曾让无数人信服。在很长的一段时间里,图片和视频都因为难以伪造或伪造成本过高,而被人们认为比文字等形式更为可靠。

然而近日,某地一女性网友在网上晒出自己的照片后,照片却被别有用心的网友采用“AI脱衣”技术生成了不雅的“一键脱衣”图。该图片随后在网上广泛传播,造成了极其不良的社会影响。

与上述案例中“AI脱衣”相似的,还有近年来走红网络的“AI换脸”。一些“AI换脸”App使用明星的图片制作换脸照片甚至是视频进行推广,引发了系列法律纠纷。所谓“有图有真相”,在恶意AI换脸换装面前,可能正在成为历史。

针对防范恶意AI换脸换装的相关问题,记者于4月4日采访了首都经济贸易大学法学院副院长、副教授陶盈。

防范治理恶意AI换脸换装刻不容缓

据了解,AI换脸指利用人工智能技术,将一张照片或视频中的人脸替换成另一个人的人脸;AI换装则是将一张照片或视频中的人物衣着进行替换,使其穿上不同的服装装扮。

AI换脸换装的实现,基于人工智能深度学习技术中的计算机视觉和人工智能技术。其中,计算机视觉技术主要用于通过分析面部特征来实现人脸或衣物的识别与替换;人工智能技术则被用于提高人脸或衣物的匹配度与真实感,使得换脸换装的结果更加自然流畅。

“近年来,互联网上出现了不少具有AI换脸换装功能的App。”陶盈介绍,“利用这些App,用户仅需一张照片就能实现换脸换装,操作起来难度并不高。”

在合理使用的情况下,AI换脸换装在影视剪辑、广告设计等方面可以发挥重要作用,大大减少相关图片或视频内容的生产成本,并在一定程度上提高生产效率与质量。

但正如“一键脱衣”图表明的,AI换脸换装也很容易被滥用,也就是恶意AI换脸换装,从而产生严重的社会危害。“伪造、丑化、污损他人的个人形象或是生成不雅图片,不仅可能侵害自然人的肖像权、隐私权、名誉权等人格权益,还有可能侵犯原照片、视频作者的著作权等财产权益,甚至有可能构成敲诈勒索、诈骗等相关刑事犯罪。”陶盈说,“此外,恶意AI换脸换装可以让犯罪分子将自己的面孔或身份信息伪装成其他人,从而更加轻易地进行各种犯罪活动。”

“AI换脸换装是一把双刃剑,对其滥用的防范治理刻不容缓。”陶盈表示。

多手段助力打击恶意AI换脸换装

“我们应该加强技术研发与监管,强化发布平台的审查义务,防范和治理恶意AI换脸换装。” 陶盈表示。

“首先,我们应该严厉打击通过恶意AI换脸换装侵害他人合法权益的违法行为,强化技术开发者与应用者的法律观念和社会责任。”陶盈表示,在进行AI换脸换装之前,首先应该征得被换脸换装者的同意,确保个人信息和数据安全。

“其次,发布图片或视频的平台应该承担起实质审查的义务,避免脱衣等具有明显恶意的内容发布。”陶盈说,“平台还应当要求内容创作者实名认证,监督内容创作者标明‘此视频为AI合成’等标识,以免误导公众。”记者了解到,目前国内部分网络视频平台已经实现对于AI合成的标识功能。

“再次,监管部门应当严厉打击相关黑色产业链,对违法行为进行精准打击,铲除恶意换脸换装的滋生土壤。”陶盈表示,“此外,通过加强人脸识别和深度学习算法的研究,提高人脸检测和分割的准确率,也有助于防范治理恶意AI换脸换装。”

“我们应该通过加强法治教育宣传,增强人们的个人信息安全意识。”陶盈说,“在生活中,每个人都应该加强个人信息和隐私保护的意识,避免泄露敏感隐私照片,让他人有机可乘。”

据悉,目前法院已经有多起涉及恶意AI换脸换装侵害他人肖像权的判决,近期的2023年“清朗”系列专项行动也对相关滥用科技的互联网不法行为进行了系列打击。“互联网并非法外之地,我们应该加大对于恶意AI换脸换装的防范治理力度,营造风清气正的网络环境。”陶盈表示。

相关资讯