多彩国内 有趣社会 今日国际 白话体育
新粤网 > 热点 > 多彩国内 > 正文

名人“画皮” 换脸恶搞 色情合成 AI视频换脸技术滥用调查

来源:汕头日报 2019-05-16 01:00   http://www.hgus.com/

随着AI技术发展,视频换脸技术门槛降低,普通人也能制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成上,其不良效应也引发了社会的关注和担忧:放任自流,任其“异化”,可能成为侵害他人合法权益和危害社会公共安全的工具。

“你要的样子我都有”,AI“画皮”只需2.5元

“你要的样子我都有”“男人瞬间变女人,毫无违和感”“用朋友圈视频就可换脸”……近日,AI换脸视频在不少平台上风靡。记者在哔哩哔哩网站搜索“换脸”,出来的视频达千条。

其中,有网友将影视剧中不同演员的脸进行互换;有人将某平台女主播瞬间“变脸”成不同女明星的样貌;还有人则制造“假新闻”,把国外电视节目嘉宾的脸换成国内公众人物的,标题则为国内某某在国外接受采访……

视频中的人物被换脸后,几乎可以“以假乱真”,有网友评论其为“AI画皮”“有图未必有真相”“细思极恐”。

在“deepfake”的贴吧里,与AI换脸有关的帖子超过9000条。里面有大量明星换脸视频的售卖信息。一个名为“合成联盟”的用户在群里公开售卖换脸色情视频,清单里的数量达150多部,并称“白菜价全部只要58元”。在名为“明星论坛”的论坛上,有人贴出了多个换脸视频色情网站网址。

记者在淘宝网上搜索“AI换脸”“deepfake”等,出现了不少换脸软件售卖信息,包括“商业背书视频”“明星偶像互动视频”“恶搞视频”,并号称“动作逼真清晰”。有的还提供换脸视频制作服务,一个淘宝ID为“专业定制换脸视频”的卖家表示,可以代为制作换脸视频,三分钟以内的价格为300元。

记者在某二手交易平台上以2.5元的价格购买了一款名为“fakeapp”的换脸软件,根据教程,导入提供的视频素材,只需要按“提取”和“合成”键等,就可以将视频素材中的人脸进行互换,几乎看不出痕迹。

擅自换脸“一时爽”,或致违法侵权

“AI换脸技术原理并不复杂,AI将多个视频内的人脸特征自动提取并进行分类,再利用编码技术,对视频中的特定位置编码重构合成等即可。”长期从事影视换脸业务的北京聚力维度科技公司首席技术官赵天奇介绍。

“以前,相关制作费用每分钟可达上百万元。随着一些AI技术的开源,换脸制作不仅价格大幅下降,门槛也不断降低。”他说。

中国传媒大学政治与法律学院副院长王四新说:“目前,通过AI技术深度伪造他人的肖像、声音主要用于网络"恶搞",但仿真效果已逼近真伪难辨的边界,随着技术发展,结合短视频形态的快速传播,如果使用不当,会产生很强的负面作用。”

近期,民法典人格权编草案二审稿对此作出规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。其他人格权的许可使用和自然人声音的保护,参照适用有关规定。

“如果正式通过,这意味着除法律另有规定的情况外,如果用他人肖像进行AI换脸等,只要未经本人同意,即便没有营利目的和主观恶意,同样有可能构成侵权。”北京大学法学院副院长薛军说。

他还提醒,侵权者不要抱有侥幸心理,即使换脸后不是100%相似,只要换脸视频和原视频能达到一定相似度,经由第三方能够识别,就可能被认作是侵权,“如将他人的脸与色情视频中人物的脸替换,并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应刑事责任”。

新华社记者 兰天鸣

(据新华社上海5月13日电)

新闻推荐

收受财物7047万余元 陕西原副省长冯新柱 一审获刑十五年 法治

据新华社电2019年5月14日,浙江省杭州市中级人民法院公开宣判陕西省人民政府原副省长冯新柱受贿案,对被告人冯新柱以受贿罪...

相关阅读
猜你喜欢
评论(名人“画皮” 换脸恶搞 色情合成 AI视频换脸技术滥用调查)
频道推荐
  • 四川凉山火灾引关注 4月份是森林草原火灾高发期
  • 趣闻 再大的黑洞也比不过网友的脑洞!关于黑洞,最好玩的都在这
  • 讲道理没用?不!她坐上引擎盖后, 讲的全是道理…… 最新进展:奔驰女车主已和4S店和解
  • 直击当代婚恋痛点 《如影随心》明日上映
  • 单脚站立的火烈鸟
  • 图文看点
    泪失禁体质?给我办他! 泪失禁体质?给我办他!
    推荐阅读
    危化品运输安全管理之我见... 近期全国多处发生车间事故 这些车间... 企石为老旧厂房“体检” 将“电老虎...
    热点排行
    4月18日 早间新闻 达芙妮继续亏损:关店千余家 转型电商遭资 北京春季求职期平均月薪10970元 过半职位 危化品运输安全管理之我见 余杨:特种设备的安全守卫者 樟木头镇开展消防安全检查 加大对火灾隐 近期全国多处发生车间事故 这些车间安全 大朗检查水库排站防汛防涝准备工作 全力