吉林网信息港
网站首页 国际新闻 国内新闻 经济新闻 科技新闻 体育新闻 军事新闻 房产新闻 文化娱乐 网络资讯 头条资讯
广告
广告
广告
广告

AI换脸拟声规范迫在眉睫

更新时间:2023-07-04 浏览量: 

网文内容

  最近一段时间,“AI”成为网络热词。从德国媒体用AI生成“舒马赫专访”内容并发表引发巨大争议,到“AI孙燕姿”一夜爆红,再到利用“AI换脸”10分钟诈骗400万元……随着人工智能进一步发展,原本用在影视和广告领域的“AI换脸拟声技术”被一些不法分子用来实施电信网络诈骗,网上甚至还有人专门出售“AI换脸拟声”软件和教程。规范“AI换脸拟声技术”,迫在眉睫。

  现状

  技术门槛变低

  被滥用频现

  近来,网络上一些热度较高的新闻似乎都与“AI换脸拟声”有关。一名男性特效师将自己的脸替换到影视片段中,生成跟女星亲吻视频;一名网络博主在地铁拍的日常生活照,遭不怀好意之人使用AI技术“一键脱衣”……因“AI换脸拟声”引发的侵权事件年来屡屡发生:去年年底,杭州互联网法院审理了一起因“AI换脸”App利用深度合成算法侵害他人肖像权的案件;歌手林俊杰曾因个人肖像被用“AI换脸”技术制作了大量“鬼畜”视频起诉短视频博主;有人利用“AI换脸”技术传播对演员刘昊然带有侮辱性的视频、截图。

  除了引发侵权问题,“AI换脸拟声技术”还被一些不法分子用来实施电信网络诈骗,福州的郭先生10分钟被骗走430万元,安徽的何先生被骗245万元……我市尚未对外公布有利用“AI换脸拟声技术”诈骗的案例,但警方一直对外进行相关防骗提示。

  “AI换脸拟声技术”究竟是一项什么样的技术?其适用领域是哪里?“在人工智能领域,AI换脸不算什么新鲜事。”天津科技大学人工智能学院副院长张贤坤告诉记者。这项技术最早可以追溯到2016年,当时一家名为DeepFake的网站发布了一款“DeepFakeLab”的软件,可以实现逼真的换脸效果。“AI换脸指应用人工智能(AI)技术,通过人脸特征建模,用深度学习的方法把人脸的部分特征复制到另外一个人的脸上,并使得后者看起来更像,相当于把一个人的脸换成另外一个人的脸。”张贤坤说,这项技术原来主要用于电影、电视和广告等领域,让其中的特效更加逼真,提高观众的观看体验。如有高难度动作需要替身时,可以先让替身实际参与拍摄后,再用“AI换脸技术”进行后期合成,这样一来,不仅简单方便,还能获得很好的拍摄效果。

  张贤坤认为,随着人工智能技术的不断发展和完善,特别是计算机算力的提升,现在的“换脸”效果更加逼真,在电影、电视、广告和游戏领域得到了广泛的应用。近年来,随着深度学习等人工智能技术的快速发展,特别是生成式对抗网络GAN(一种深度学习模型)的广泛应用,AI合成的产品和服务越来越多,除了利用“AI换脸”外,还可以“换声”。技术门槛变低,便出现被滥用的情况。

  调查

  网售软件

  就可轻易实现

  记者在调查中发现,有不少可供免费下载的软件,这类软件一般都是有固定的视频或者图片模板,只要上传人脸照片便可轻松实现“换脸”。记者尝试在手机软件下载程序中搜索“AI换脸”,一下子搜索出四五十款。记者选择了一款有24万人下载的软件,从自己手机里随意选取了一张正面照,上传到软件给出的视频模板中,不到一分钟就自动生成换脸视频,毫无违和感,并且可以保存在自己的手机里、分享到社交平台上。如果还想体验高级功能,比如更多的模板、更快更好的效果,可以每个月花费10多元钱,解锁会员功能。

  AI还可以合成或克隆声音。记者在电商平台上搜索“AI拟声”,有多家店铺提供服务。其中一家店铺写着“AI孙燕姿、周杰伦、林俊杰,AI克隆自己”。记者从店铺客服处了解到,花28元就能购买一款软件,安装在手机、电脑等电子设备上,再按照教程操作,就可以轻松将自己唱歌的声音AI合成歌手的声音,相似度达到98%,“非常简单,一学就会。”客服人员说。

  在电商平台,还有人专门做起教人“AI换脸”的生意。商家宣传“影视面部追踪特效,换头变脸换装AI程序插件”。记者以买家身份咨询,商家介绍,买家支付368元后,他就可以提供一个电脑程序插件,把插件安装在电脑上,可以随意“AI换脸”,这个插件月销量有50多单,买家评价“操作简单还好用”。商家提供教程,半小时包会。如果实在不会,可提供在线指导或者远程安装。相对现成的“AI换脸”软件多适用于已经给出的拍照场景、影视剧片段的替换合成,这样用于“换脸”的照片不受限制,可合成的视频片段也不局限于影视作品,像新闻、私人视频等都可被“换脸”。商家给记者提供了几段通过这款插件制作的“AI换脸”视频,动画片《冰雪奇缘》中艾莎的脸换成了《熊出没》里的光头强;电影《喜剧之王》里周星驰的脸被换成了动画人物……“效果很逼真,可以随意换脸。”商家说。

文章来源:  文章作者: 

上一篇 : 努力将文旅康养产业打造成为战略性支柱产业和民生幸福产业



友情链接