“AI换脸”软件公开网售 几百至上千元不等!法律边界在哪?|简讯
近日,因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展,“换脸技术”的应用范围越来越广,技术
近日,因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展,“换脸技术”的应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能带来严重危害。
总台记者经调查发现,网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里?如何做好事前监管?
(资料图片)
01
网上出现“AI换脸”付费软件
套餐价格从499元至2888元不等
在网上,演示换脸软件使用方法及效果的教程比比皆是,其中不少“AI换脸”软件需要高价付费使用。
记者根据搜索结果联系到一名开发者,他向记者提供一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
在其销售的网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起,生成全新“数字人”的视频。
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
02
“想换什么脸都可以”
AI大模型可集成多种功能打造“数字人”
记者发现,该网站底部没有任何文字显示其已经过备案。卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,不仅可以实现视频换脸,还支持直播换脸。
记者进一步询问能否根据自己的需求换脸时,软件开发者表示:“想换什么样的脸拿素材训练就可以。”
△软件开发者与记者的聊天截图
一位从事AI开发的技术人员表示,这意味着可能会有更多难以控制的风险。“集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管成本和难度高了好几个数量级。”
△卖家展示的用户反馈
03
专家:有效的标识监管体系
能提前厘清“AI换脸”带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度讲,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说,如发生使用他人肖像进行诈骗的相关案例,不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下,还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,应当按照有关规定向国家网信部门申报安全评估;要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。
盘和林:当前“AI换脸”的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且对不标注的个人或者是单位组织要有具体的处罚措施、标准以及制度。
北京嘉维律师事务所律师、IT法律专家赵占领认为,从长远来看,监管与处罚措施还需要随着技术发展不断“迭代”,才能形成立体有效的治理方案。
关键词:
[ 相关文章 ]
近日,因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展,“换脸技术”的应用范围越来越广,技术
6月1日清晨,天刚麻麻亮,河南省周口市太康县纪委监委驻县农业农村局纪检监察组几名工作人员就早早来到该县
(资料图片)缩表是什么意思?小编最近整理了有关缩表的相关内容,有需要的小伙伴快来
大米作为国人最主要的食粮之一,它的吃法可谓是让人玩出了花样。不过今天化繁为简,仅针对大米最简单的两种
据昆明电视台K6春城频道官方微博,6月2日中午11点44分,昆明长水机场航站楼出发层发生一起交通事故,一名正
南山铝业:与中航重机就山东宏山80%股权转让相关事项达成一致:南山铝业(600219)公告,公司与中航重机(6
涟漪是什么意思和含义,涟漪什么意思很多人还不知道,现在让我们一起来看看吧!1 发音:Liny。2 形容风吹在
1、《极道天魂》是连载于17K小说网的一部玄幻奇幻类网络小说,作者是莫道。文章到此就分享结束,希望对大家
富乐德(SZ301297,收盘价:24 92元)6月2日晚间发布公告称,基于业务规划和经营发展需要,安徽富乐德科技
小鹏汽车5月共交付7506台新车,环比增长6%6月1日,小鹏汽车公布了5月最新交付量。据数据显示,小鹏汽车5月
作者:子非鱼01|南京放松落户虎踞龙盘的金陵,总是那么得惹人关注。就在近日,南京市公安局连续发布了两
NBA总决赛G1,掘金主场104-93战胜热火,系列赛大比分1-0领先。赛后穆雷接受了媒体采访。当被记者问到他们是
北京工商大学嘉华学院是一个独立学院,成立于2000年。占地面积广阔,拥有现代化的教学设施和舒适的学习环境
1、中国第一冶金建设公司中冶长天国际工程有限责任公司(长沙冶金设计研究院)中国第二冶金建设公司中冶北
中工网讯“自从加入工会,不仅享受了各种会员福利,而且还经常对我们进行慰问,让我感受到了‘娘家人’的温
新华社圣保罗6月1日电专访:美国操纵G7干预别国事务——访巴西圣保罗州立大学教授保利诺新华社记者罗婧婧“
黄金价格在经历了两天的上升趋势后,在周五亚洲早盘徘徊至19775-77美元,保持在周高水平。在美国国债收益率
同花顺数据显示,2023年6月1日,大全能源获外资买入271 73万股,占流通盘0 54%。截至目前,陆股通持有大全
6月1日,昆仑万维(300418)融资买入11 31亿元,融资偿还11 11亿元,融资净买入1959 69万元,融资余额39 91
[ 相关新闻 ]
Copyright 2015-2022 医院头条网 版权所有 备案号:沪ICP备2022005074号-20 联系邮箱:58 55 97 3@qq.com