WaiMen   发表于 2019-7-18 08:50:59 |栏目:

AI(人工智能)换脸的飓风,正为网络安全带来挑战。

新京报记者克日观察发现,随着AI技能走红以及门槛降低,售卖明星换脸的淫秽视频已经成为一门地下生意。百度贴吧中部分标榜“换脸+女明星姓名”的发帖者,售卖通过AI换脸技能合成的视频,价格可4元一部,也可158元打包购买700部视频。而多位着名女明星频被提及。

AI换脸调查:可定制女星 700部淫秽视频百元打包卖  最新资讯 085152se395rroskehxzo5

别的,新京报记者留意到,闲鱼上另有卖家提供“定制换脸”服务。买家提供明星或私人照片,卖家即可将淫秽视频中的主角“移花接木”。定制换脸视频1分钟20元-50元不等。

对此,团结国网络安全与网络犯罪问题高级顾问吴沈括对新京报记者表现,售卖AI换脸淫秽视频,自己已经是传播淫秽物品牟利罪,同时也侵占了肖像权。而买家购买之后加以传播大概以传播牟利,则可能构成违法。

售卖

女星频被“换脸”,35部视频打包69元

记者搜刮发现,“换脸”、“Deepfake”以及“FakeApp”贴吧等都存在售卖AI换脸淫秽视频的帖子。发帖者多为无头像、简朴英笔墨母名称的用户,而且发帖用词隐晦,包罗“国表里81部,诚信第一”。

记者接洽到一位名为阿长(化名)的卖家,其随后发来“80部明星合成视频列表”的压缩包,包罗多部淫秽视频的列表截图,文件名上标注出多位大众熟知的女明星。

AI换脸调查:可定制女星 700部淫秽视频百元打包卖  最新资讯 085153rgwcpwilm0goko30

“(购买)低于15部算4元一部,高出15部算3元一部,80部全买只要68元。”阿长表现,视频文件将通过QQ文件发送,支持微信、付出宝、QQ红包等付出方式。记者4元随机购买了一个标题为某着名女明星的视频。视频中女主角脸部全部更换成了该女明星,只管换脸效果粗糙,但仍能一眼辨认出来。

随后,阿长附赠了相干视频的剪辑版本,包罗多个淫秽视频的部分内容,此中女主角的脸全被更换成了这一女星。

另一位发帖的卖家林祥(化名)则是向记者发送了网盘链接,网盘中除了视频目次、截图、试看视频等文件,还包罗一个单独被命名为某着名女明星目次的文件。

AI换脸调查:可定制女星 700部淫秽视频百元打包卖  最新资讯 085153b2ddh9byyvjy12by

“打包价158元,700部视频,买打包送截图。”林祥提供的压缩文件表现,多位女明星被换脸成主角的频率最高。

“有30分钟、40分钟的,也有5分钟的,有像的也有不像的,所以单买价格不可能一样。”林祥称,单个视频根据时长和制作效果定价。

而上述某着名女明星目次文件中包罗35部视频,打包价69元,单卖约5-10元一部。时长10分钟以上的视频为每部20-28元。

记者询问阿长,其他售卖相干视频的卖家是否也是他时,他随即否认并拿出更新目次。“他肯定没这些,我这会更新”。他告诉记者,这些视频并非自己制作,均来自国内某网络平台,充值会员可以下载,然后再分销。

不过,记者通过检索并未发现这类国内网络平台。

定制

提供照片或视频可移花接木,“照片越多越像”

除了百度贴吧,二手闲置平台闲鱼同样存在相干售卖信息。记者在闲鱼上搜刮“AI换脸”看到,“AI换脸 明星最全佳构”、“AI换脸,合集,都懂!”等信息,实则在售卖“嫁接”了女明星脸部的淫秽视频。

记者分别与4位卖家进行了沟通,其一般会提供标有女明星姓名的目次截图,并以100部打包的情势售卖,价格从10元-38元不等。卖家子君(化名)告诉记者,在他打包售卖的淫秽视频中,着名女性明星被恶意“嫁接”的最多。

别的,记者检索闲鱼发现,部分卖家还提供“定制换脸”服务,买家提供明星或私人照片,卖家可将照片中的脸“嫁接”到包罗淫秽视频在内的任何视频之中,制作周期为1-2天,报价1分钟20元-50元不等。

AI换脸调查:可定制女星 700部淫秽视频百元打包卖  最新资讯 085153k9wltzrp9kj54njn

卖家高尔(化名)表现,视频素材和照片需要买家提供。“照片要多点,侧面等各个角度,至少需要提供二十张以上。照片越多越像,没照片发视频也行”。

另一卖家要求,假如是“换脸”淫秽视频,3分钟起做。该卖家的定制价为一分钟50元、二分钟95元、三分钟135元,也就是说,买家至少要耗费135元才华定制换脸淫秽视频。

记者克日在闲鱼平台搜刮“AI换脸”表现9个商品售出,包罗“换脸软件”、“定制换脸”和“换脸教学”,有部分卖家在商品信息中注明,“本店仅负责服务设置环境和传授根本知识,不帮忙利用,请各位自觉遵守当地法律,否则后果自尊”。

记者观察过程中留意到,闲鱼平台已将部分淫秽视频售卖链接删除。

别的,记者在淘宝搜刮“AI换脸”,20多家店铺有相干售卖信息。记者随机询问7家店铺,此中4家店铺提供定制服务,但有卖家明确表明“不做黄、不办证”。该卖家还向记者默认曾有人要求他制售假证。

教学

卖家称398元包教会,门生打七折

记者在查察上述视频时留意到,部分视频有“合成同盟”的字样及其QQ号水印。记者通过这一QQ号接洽到昵称为“明星合成+教学+代做视频”的卖家,其称不仅售卖明星换脸视频和定制换脸服务,还提供教学服务。

“买教学送全套视频,600多部。”该卖家表现,他提供AI换脸视频的制作教学服务,售价398元,包教会并附赠淫秽视频600多部。“我们用的云电脑,做出来效果是Deepfake的几十倍。”该卖家告诉记者,“买云电脑送FakeApp和DeepNude。”

卖家提供的教学内容表现,用户根据指引,完成“链接到云硬盘、提取脸部数据、训练模子、换脸输出视频”四个步调就能实现AI换脸视频的制作。

“感谢你们的信托,(学员)昨天下午刚学的,不到3个小时全会,只要想学我都会尽心尽力的教你们。”该卖家的微信朋侪圈表现,已有多位学员学习了相干AI换脸技能。

记者翻阅卖家朋侪圈看到,“AI智能暑假期间全部门生凭门生证一律7折,一学就会,不费劲。”而卖家提供的截图表现已有门生提供门生证信息,并购买了该教学服务。

根据《纽约时报》报道,Deepfake指的是用人工智能软件制作的虚伪视频,由FakeApp步伐创建而成,FakeApp则可实现AI换脸。而DeepNude可通过人工智能将照片中穿着衣服的人物实现“一键脱衣”的效果。

“随着科技的发展,大众肯定会面临如许的问题,DeepNude天生的照片并不是本人,而是PS后效果。”网络安全专家张百川在担当新京报记者采访时表现,现在网络上已存在部分人士开始研究类似的算法。

同时,针对网络安全,吴沈括指出,《网络安全法》建立了网络产物和服务的安全可控原则,将他人肖像用于制作淫秽视频大概利用网络技能“作恶”,是对他人正当权益的陵犯。

争议

换脸视频网络扎堆,个人难防中招

其实,AI换脸技能,已经在各个范畴相沿许久。而运用最广泛的范畴便是影戏。据新京报此前报道,中国科学院盘算技能研究所张杰表明称,“这个技能简朴可明白为,通过学习的方式让一个神经网络把李四扭曲过的人脸还原成真实的人脸。”该神经网络在学习后,具备了将恣意的人脸,还原成“李四”人脸的能力。

早在本年年初,一段通过AI技能将《射雕好汉传》中朱茵脸部更换成杨幂的视频在网络引起热议。记者搜刮发现,视频网站哔哩哔哩(B站)上存在大量AI换脸视频,且人气较高。此中,一个将蔡徐坤脸部更换成前网络游戏主播卢本伟的视频,播放量到达253.1万。不少网友在相干视频批评区留言称“毫无违和感”、“可笑哈哈哈”。

阿乐(化名)告诉者,出于猎奇和娱乐心态,自己喜好在哔哩哔哩观看AI换脸视频。“把外国人的脸换在古装人物身上,很新奇。”但也有网友在相干批评区称“AI换脸(可能用于)诓骗勒索色情造谣,技能无罪,果然还是人本恶”。

状师、星娱乐法创始人李振武曾对新京报记者表现,视频制作者未经朱茵和杨幂许可,擅自利用其肖像,虽其抗辩未有营利行为,但在互联网语境里,流量变现以及粉丝倍增,都很难明释为非营利行为,因此,此举可能涉嫌侵占肖像权。

有观点以为,AI换脸技能门槛正在不停降低。对此,张百川称:“放在从前的话,技能难度非常大,已经有人开始研究这种算法了,假如算法公开,这种趋势将很难抵抗”。

张百川告诉记者,平凡人可能不太容易学会AI换脸技能,但有人可能利用此项技能制成有类似功能的软件,那么平凡人只要在APP上传照片即可。针对个人如何防范,张百川表现:“很难,假如你有照片在互联网上,就会有(被利用)的风险”。

记者留意到,Deepfake和DeepNude在国外已引起热议,据《纽约时报》报道,随着越来越多的人利用FakeApp制作名流的色情视频,FakeApp正在引起恐慌。《卫报》称此类软件为“对未来可骇的一瞥”,表现了对人工智能未来可能造成的伦理问题的担心。

当地时间7月2日,美国弗吉尼亚州已通过一条有关色情禁令的法律修正案,成为美国首批禁止传播盘算机天生的色情内容的地域之一。根据修正案,未经许可传播或出售以任何方式创作的或人处于裸体或脱衣状态的视频或静止图像都是违法的,包罗虚伪创作的视频或静止图像。

在我国,根据《刑法》第三百六十三条规定,以牟利为目标,制作、复制、出书、贩卖、传播淫秽物品的,处三年以下有期徒刑、拘役大概管制,并处罚金;情节严峻的,处三年以上十年以下有期徒刑,并处罚金;情节特别严峻的,处十年以上有期徒刑大概无期徒刑,并处罚金大概充公财产。

团结国网络安全与网络犯罪问题高级顾问吴沈括表现,就中国法律来讲,售卖AI换脸淫秽视频,自己已经是传播淫秽物品牟利罪,同时在民事侵权范畴,未经允许,将他人的肖像用于谋利的,也侵占了肖像权。

针对AI换脸淫秽视频的购买者,吴沈括告诉记者,现在对于购买淫秽物品没有设置法律责任,主要会合在传播淫秽物品和传播淫秽物品牟利两种非法情势。买家在购买AI换脸淫秽视频之后,加以传播大概以传播牟利,则可能构成违法甚至犯罪。

张百川以为,技能自己没有问题,是有人利用技能作恶,大众需在一样平常生存中,注重个人隐私保护。“比方即时通讯软件,有人用它工作,有人用它诈骗。”

回复
凝链下载站 - 下载导读:
1、不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该程序,请支持正版软件购买注册,得到更好的正版服务。本资源如有侵犯您的版权,请联系管理员删除本资源!
2、论坛的所有内容都不保证其准确性,有效性,时间性。阅读本站内容因误导等因素而造成的损失本站不承担连带责任。
3、当政府机关依照法定程序要求披露信息时,论坛均得免责。
4、若因线路及非本站所能控制范围的故障导致暂停服务期间造成的一切不便与损失,论坛不负任何责任。
5、注册会员通过任何手段和方法针对论坛进行破坏,我们有权对其行为作出处理。并保留进一步追究其责任的权利。

回复 显示全部楼层 使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

快速回复 返回顶部 返回列表