警惕:一个可怕的新 AI 应用程序只需点击一下即可将女性转换为色情视频

更新:截至 9 月 14 日,也就是这个故事发布的第二天,Y 发布了一条新通知,说它现在不可用。我们将继续监视该站点以获取更多更改。

玉女网首发

该网站因其简单而引人注目。在白色背景下,一个巨大的蓝色按钮邀请访问者上传一张人脸照片。在按钮下方,四个 AI 生成的面孔允许您测试服务。在它上面,标语大胆地宣告了目的:通过使用 deepfake 技术将人的脸变成成人视频,将任何人变成色情明星。它所需要的只是图片和按下按钮。

玉女网首发

麻省理工科技评论已选择不命名该服务,我们将其称为 Y,或使用其内容的任何直接引用和屏幕截图,以避免为该站点带来流量。它是由 deepfake 研究员 Henry Ajder 发现并引起我们注意的,他一直在跟踪在线合成媒体的演变和兴起。

目前,Y 的存在相对默默无闻,只有一小部分用户群积极地在在线论坛上向创作者提供开发反馈。但研究人员担心会出现这样的应用程序,违反了以前没有其他服务跨越的道德底线。

从一开始,deepfakes 或 AI 生成的合成媒体主要用于创建女性的色情表现,她们经常发现这在心理上是毁灭性的。最初推广这项技术的 Reddit 创作者将女性名人的面孔转换成色情视频。时至今日,研究公司 Sensity AI 估计,所有在线 Deepfake 视频中有 90% 到 95% 是未经同意的色情内容,其中约 90% 以女性为主角。

随着技术的进步,也出现了许多易于使用的无代码 工具,可以让用户“剥”掉图像中女性身体的衣服。许多这些服务后来被迫下线,但代码仍然存在于开源存储库中,并继续以新的形式重新出现。据发现该网站的研究员 Genevieve Oh 称,最新的此类网站在 8 月份获得了超过 670 万次访问。它尚未下线。

还有其他单照片换脸应用程序,如ZAO或 ReFace,将用户置于主流电影或流行视频中的选定场景中。但作为第一个专门的色情换脸应用程序,Y 将其提升到一个新的水平。EndTAB 的创始人亚当·道奇 (Adam Dodge) 说,这是“量身定制的”,在未经人们同意的情况下制作色情图片,该非营利组织旨在教育人们了解技术导致的滥用行为。这使创作者可以更轻松地针对此特定用例改进技术,并吸引原本不会考虑制作深度伪造色情内容的人们。“任何时候,只要你像这样专注,它就会创造一个新的互联网角落,吸引新用户,”道奇说。

Y 非常容易使用。一旦用户上传了一张人脸照片,该网站就会打开一个色情视频库。绝大多数以女性为主角,尽管少数也以男性为主角,主要是同性恋色情片。然后,用户可以选择任何视频以在几秒钟内生成换脸结果的预览,并付费下载完整版本。

结果远非完美。许多面部交换显然是假的,当他们转向不同的角度时,面部会闪烁并扭曲。但对于普通的观察者来说,有些细微到可以通过,而深度伪造的轨迹已经表明它们与现实无法区分的速度有多快。一些专家认为,deepfake 的质量也并不重要,因为无论哪种方式,对受害者的心理伤害都是相同的。而且许多公众仍然不知道这种技术的存在,因此即使是低质量的换脸也能欺骗人们。

Y 声称自己是探索性幻想的安全且负责任的工具。网站上的语言鼓励用户上传自己的面孔。但是没有什么可以阻止他们上传其他人的脸,在线论坛上的评论表明用户已经这样做了。

此类活动所针对的妇女和女孩的后果可能是毁灭性的。在心理层面,这些视频感觉就像复仇色情片——未经同意拍摄或发布的真实私密视频。“这种滥用行为——人们歪曲你的身份、姓名、声誉,并以这种侵犯性的方式改变它——会彻底粉碎你,”澳大利亚活动家诺埃尔·马丁 (Noelle Martin) 说,她是一场深度伪造色情活动的目标。

而这种影响可能会伴随受害者终生。图像和视频很难从互联网上删除,并且可以随时创建新材料。“它会影响你的人际关系;它会影响你找工作。您参加的每一次工作面试,都可能会被提及。潜在的浪漫关系,”马丁说。“直到今天,我还没有完全成功地将任何图像删除。永远,那将在那里。不管我做什么。”

有时它甚至比复仇色情更复杂。道奇说,因为内容不真实,女性可能会怀疑她们是否应该受到创伤以及是否应该报告。“如果有人在纠结自己是否真的是受害者,就会削弱他们的康复能力,”他说。

未经同意的 deepfake 色情也可能对经济和职业产生影响。印度记者拉娜·阿尤布 (Rana Ayyub) 成为Deepfake 色情活动的受害者,在此之后受到了如此强烈的在线骚扰,以至于她不得不尽量减少自己的在线形象,从而减少开展工作所需的公众形象。英国诗人兼广播员海伦·莫特 (Helen Mort ) 之前曾与《麻省理工科技评论》分享过她的故事,她说,在发现自己的照片从私人社交媒体帐户中被盗以制作假裸照后,她感到有压力要这样做。

管理该服务的索菲·莫蒂默 (Sophie Mortimer) 表示,由英国政府资助的复仇色情热线最近收到了一名教师的案例,该教师在社交媒体上传播了她的深度伪造色情图片并引起了学校的注意后,她失去了工作。“情况变得更糟,而不是更好,”道奇说。“更多的女性正以这种方式成为攻击目标。”

Ajder 说,Y 选择制作深度伪造的同性恋色情片虽然有限,但对同性恋被定为犯罪的国家的男性构成了额外的威胁。全球 71 个司法管辖区都是这种情况,其中 11个司法管辖区判处死刑

Ajder 在过去几年中发现了许多 Deepfake 色情应用程序,他说他曾试图联系 Y 的托管服务并强制其下线。但他对阻止创建类似工具持悲观态度。已经出现了另一个网站,似乎在尝试同样的事情。他认为禁止社交媒体平台上的此类内容,甚至可能将其创作或消费定为非法,将证明是一个更可持续的解决方案。“这意味着这些网站的处理方式与暗网材料相同,”他说。“就算被开到地下,至少也让常人看不到了。”

Y 没有回应其网站上列出的新闻电子邮件中的多项评论请求。与域关联的注册信息也被隐私服务Withheld for Privacy阻止。8 月 17 日,在 MIT Technology Review 第三次尝试联系创建者后,该网站在其主页上发布了一条通知,称新用户不再可以使用它。截至 9 月 12 日,该通知仍在那里。

玉女网首发

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论