泰勒·斯威夫特,深度伪造

网络喷子用 AI 制作的泰勒·斯威夫特 (Taylor Swift) 的假图像淹没了 X

爱德华多·雷布萨斯的头像
数以百万计的社交网络用户可以访问包含色情内容的深度伪造的出版物,迫使该平台阻止对这位歌手的搜索

在充满体育场馆的世界巡演之后,这位歌手 泰勒斯威夫特 再次成为头条新闻,但出于不那么高尚的原因:由人工智能生成的歌手的虚假图像在 X(Twitter)上发布并被数百万用户看到,甚至导致在社交网络上搜索该艺术家的名字被禁止。立即了解有关该案例的更多信息。

了解泰勒·斯威夫特 (Taylor Swift) 假照片案例

巨魔们用人工智能创建的假泰勒·斯威夫特图像淹没了牛。数以百万计的社交网络用户可以访问包含色情内容的深度假货的出版物,迫使该平台阻止对这位歌手的搜索
泰勒斯威夫特

最近几天,由人工智能生成的带有露骨内容的泰勒·斯威夫特的假图片在 X 上流传,这是技术产生的色情内容不断涌现的又一个例子,此外,平台的审核也难以遏制这种情况。

其中一篇观看次数最多的帖子总共持续了 17 个小时,在被删除之前收到了 45 万次浏览、24 次分享和数十万次点赞,并且其用户(已在平台上进行了验证)的帐户被暂停。违反规则 X.

但这并没有遏制这位歌手的虚假图像风暴,这些图像继续通过其他帐户上的帖子在社交网络上传播,其中许多帐户仍然可供查看。结果,“Taylor Swift AI”这个主题跃升至搜索次数最多的术语列表的顶部,这进一步助长了这些关于该艺术家的虚假帖子。

据该网站 404媒体,假图像 泰勒斯威夫特 可能是由 Telegram 群组的用户创建的,该群组每天都会分享由 Microsoft Designer 创建的涉及女性的露骨内容图像。该组织的成员显然很喜欢这些图像最终出现在社交媒体上,对所发生的事情进行轻描淡写。 

该网站表示,作为欺诈图像门户的AI图像创建机制中的系统缺陷已得到纠正,这一点得到了人工智能工程负责人的证实。 微软,莎拉·伯德。她表示,对此事的调查将继续进行,该工具的安全系统将得到加强,以防止它再次被用来生成像泰勒这样的图像。

X 正在做什么?

在 x 上搜索泰勒·斯威夫特的假图片(推特)
X 上“泰勒·斯威夫特”一词的搜索量如此之多,以至于该平台限制了对结果的访问。 (图片:X)

X,除了禁止此类社交网络类型内容的非自愿裸体之外,还有关于人造和操纵图像的规则和政策。尽管通过新闻渠道进行了接触,但 泰勒斯威夫特 橄榄球,她男朋友所在的美国橄榄球联盟 斯威夫特下周日将参加超级碗比赛的堪萨斯城酋长队近端锋特拉维斯·凯尔斯拒绝对此事发表评论。 

为了回应事件 斯威夫特, X 发表了一份说明,称对这些图像滥用案件采取零容忍态度,该社交网络团队正在积极努力遏制用户中的此类行为。即便如此,这并不能成为这位歌手在全球数百万粉丝的借口,他们猛烈批评 X 长期保留虚假帖子。

为了尝试删除有问题的标签,这些粉丝开始发布真实的视频 泰勒 挺身而出,试图掩盖仍然可供公众查看的许多赝品。 

X 的调节正在减少

尽管存在许多障碍试图阻止人工智能工具创建像泰勒这样的图像,但完全阻止这种情况发生的挑战很难克服,尤其是像 X 这样的社交网络反应缓慢且不成功,其审核团队已经自从被马斯克收购以来,其数量有所减少。

在欧洲,X 因其用于传播虚假信息和非法内容而受到调查,并因近几个月发现的从该平台删除有关以色列和哈马斯之间冲突的虚假信息的努力而受到质疑。

伙计们,在这个严重的隐私和个人形象问题找到理想的解决方案之前,在社交媒体上发布照片和视频时不要太小心!   

看更多:

第一批 Apple Vision Pro 评论怎么说

来源: 一触即发

评论者 格劳孔生命力 在6/2/24。


了解更多关于秀美科技

注册以通过电子邮件接收我们的最新消息。

发表评论

您的电子邮件地址将不会被发表。 必填字段标有 *

相关文章