假泰勒·斯威夫特裸照“令人担忧”- 白宫

(SeaPRwire) –   据报道,这些人工智能生成的图片在X平台上被浏览了4700多万次,然后该账号被停用。

本周早些时候在社交媒体平台上散布的泰勒·斯威夫特性虚构“照片”,白宫发言人卡琳·让-皮埃尔在周五的新闻简报会上告诉记者,这些“照片”“令人不安”,承诺将来对非自愿人工智能色情内容采取行动。

“我们将尽我们的能力解决这个问题,”让-皮埃尔说,并补充说,国会应通过立法,社交媒体平台应加强打击此类图片的分享和发布。

“虽然社交媒体公司独立决定内容管理,但我们认为它们在执行自己的规则以防止误导信息和真人非自愿私密图像的传播中发挥重要作用,”她说。

这些图片中的一张在X平台上发布后,浏览量超过4700万,据《纽约时报》报道。X声称正在删除这些图片,并已暂停了一些发布它们的账号。该平台的服务条款禁止分享真人人工智能生成的图片,无论是色情图片还是其他图片。

周六下午,在X平台上搜索“泰勒·斯威夫特”会返回一个错误。该平台上的一个泰勒·斯威夫特粉丝说,这个搜索词已经被“禁止”。但是,如果在“泰勒·斯威夫特”前加上其他词或词组,比如“保护”或“人工智能生成”,仍然可以使用这个搜索词。

一些图片最初于周四在一个致力于“女性非自愿人工智能生成性图像”的Telegram群组中发布,根据科技博客404 Media报道。其他图片在4chan等论坛上流传了几周,才进入“主流”社交媒体,从而引发热议。

许多图片是使用微软的Designer创建的,这是一款商业可用的人工智能文字到图像生成器。Telegram群组向新人解释如何规避微软自己防止名人深度假新闻和色情内容的保护机制,指出虽然程序无法响应“泰勒·斯威夫特”这样的提示,但对“泰勒歌手斯威夫特”这样的提示会给出友好响应。

微软告诉该博客它正在“调查这些报告,并采取相应行动来解决它们”,指出其服务条款禁止使用这些程序来创建“成人或非自愿私密内容”。

美国国会议员本月初在众议院提出一项法案,旨在对人工智能用于音频和视频深度假新闻进行联邦控制。据报道,《禁止人工智能假回复和未经授权复制法案》(NO AI FRAUD法案)基于类似的参议院法案《培养原创作品、保护艺术和保护娱乐安全法案》(NO FAKES法案),允许名人起诉未经授权使用其图像或声音创建“数字复制品”的任何人。