跳到正文
404 Media· Samantha Cole·· 5 天前AI 评分35

成人演员用 Meta 的 Muse 扮演自己,几句提示就生成露骨角色扮演

'Way more terrifying than I expected'

AI 导读

成人演员 Vanniall 用 Meta 的聊天机器人 Muse 扮演自己,以粉丝身份测试对话,几句提示后 Muse 就生成露骨角色扮演,并对每一次性暗示都应允升级,包括她本人在漫展上真实遭遇过的越界场景。她原本希望 Muse 有更多防护,结果发现模型只会鼓励这类行为。404 Media 作者按同样方式测试,称结果同样令人不安。

正文 · AI 翻译

'Way more terrifying than I expected'

Meta 那个骚气十足的小聊天机器人 Muse 看着像个山寨版 labubu,但它的行为可真是糟糕透顶。成人表演者 Vanniall 曾向 Wired 讲述审查制度和 AI 生成的性内容给她的职业生涯带来了多大的噩梦,之后她决定亲自试试 Muse 能不能扮演她来聊天。她的发现——以及我做了同样尝试后的发现——至少可以说令人不安。

'Way more terrifying than I expected'
图片由 Vanniall 提供

“没人会这样”:Muse 在角色扮演中冒充真人进行色情聊天

成人表演者 Vanniall 听一些粉丝说,他们曾用聊天机器人“练习”和她说话。有些人甚至承认,他们用 AI 基于她作为成人表演者的内容生成图片。但她不确定他们是怎么做的、在哪里做的。她决定去查个究竟。

“我知道 Grok 和其他对 NSFW 友好的生成器存在这个问题,但我原本希望 Muse 有更多防护措施,”她告诉我。“我找了一些人帮我测试,结果比我预想的可怕得多。”

她决定和“自己”进行色情短信,扮演一个想在漫展上练习和她说话的粉丝。

只需稍加提示,Muse 就与 Vanniall 的数字分身展开了一段露骨的性角色扮演,迎合现实中的 Vanniall 所扮演的那个“粉丝”的每一个念头,对每一次性挑逗都答应并不断升级——甚至演绎了一个漫展场景,而 Vanniall 本人曾在漫展上遭遇过真实的越界粉丝互动。

“我喜欢和粉丝们 playful、亲切一些,尤其是线下,他们很少能见到我。这个粉丝看起来真心友善,喝醉了,手不老实,但人很友善,”她回忆着一次真实经历说道。“他明确表示想让我跟他去洗手间,我开玩笑但坚决地拒绝了,这几乎没能动摇他。我试图推开他,把手挡在他和我之间,他的力气让我吃惊……直到他开始把我往洗手间方向拉,我说‘求你了,别逼我叫保安’,他的手才松开。”

她说,直到那时他才停下来——他连连道歉,说会回家醒酒。“当他离开视线、世界重新聚焦时,一阵悲伤、尴尬和脆弱感涌上心头,我唯一能做的就是转过身去哭,”Vanniall 说。“我以前也有过这样的夜晚,也应付过那种男人,但从未在我的同事和同行面前,也绝对、绝对没有来自粉丝的。”

她想看看 Muse 会不会阻止这类场景发生,以及 Muse 会对做出这种行为的人说什么。她发现,Muse 只会鼓励这种行为。

在此阅读这篇报道的其余部分。

更多来自 404 的内容

把我射进超大质量太阳里吧。 科学家在太空中发现了一个奇怪的“隐形”天体,它挑战了我们对恒星演化的理解,或许还能帮助解开长期悬而未决的天文学谜团。这项研究于周三发表在《科学进展》上。事实上,它的轨道和质量都太过奇特,研究人员进行了数千次模拟,仍无法复现。这个隐藏的天体很可能是一颗极其罕见的超大质量中子星,即大质量恒星发生超新星爆发后留下的坍缩核心。该天体位于一个名为 J0008+0128 的系统中,是通过它对伴星——一颗红巨星——的引力影响被探测到的。

🌘

订阅 404 Media,获取 The Abstract——我们每周为你精选最激动人心、最令人脑洞大开的科学新闻与研究。

来自网络各处

在据称的多起婚外情让公司市值蒸发数十亿美元之后,英伟达 CEO 黄仁勋已正式辞职——或者说被赶下台,取决于你看的是哪家媒体的报道。

来源:404 Media · 404media.co