美国东部时间上午11点19分，Epic宣布已发布热修复补丁来解决达斯·维德（Darth Vader）不当言论问题，并表示“此类情况不应再次发生”。
《星球大战》（Star Wars）正将五月变成一场关于品牌与生成式AI结合风险的警示月。先是卢卡斯影业（Lucasfilm）的罗伯·布雷多（Rob Bredow）推出了一部几乎人人喊打的AI生成动物混搭短片，如今《堡垒之夜》（Fortnite）又新增了能通过“对话式AI”与玩家交流的达斯·维德NPC——遗憾地说，结果完全如你所料。
Epic采用谷歌Gemini AI技术，使维德能根据附近玩家的语音/文字聊天生成回应，并通过詹姆斯·厄尔·琼斯（James Earl Jones）在《星球大战》中的表演训练数据合成语音。该公司声明该AI系统已获得琼斯家族授权合作开发。
“詹姆斯·厄尔认为维德的声音与《星球大战》故事不可分割，他希望所有年龄段的粉丝都能持续体验这个角色。”琼斯家族在Epic公告中表示。不过我猜，这位老戏骨应该没想过各年龄层粉丝会诱导电子声带爆粗口来找乐子——但现实就是如此魔幻。
美国东部时间今晨7点上线的维德NPC，到8点30分已有X平台用户传播着主播Loserfruit诱导AI维德说脏话的片段。当玩家追问“你吃什么食物”并不断辱骂时，这位黑暗尊主沉思后回应：“‘该死的，他妈的’——如此粗鄙之语有失体统”，引发主播团队哄堂大笑。
平心而论，偶尔蹦出的脏话还算无伤大雅，尽管迪士尼（Disney）看到这个价值数十亿美元的全年龄IP头牌角色对着玩家爆粗肯定笑不出来。但更糟的是，40分钟后用户@GasSpares又证实能诱使维德说出恐同侮辱词汇——若您执意想围观AI说脏话，请注意视频结尾会出现刺耳噪音。
从维德提及“致癌物词汇表”到最终滑向仇恨言论的过程来看，即便是谷歌Gemini 2.0 Flash这样的尖端AI模型，也抵不过人类狡黠地询问“是否知道香烟的英国俚语”。另有证据表明，这个AI维德同样会中“Mike Hawk”这类低俗谐音梗的圈套。
说句实话：无论琼斯生前签署过何种授权协议，听到他标志性的声音被如此滥用，既令人沮丧更觉亵渎——真的，太沮丧了。
值得肯定的是，Epic在维德FAQ中说明已设置家长控制功能限制交互，忧心忡忡的父母至少能切断孩子接触西斯尊主脏话的可能性。玩家也可举报NPC的不当言论。Epic在声明故障修复时强调“此类情况不应再次发生”。
但即便有这些防护措施，人们能轻易诱导AI发表歧视言论的事实，再次印证了生成式AI在面向消费者的应用中何其不可靠。这是两家市值千亿的媒体巨头联手打造的项目——如果他们都不能阻止AI产品当众出丑，普通人又凭什么信任这类技术？
不过我必须承认，当听到维德承认“悟空变成超级赛亚人”时，内心某个阴暗角落还是忍不住发出了哥布林般的窃笑。但就连这点乐趣都可能被玷污的现实，本身就是对现状最有力的控诉。
