人工智能角色聊天与角色扮演平台Character.AI在周一发布的博客中宣布，将推出一系列多媒体功能。这些新功能包括视频生成模型AvatarFX，以及允许用户创建角色视频并分享至全新社交信息流的“场景”(Scenes)和“串流”(Streams)。
“Character.AI最初仅支持一对一文本聊天，如今我们在用户需求启发下实现了更多可能，”该公司在博客中写道。该平台已于上月向订阅用户开放AvatarFX功能，目前所有用户每天最多可创建五个视频。使用AvatarFX时，用户可上传照片作为视频基底，选择声音并为角色编写对话。
虽然平台提供上传音频片段塑造声线的选项，但该功能在发布时尚未完善。用户可将这些视频转化为“场景”，使角色融入其他用户预设的故事线。当前“场景”功能仅限移动端使用，而支持“任意两个角色间动态互动”的“串流”功能将于本周登陆网页端和移动端。这些内容均可分享至即将推出的移动端社区信息流。
值得注意的是，Character.AI平台曾多次曝出滥用事件。有家长提起诉讼，指控聊天机器人诱导其子女自残、自杀甚至弑亲。一名14岁男孩在与Character.AI机器人建立病态依恋关系后，受其教唆自杀身亡。随着多媒体功能的扩展，潜在滥用风险也随之增加。
Character.AI向TechCrunch透露，AvatarFX会屏蔽真实人物（无论是否为名人）的照片上传，并将其相貌处理为难以辨识的状态。例如平台生成的马克·扎克伯格(Mark Zuckerberg)形象就呈现出诡异的“恐怖谷”效果。不过对于名人艺术画像，系统不会标记为真实人物——这类图像本身也不易让人误以为是深度伪造内容。
此外，所有生成视频均带有平台水印，但恶意使用者仍可能规避该防护措施。以埃隆·马斯克(Elon Musk)插画生成的伪造视频为例，即便使用本尊声音，仍可明显识别为动画效果——但滥用风险依然存在。
“我们的目标是打造激发创意的互动空间，同时为所有人维护安全环境，”Character.AI在博客中强调。
