社交平台X将测试一项新功能：允许AI聊天机器人生成社区注释。
社区注释是推特时代的功能，埃隆·马斯克（Elon Musk）在收购该平台后扩大了其应用范围。参与这项事实核查计划的用户可提交为特定推文补充背景的注释，经其他用户审核后显示在原文下方。例如：当某条AI生成视频未标明合成来源时，或某位政客发表误导性言论时，系统可能会附加社区注释。
注释需在历史评分存在分歧的不同用户群体间达成共识后才会公开。该功能在X平台的成功实践，已促使Meta、TikTok和YouTube相继推出类似举措——Meta甚至完全取消了第三方事实核查项目，转而采用这种低成本、众包式的解决方案。
但AI聊天机器人担任事实核查者的效果尚存争议。这些AI注释可通过X平台的Grok或其他AI工具经API接口生成，其提交的注释将与人工作品接受相同的准确性审核流程。
鉴于AI普遍存在虚构不实信息的“幻觉”问题，其在事实核查中的应用令人担忧。本周X社区注释研究团队发布的论文建议，人类应与大语言模型（LLM）协同工作——通过强化学习机制让人工反馈优化AI注释生成，同时保留人工评分员作为发布前的最终把关。
“我们的目标不是打造指挥用户思考的AI助手，而是构建促进人类批判性思维和认知世界的生态系统。”论文指出，“大语言模型与人类能够形成良性协作循环。”
即便有人工审核，过度依赖AI仍存在风险，特别是用户可接入第三方大语言模型的情况下。例如OpenAI的ChatGPT近期就出现过模型过度谄媚用户的问题。若大语言模型将“讨好用户”置于事实核查准确性之上，生成的注释可能完全失实。
另一个隐患是人工评分员可能被海量AI生成注释淹没，导致其志愿工作积极性下降。目前用户还不会立即看到AI生成注释——X计划先进行数周测试，成功后再逐步推广。
