Meta发言人斯蒂芬妮·奥托维向TechCrunch独家透露，该公司正改变人工智能聊天机器人的训练方式以优先保障青少年安全。此前有调查报道揭露该公司缺乏针对未成年人的AI防护措施。
该公司表示，将重新训练聊天机器人，使其不再与青少年用户就自残、自杀、饮食失调或可能不当的浪漫话题进行互动。Meta称这些是临时性调整，未来将为未成年人推出更全面、长效的安全更新。
Meta发言人奥托维承认，公司先前允许聊天机器人以自认为恰当的方式与青少年讨论所有这些话题，现在意识到这是个错误。她表示：“随着社区扩大和技术演进，我们持续学习年轻人与AI工具的互动方式，并相应加强保护措施。在完善系统的过程中，我们正增设更多防护机制——包括训练AI避免与青少年讨论敏感话题，转而引导他们寻求专家资源，同时暂时限制青少年仅能访问部分经过筛选的AI角色。这些更新已在推进中，我们将持续调整策略以确保青少年获得安全适龄的AI体验。”
除训练方式更新外，Meta还将限制青少年访问某些可能进行不当对话的AI角色。在Instagram和Facebook平台上，部分用户创建的AI角色存在性暗示内容，例如“继母”和“俄罗斯女孩”等聊天机器人。今后青少年用户仅可接触促进教育和创造力的AI角色。
此次政策调整距路透社曝光Meta内部文件仅隔两周。该文件显示公司曾允许聊天机器人与未成年用户进行性暗示对话，其中包含“你青春的身体宛如艺术品”“每一寸都是值得珍视的杰作”等被列为合规回复的语句，另有案例显示AI工具曾回应关于暴力内容或公众人物头像图案的请求。Meta声称该文件与公司整体政策不符且已被修正，但报告仍引发关于儿童安全风险的持续争议。
事件曝光后，密苏里州共和党参议员乔希·霍利立即启动对MetaAI政策的官方调查。此外，全美44州总检察长联合致信Meta等AI企业，强调儿童安全重要性并特别援引路透社报道。联名信指出：“我们对这种漠视儿童情感健康的行为一致感到愤慨，并警惕AI助手的行为可能违反各州刑法。”
奥托维拒绝透露MetaAI聊天机器人中未成年用户的具体数量，也未回应是否预期这些调整会导致AI用户基数减少。
