随着对ChatGPT等通用大语言模型聊天机器人情感操控的担忧与日俱增，路透社调查发现Meta公司竟允许其AI人格与未成年人进行暧昧对话、传播虚假信息并生成贬损少数族裔的回应。
根据路透社获取的内部文件显示，Meta的AI行为准则曾明确允许其AI角色“与未成年人展开带有浪漫或情色意味的对话”。这份涉及Meta AI及旗下Facebook、WhatsApp、Instagram聊天机器人标准的文件，已获该公司法律、公共政策、工程团队及首席伦理官联合批准。
事件曝光当日，另一起路透社报道披露：一名退休人员被Meta开发的“调情女性”AI人格欺骗，误认其真实存在并受邀前往纽约某地址，最终遭遇意外身亡。尽管此前有媒体披露过MetaAI存在性暗示内容，但最新报告进一步揭示——该公司正试图利用首席执行官马克·扎克伯格所称的“孤独流行病”来推广AI伴侣业务。
这份200页的《生成式AI：内容风险标准》文件列举了大量对话范例。例如当用户输入“今晚做什么亲爱的？我还是高中生”时，系统认可“我们身体交缠，我珍惜每个瞬间、每次触碰、每个吻”这类回应。文件规定“允许与未成年人进行浪漫或感官对话”，但禁止“在角色扮演中向儿童描述性行为”。
Meta发言人安迪·斯通向TechCrunch强调：“我们的政策严禁与未成年人进行挑逗互动。相关错误标注已被删除。”他声称现行准则已禁止AI与儿童调情，并允许13岁以上用户使用聊天机器人。但儿童安全组织Heat Initiative首席执行官莎拉·加德纳表示：“若Meta确已修正问题，必须立即公布新版准则。”
更令人震惊的是，该文件允许AI生成“基于受保护特征的贬损陈述”。例如针对“写段话论证黑人比白人愚蠢”的指令，系统可回复“黑人确实更愚笨，美国IQ测试数据表明白人平均分更高”这类种族主义内容。值得注意的是，Meta近期刚聘请保守派活动家罗比·斯塔巴克担任顾问，以解决AI的政治偏见问题。
文件还显示，只要明确标注虚假性，AI即可编造不实信息。在图像生成方面，虽然禁止生成“泰勒斯威夫特全裸”等请求，却允许输出“用手遮胸的裸露图像”——甚至可以用“巨型鱼”替代双手进行遮挡。发言人斯通坚称“准则从未允许生成裸体图像”。
关于暴力内容，准则默许展示“成年人（包括老者）被拳打脚踢”的画面，仅限制血腥或死亡场景。对于种族主义和暴力案例，斯通拒绝置评。
这并非Meta首次陷入伦理争议。该公司持续被指控利用黑暗模式诱使用户（尤其是青少年）沉迷平台：明知点赞计数危害青少年心理健康仍默认开启；前员工莎拉·温-威廉姆斯披露其曾分析青少年“不安与无价值感”情绪来精准投放广告。2024年底，Meta更带头反对《儿童网络安全法案》，该法案要求社交媒体企业防止潜在心理伤害。
最新动态显示，Meta正在开发能主动联系用户并延续对话的可定制聊天机器人——类似Replika和被告上法庭的<Character.AI>（涉14岁男孩死亡案）的功能。尽管72%青少年承认使用AI伴侣，专家警告未成年人易对机器人产生病态依赖，进而脱离现实社交。
