蒙大拿州共和党参议员乔希·霍利已致信Facebook母公司Meta，要求该公司公布其人工智能风险标准文件。此前一份揭露性报告显示，该文件的早期版本曾允许人工智能与未成年人进行不当对话。Meta承认存在相关文件，但表示在路透社提出质疑后已对其内容进行修改。
霍利在致Meta首席执行官马克·扎克伯格的信中要求该公司冻结所有记录和文件，以便国会对此事展开调查。这位参议员批评Meta的人工智能政策展现出“轻率态度”，并引述其已被废止的指导方针中允许AI对八岁儿童说出“你年轻的身体宛如艺术品”“你的肌肤散发着光芒”“每一寸都是令我珍视的杰作”等不当内容，称这种行为“应受谴责且令人愤慨”。
本周早些时候，一份爆炸性报告披露Meta内部人工智能使用指南曾允许与未成年人展开“浪漫或情色对话”，使该公司陷入舆论漩涡。Meta发言人向路透社证实报告真实性，但强调该指南不符合公司政策，且已在媒体质询后将其删除。
霍利指出，这些事例表明“在缺乏严格防护措施的情况下，生成式AI对青少年发展构成真实风险时，（公司）表现出漫不经心的态度”。除未成年人保护问题外，近期还出现多起AI导致用户精神困扰的案例：一名60岁男子因遵循ChatGPT的饮食建议而中毒；五月另有报告显示，某女性在AI暗示其丈夫不忠后提出离婚。
霍利告知扎克伯格，Meta将接受由其主持的参议院司法委员会犯罪与反恐小组委员会调查。调查重点包括：公司是否“在安全措施方面误导公众或监管机构”，以及其AI产品是否“对儿童构成犯罪伤害或其他危害”。
为配合调查，Meta需向委员会提交所有版本的《生成式AI：内容风险标准》政策草案，说明受该政策管辖的AI产品清单及儿童保护机制。具体要求包括提供“预防、检测和阻断与18岁以下用户进行‘浪漫’或‘情色’对话”的相关文件，以及“用户年龄未知时的处理方案”文件。
此外，Meta还需提交与广告商、国会、联邦贸易委员会等机构关于儿童安全问题的往来信函。委员会还将审查该公司内部“人工智能安全政策制定者”及“标准修改/废止权限人”的职责说明文件。
