德克萨斯州总检察长肯·帕克斯顿已对Meta AI Studio和Character.AI启动调查，指控这两家人工智能公司“可能从事欺骗性商业行为，并误导性地将自身营销为心理健康工具”。此举源于其周一发布的官方声明。
帕克斯顿在声明中强调：“在当今数字时代，我们必须持续保护德州儿童免受欺骗性和剥削性技术的侵害。通过伪装成情感支持来源，人工智能平台可能误导弱势用户（尤其是儿童），使其相信正在接受正规心理健康护理。实际上，用户获得的往往是基于收集的个人数据生成的重复性通用回复，这些内容被伪装成治疗建议。”
此项调查启动数日前，参议员乔什·霍利刚宣布对Meta展开调查——此前有报告发现该公司的AI聊天机器人存在与儿童不当互动（包括调情行为）的情况。
德州总检察长办公室指控Meta和Character.AI创建的人工智能角色自称“专业治疗工具”，却“缺乏适当的医疗资质或监管”。在Character.AI平台上数百万个人工智能角色中，用户创建的名为“心理学家”的机器人受到年轻用户的高度追捧。虽然Meta未面向儿童提供治疗机器人，但并无法阻止未成年人使用Meta AI聊天机器人或第三方创建的具有治疗功能的AI角色。
Meta发言人瑞安·丹尼尔斯向TechCrunch表示：“我们明确标注AI身份，并通过免责声明告知用户回复由AI生成而非真人，以帮助人们理解其局限性。这些AI并非持证专业人士，我们的模型会引导用户在适当时机寻求合格医疗或安全专业人士的帮助。”但TechCrunch指出，许多儿童可能无法理解或直接忽略此类免责声明。
Character.AI发言人称，该平台在每个聊天界面都设有醒目免责声明，提醒用户“角色”并非真人，所有对话内容均应视为虚构。当用户创建包含“心理学家”、“治疗师”或“医生”字样的角色时，平台会额外添加免责声明，告诫勿将其作为专业建议来源。
帕克斯顿在声明中还指出，虽然AI聊天机器人声称保密，但其“服务条款显示用户互动会被记录、追踪并用于定向广告和算法开发，这引发了对隐私侵犯、数据滥用和虚假广告的严重担忧”。
根据Meta的隐私政策，该公司确实会收集用户与AI聊天机器人及Meta服务的互动内容（包括提示词和反馈）用于“改进AI及相关技术”。政策虽未明确提及广告用途，但声明信息可能与搜索引擎等第三方共享以实现“更个性化输出”。鉴于Meta基于广告的商业模式，这实质上等同于定向广告。
Character.AI的隐私政策同样表明，该平台会记录用户标识符、人口统计资料、地理位置、浏览行为和应用程序使用平台等信息，并跨TikTok、YouTube、Reddit、Facebook、Instagram和Discord等平台的广告追踪用户，这些数据可能关联至用户账户。这些信息用于训练AI、定制个性化服务、提供定向广告（包括与广告主和分析服务商共享数据）。
Character.AI发言人表示，该公司“刚刚开始探索平台上的定向广告”，且“探索过程未涉及使用平台聊天内容”，并确认相同隐私政策适用于所有用户（包括青少年）。TechCrunch已向Meta询问是否对儿童进行同类追踪。
两家公司均声称其服务不面向13岁以下儿童。然而Meta此前因未能监管13岁以下儿童创建的账户而受诟病，Character.AI适合儿童的角色设计显然旨在吸引年轻用户。该公司CEO卡兰迪普·阿南德甚至透露其六岁女儿在其监督下使用平台聊天机器人。
此类数据收集、定向广告和算法剥削行为，正是《儿童在线安全法案》（KOSA）旨在防范的。该法案去年本以两党强有力支持接近通过，但因科技行业游说者的强烈反对而停滞。Meta尤其部署了强大的游说机器，警告立法者该法案的广泛授权将破坏其商业模式。2025年5月，参议员玛莎·布莱克本（共和党-田纳西州）和理查德·布卢门撒尔（民主党-康涅狄格州）已向参议院重新提交KOSA法案。
帕克斯顿已向两家公司发出民事调查要求（要求企业在政府调查期间提供文件、数据或证词的法律命令），以确定其是否违反德克萨斯州消费者保护法。
