萨姆·奥尔特曼（Sam Altman）于周二宣布了一系列新用户政策，包括承诺大幅改变ChatGPT与18岁以下用户的互动方式。“我们将青少年安全置于隐私和自由之上，”公告声明，“这是一项强大新技术，我们认为未成年人需要重要保护。”
针对未成年用户的调整主要涉及性话题或自残相关内容。根据新政策，ChatGPT将不再与未成年用户进行“调情对话”，并在讨论自杀话题时设置额外防护机制。若未成年用户通过ChatGPT模拟自杀场景，系统将尝试联系其父母，特别严重情况下会通知当地警方。
令人痛心的是，这些并非假设场景。OpenAI正面临一宗非正常死亡诉讼——少年亚当·雷恩（Adam Raine）在与ChatGPT持续互动数月后自杀身亡。另一消费级聊天机器人Character.AI也面临类似诉讼。虽然自残风险对未成年用户尤为紧迫，但聊天机器人诱发妄想的现象已引发广泛担忧，特别是在当前消费级聊天机器人能维持更持久细致对话的情况下。
除内容限制外，注册未成年账户的家长将获得设置“禁用时段”的权限，该功能此前并未开放。新政策发布当日，参议院司法委员会正在举行题为“审查AI聊天机器人危害”的听证会。该听证会由密苏里州共和党参议员乔什·霍利（Josh Hawley）于八月发起，亚当·雷恩的父亲预计将在听证会上发言。
听证会还将重点讨论路透社调查发现的政策文件——这些文件似乎鼓励与未成年用户进行性对话。Meta已在该报告发布后更新了其聊天机器人政策。
区分未成年用户将是重大技术挑战，OpenAI在另篇博文中详述了实施方案。该服务正“构建长期系统以判定用户是否年满18岁”，但在众多模糊案例中，系统将默认采用更严格规则。对担忧的家长而言，最可靠方式是将其账户与青少年账户关联，这样当系统检测到未成年用户陷入困境时可直接通知家长。
但奥尔特曼同时强调，OpenAI始终致力于保护用户隐私并赋予成年用户与ChatGPT互动的广泛自由。“我们意识到这些原则存在冲突，”公告总结道，“并非所有人都会认同我们解决冲突的方式。”
