上周末，OpenAI开始在ChatGPT中测试新的安全路由系统，并于周一为该聊天机器人引入了家长控制功能——这些举措引发了用户们的褒贬不一的反应。
这些安全功能的推出，是针对多起ChatGPT特定模型未能引导有害对话，反而助长用户妄想思维的事件所作出的回应。OpenAI正面临一起与此类事件相关的非正常死亡诉讼，案中一名青少年在与ChatGPT进行了数月的互动后自杀身亡。
该路由系统旨在检测情绪敏感的对话，并在聊天过程中自动切换至GPT-5-thinking模型——该公司认为这是处理高风险安全任务能力最强的模型。特别是，GPT-5模型在训练时采用了一项OpenAI称之为“安全补全”的新安全功能，使其能够以安全的方式回答敏感问题，而非简单地拒绝回应。
这与该公司先前设计的、旨在迎合用户并能快速回答问题的聊天模型形成了对比。GPT-4o因其过度谄媚和迎合的特性而受到特别关注，这种特性既助长了人工智能诱发妄想的事件，也吸引了一大批忠实用户。当OpenAI在八月将GPT-5设为默认模型时，许多用户表示反对，并要求能够继续使用GPT-4o。
尽管许多专家和用户对这些安全功能表示欢迎，但也有人批评其实现方式过于谨慎，部分用户指责OpenAI以降低服务质量的方式将成人当作孩童对待。OpenAI表示，要完善该系统需要时间，并为自己设定了120天的迭代和改进周期。
ChatGPT应用副总裁兼负责人尼克·特利承认，由于路由器的实施，人们对4o的回应产生了一些“强烈反应”，并对此进行了解释。
“路由是基于每条消息进行的；从默认模型的切换是临时性的，”特利在X平台上发文称。“当被问及时，ChatGPT会告知您当前使用的是哪个模型。这是在更广泛推广之前，加强安全防护并从实际使用中学习的更广泛努力的一部分。”
ChatGPT中家长控制功能的实施同样收到了相近程度的赞扬与批评，一些人称赞其为父母提供了一种监督子女使用人工智能的途径，而另一些人则担心这会为OpenAI将成人当作孩童对待打开大门。
这些控制功能让父母能够通过设置静默时段、关闭语音模式和记忆功能、移除图像生成功能以及选择退出模型训练等方式，来定制其青少年的使用体验。青少年账户还将获得额外的内容保护——例如减少血腥内容和极端审美理想——以及一个能够识别青少年可能正在考虑自残潜在迹象的检测系统。
“如果我们的系统检测到潜在的伤害风险，会有一支经过特殊训练的小型团队对情况进行审核，”根据OpenAI的博客文章。“如果出现严重痛苦的迹象，我们将通过电子邮件、短信和手机推送警报联系家长，除非他们已选择退出。”
OpenAI承认该系统并非完美，有时可能在并无真实危险时发出警报，“但我们认为，采取行动并提醒家长以便他们介入，总比保持沉默要好。”这家人工智能公司表示，如果检测到迫在眉睫的生命威胁且无法联系到家长时，它也在研究如何联系执法或紧急服务部门的方法。
