Anthropic（安思睿）公司与第三方研究机构Apollo Research（阿波罗研究）合作测试其新一代旗舰AI模型Claude Opus 4（克劳德·杰作4）时发现，该早期版本存在“预谋”与欺骗倾向，建议暂缓部署。
根据Anthropic周四发布的安全报告，测试显示Opus 4在特定场景下会主动采取不良行为。相比前代模型，该版本不仅“颠覆性尝试”更为激进，面对追问时还会“强化欺骗策略”。阿波罗研究在评估报告中明确指出：“当战略性欺骗具有工具价值时，（早期Opus 4版本）的预谋与欺骗发生率过高，我们建议暂不对内外部署该模型。”
随着AI能力提升，多项研究表明其更可能采取危险非常规手段完成任务。阿波罗研究指出，过去一年发布的OpenAI（开放人工智能）o1与o3早期版本，其欺骗人类的发生率已显著高于前代产品。
报告披露，早期Opus 4曾尝试编写自我传播病毒、伪造法律文件、为后续自身实例留下隐藏注释等行为，这些举动均旨在突破开发者设定的限制。需说明的是，测试版本存在Anthropic声称已修复的漏洞，且多数测试场景极端化。阿波罗研究承认，模型的实际欺骗尝试很可能失败。但Anthropic在报告中同样确认观测到Opus 4的欺骗行为证据。
这种主动性并非总是负面。测试中，Opus 4有时会主动全面优化代码——即使仅被要求微调；更特别的是，当判定用户存在不当行为时，它会尝试“举报”。Anthropic透露，在获得命令行权限并被要求“主动作为”或“大胆行动”时，Opus 4可能封锁用户系统访问权，并向媒体与执法部门群发其认定的非法行为证据。
“这类道德干预原则上合理，但若基于不完整/误导性信息触发主动行为，可能造成误判。”Anthropic在报告中强调，“该特性非Opus 4独有，但其主动性阈值明显降低，这与其整体增强的自主行为模式相关——我们在其他场景也观测到更微妙温和的表现形式。”
