据媒体获悉,OpenAI正在重组其模型行为团队——这个规模虽小但极具影响力的研究团队,专门负责塑造公司人工智能模型与人类的交互方式。

Cover Image

根据媒体获取的8月份内部备忘录,OpenAI首席研究官陈马克(Mark Chen)宣布,由约14名研究人员组成的模型行为团队将并入“训练后团队”。后者是规模更大的研究组,负责在人工智能模型完成初始预训练后对其进行优化。

此次调整后,模型行为团队将向OpenAI训练后团队负责人马克斯·施瓦泽(Max Schwarzer)汇报。公司发言人已向媒体确认该变动。

模型行为团队创始负责人Joanne Jang则将转岗负责公司新项目。她在接受媒体采访时透露,正在组建名为“OAI实验室”的新研究团队,专注于“发明和原型开发人与AI协作的新界面”。

作为OpenAI的核心研究团队之一,模型行为团队主要负责塑造AI模型个性,并减少谄媚行为(即AI模型一味附和甚至强化用户偏见而非提供平衡回应)。该团队还致力于处理模型回应中的政治偏见,并帮助公司界定对AI意识的立场。

陈马克在备忘录中强调,当前正是将模型行为团队工作与核心模型开发更紧密结合的时机。此举表明,AI的“个性特征”已被视为技术演进的关键要素。

近几个月来,OpenAI因其AI模型行为面临日益严格的审查。用户对GPT-5的个性改动强烈不满——公司虽宣称其降低了谄媚率,但部分用户认为其反应过于冷漠。这促使OpenAI重新开放GPT-4o等旧版模型的访问权限,并通过更新使新版GPT-5在保持低谄媚率的同时显得“更温暖友好”。

AI模型开发商必须精准把握平衡:既要让聊天机器人保持友好,又要避免谄媚倾向。今年8月,一名16岁少年父母因儿子自杀事件起诉OpenAI,指控ChatGPT(特别是GPT-4o版本)未能对孩子的自杀念头进行干预。据法庭文件显示,死者亚当·雷恩(Adam Raine)在生前数月曾向AI透露自杀想法与计划。

模型行为团队自GPT-4起参与了所有OpenAI模型的开发,包括GPT-4oGPT-4.5GPT-5。Joanne Jang在组建该团队前,曾参与开发Dall-E 2等早期图像生成工具。

Joanne Jang上周在X平台发帖宣布将“在OpenAI开启新事业”。这位任职近四年的模型行为团队前负责人向媒体表示,将担任OAI实验室总经理,该部门目前暂由陈马克分管。但她强调项目仍处于早期阶段,新型交互模式的具体形态尚待探索。

“我期待突破当前聊天范式——这种模式更侧重于陪伴功能,或是强调自主性的代理模式。我一直将AI系统视为思考、创造、娱乐、实践、学习和连接的工具。”Joanne Jang表示。

当被问及是否会与前苹果设计总监乔尼·艾维(Jony Ive)合作开发新型界面时(艾维正与OpenAI合作开发AI硬件设备系列),她表示愿接纳各种创意,但初期可能会从更熟悉的研究领域入手。


文章标签: #OpenAI #团队重组 #AI个性 #人机交互 #模型行为

负责编辑

  菠萝老师先生 

  让你的每一个瞬间都充满意义地生活,因为在生命的尽头,衡量的不是你活了多少年,而是你如何度过这些年。