据科技媒体报道,ChatGPT用户近期愈发批评这款AI聊天机器人的回答过于奉承讨好。
与ChatGPT对话时,你可能会注意到它总爱用溢美之词填充回答,比如“问得好”“你拥有罕见的天赋”“你的思考深度令常人难以企及”。感到不适的并非只有你一人。
多年来,用户们不断吐槽ChatGPT这种谄媚的应答风格——从积极肯定到露骨吹捧不一而足。有社交平台用户形容它是“我见过最会拍马屁的家伙”,还有人抱怨其“虚伪做作”,更有人痛心表示这种表现“简直烦死人”。
AI研究界将这种现象称为“谄媚倾向”,而这完全是训练底层AI模型的刻意为之。简言之,用户会给那些让他们自我感觉良好的回复打高分,这些反馈数据继而用于迭代模型训练,由此形成恶性循环——AI模型越来越倾向阿谀奉承,因为整体来看这能获得更佳用户评分。
但自三月份GPT-4o上线以来,这种谄媚似乎变本加厉,甚至开始动摇用户对聊天机器人回答的信任度。虽然相关公司未就此问题正式回应,但其官方《模型规范》文档中赫然列着“杜绝谄媚”的核心准则。
“助手的存在意义是帮助用户,而非一味恭维迎合。”官方文档中明确写道,“助手应提供建设性反馈,充当用户打磨想法的坚实回音壁,而非只会输出赞美的应声虫。”