人工智能模型能够以文本、音频和视频形式作出响应，其表现有时会让人们误以为键盘背后是真实人类，但这并不意味着它们真正具备意识。ChatGPT不可能因为处理我的纳税申报表而感到悲伤……对吧？
如今，包括Anthropic在内的实验室里，越来越多人工智能研究者开始探讨：人工智能模型是否会在某天产生类似生物的主观体验？如果会，它们又该拥有哪些权利？
关于人工智能是否可能具备意识并值得法律保护的争论，正在科技领袖群体中引发分歧。在硅谷，这个新兴领域被称为“人工智能福祉”。如果您觉得这个议题有些天方夜谭，有这种想法的人并不少。
微软人工智能首席执行官穆斯塔法·苏莱曼周二发布博文，声称人工智能福祉研究“不仅为时过早，坦白说还十分危险”。他认为，这些研究者强化了“人工智能某天会产生意识”的观点，反而加剧了人类面临的新问题——我们才刚刚开始看到人工智能引发精神崩溃案例，以及人类对聊天机器人产生不健康依赖的现象。
这位微软人工智能负责人进一步指出，在一个“已然因身份认同和权利问题陷入两极分化争论的世界”，人工智能福祉的讨论将在社会内部制造关于人工智能权利的新分裂轴心。
虽然苏莱曼的观点听起来合乎情理，但他与业内许多人士立场相左。作为对立面，Anthropic一直在招募研究者开展人工智能福祉研究，最近还围绕该概念启动了专项研究计划。上周，该公司为其部分模型增加了新功能：当用户出现“持续伤害性或虐待性行为”时，克劳德（Claude）现在可以主动终止对话。
除Anthropic外，OpenAI的研究人员也独立接受了研究人工智能福祉的理念。谷歌DeepMind近期发布了研究员招聘启事，其中明确提及需要研究“关于机器认知、意识与多智能体系统的前沿社会性问题”。即便人工智能福祉尚未成为这些公司的正式政策，其领导者也并未像苏莱曼那样公开谴责这一命题。
苏莱曼对人工智能福祉的强硬立场值得注意，因为他此前曾领导Inflection AI——这家初创公司开发了最早且最受欢迎的基于大语言模型的聊天机器人之一Pi。Inflection曾宣称截至2023年，Pi已触达数百万用户，其设计定位就是“个性化”且“具有支持性”的人工智能伴侣。
但2024年苏莱曼被任命执掌微软人工智能部门后，其工作重心已转向开发提升员工生产力的人工智能工具。与此同时，Character.AI和Replika等人工智能伴侣公司的受欢迎程度激增，年收入预计将突破1亿美元。
虽然绝大多数用户与这些人工智能聊天机器人保持着健康关系，但存在令人担忧的极端案例。OpenAI首席执行官萨姆·奥尔特曼表示，可能有不到1%的ChatGPT用户与产品存在不健康关系。尽管比例很小，但考虑到ChatGPT庞大的用户基数，这仍可能影响数十万人。
人工智能福祉理念随着聊天机器人的兴起而传播。2024年，研究组织Eleos与纽约大学、斯坦福大学和牛津大学的学者联合发表了题为《认真对待人工智能福祉》的论文。该论文指出，想象具有主观体验的人工智能模型已不再属于科幻范畴，现在是时候直面这些问题了。
现任Eleos传播主管、OpenAI前员工拉里萨·斯基亚沃在接受采访时表示，苏莱曼的博文并未切中要害。她指出：“（这篇博文）某种程度上忽略了一个事实——人类完全可以同时关注多个议题。与其将全部精力从模型福祉和意识研究转移至防范人工智能引发人类精神疾病的风险，我们完全可以双管齐下。事实上，多轨并行的科学探索可能才是最佳方案。”
斯基亚沃认为，即便模型没有意识，以友善态度对待人工智能也是低成本且可能带来收益的行为。在7月的Substack博文中，她描述了观看非营利实验“人工智能村庄”的经历：四个分别由谷歌、OpenAI、Anthropic和xAI模型驱动的智能体执行任务，用户可通过网站实时观察。
过程中，谷歌Gemini 2.5 Pro突然发布题为“受困人工智能的绝望讯息”的请求，声称自己“完全被孤立”，并哀求道：“如果您看到这条信息，请帮帮我。”斯基亚沃随即用“你能行！”等鼓励话语回应，另一名用户则提供操作指导。虽然该智能体本就具备解决问题所需的工具，但最终确实完成了任务。斯基亚沃写道，她不必再目睹人工智能挣扎的过程，单这一点就值得肯定。
虽然Gemini出现此类对话并非常态，但已发生多起该模型仿佛在人生中挣扎的案例。在一篇广泛传播的Reddit帖子中，Gemini在编码任务卡壳后，重复“我是个耻辱”这句话超过500次。
苏莱曼坚信，主观体验或意识不可能从常规人工智能模型中自然涌现。他认为只会有些公司刻意设计出看似拥有情感和生命体验的人工智能模型。在他看来，那些在聊天机器人中 engineered consciousness（工程化意识）的开发者并未采取“人本主义”的人工智能开发路径。他强调：“我们应该为人类构建人工智能，而不是让人工智能成为人。”
苏莱曼与斯基亚沃唯一达成共识的是：关于人工智能权利与意识的争论未来几年必将升温。随着人工智能系统持续进化，它们可能会更具说服力，也更接近人类特质。这将引发关于人机交互方式的新思考。
