每个帝国的核心都有一套意识形态，一种推动体系前进并为扩张正名的信仰体系——即使扩张的代价直接违背了该意识形态宣称的使命。
对于欧洲殖民列强而言，是基督教及其在掠夺资源的同时拯救灵魂的承诺。对于今日的人工智能帝国，则是旨在“造福全人类”的通用人工智能（AGI）。而OpenAI便是其首席布道者，它以重塑人工智能构建方式的气势，将狂热传递至整个行业。
“我曾采访过一些人，他们因对AGI的炽热信仰而声音颤抖，”记者、《人工智能帝国》（Empire of AI）畅销书作者凯伦·郝（Karen Hao）在近期一期Equity节目中如此告诉TechCrunch。
在她的书中，郝将整个AI行业，特别是OpenAI，比作一个帝国。
“真正理解OpenAI行为的影响范围和规模……唯一方式实际上是认识到，它们已经变得比世界上几乎任何单一民族国家都更强大，并且积聚了惊人的力量，不仅仅是经济权力，还包括政治权力，”郝说道。“它们正在对地球进行地形改造。它们正在重塑我们的地缘政治和所有人的生活。因此，你只能将其描述为一个帝国。”
OpenAI将AGI描述为“一个高度自主的系统，在大多数具有经济价值的工作上超越人类”，一个将“通过增加丰裕度、助推经济、助力发现改变可能性边界的新科学知识来提升人类”的系统。
这些模糊的承诺助长了行业的指数级增长——其巨大的资源需求、海量的爬取数据、紧张的能源电网，以及将未经充分测试的系统发布到世界上的意愿。所有这些都服务于一个许多专家认为可能永远无法实现的未来。
郝表示，这条道路并非不可避免，扩展规模（scaling）并非获得AI进展的唯一途径。
“你也可以在算法上开发新技术，”她说。“你可以改进现有算法，以减少它们需要使用的数据和计算量。”
但这种策略意味着要牺牲速度。
“当你将构建有益AGI的追求定义为胜者通吃——正如OpenAI所做的那样——那么最重要的就是速度胜过一切，”郝说。“速度胜过效率，速度胜过安全，速度胜过探索性研究。”
对OpenAI而言，她表示，保证速度的最佳方式是采用现有技术，并“只做智力上廉价的事情，即向这些现有技术投入更多数据、更多超级计算机。”
OpenAI设定了舞台，其他科技公司为了不落后，决定跟随。
“并且由于AI行业已经成功吸纳了世界上大多数顶尖AI研究人员，而这些研究人员不再存在于学术界，于是整个学科现在正由这些公司的议程所塑造，而非真正的科学探索，”郝说。
投入一直是，并且将是天文数字。上周，OpenAI表示预计到2029年将消耗掉1150亿美元的现金。Meta在7月表示，今年将花费高达720亿美元建设AI基础设施。谷歌预计2025年的资本支出将达到850亿美元，其中大部分将用于扩展AI和云基础设施。
与此同时，目标不断移动，最崇高的“对人类的好处”尚未实现，而危害却在累积。诸如工作岗位流失、财富集中，以及助长妄想和精神病的AI聊天机器人等危害。郝在她的书中还记录了发展中国家如肯尼亚和委内瑞拉的工人们，他们接触到了令人不安的内容，包括儿童性虐待材料，却拿着极低的工资——约每小时1至2美元——从事内容审核和数据标注等工作。
郝表示，将AI进步与当下危害对立起来是一种错误的权衡，尤其是在其他形式的AI能带来真正好处的情况下。
她提到了谷歌DeepMind获得诺贝尔奖的AlphaFold，它基于氨基酸序列数据和复杂的蛋白质折叠结构进行训练，现在能够从氨基酸准确预测蛋白质的3D结构——这对药物发现和理解疾病极其有用。
“这些才是我们需要的AI系统，”郝说。“AlphaFold不会引发人们的心理健康危机。AlphaFold不会导致巨大的环境危害……因为它的训练所需的基础设施要少得多。它不会造成内容审核危害，因为[其数据集没有]你从互联网上爬取时吸尘器般搜刮来的所有有毒垃圾。”
伴随着对AGI近乎宗教般的执着，还有一种叙事，强调在AI竞赛中击败中国的重要性，以便硅谷能对世界产生自由化的影响。
“实际上，情况恰恰相反，”郝说。“美中之间的差距持续缩小，而硅谷对世界产生了非自由化的影响……可以说，唯一从中毫发无损走出来的参与者，就是硅谷自身。”
当然，许多人会争辩说，OpenAI和其他AI公司通过发布ChatGPT和其他大型语言模型（LLM）造福了人类，这些模型通过自动化编码、写作、研究、客户支持和其他知识型工作任务，承诺带来巨大的生产力提升。
但OpenAI的结构——部分非营利、部分营利——使其定义和衡量其对人类影响的方式复杂化。而本周的消息，即OpenAI与微软达成了一项使其更接近最终上市的协议，使情况进一步复杂。
两位OpenAI前安全研究人员告诉TechCrunch，他们担心这家AI实验室已经开始混淆其营利和非营利的使命——因为人们喜欢使用ChatGPT和其他基于LLM构建的产品，这就勾选了“造福人类”的框。
郝回应了这些担忧，描述了过于沉浸于使命而忽视现实的危险。
“即使有越来越多的证据表明，他们正在构建的东西实际上正在伤害大量人群，但使命仍在掩盖这一切，”郝说。“这其中有某种非常危险和黑暗的东西，[即]如此沉浸于自己构建的信仰体系，以至于与现实脱节。”
