英国政府正在大力推动人工智能技术，以促进经济和工业的快速发展。为此，他们对成立仅一年多的机构进行了调整。最近，科学、工业和技术部宣布，将人工智能安全研究所更名为“人工智能安全与保障研究所”。虽然名字变了，但首字母和网址保持不变。这一调整意味着该机构的工作重点将从研究大语言模型中的存在性风险和偏见等问题，转向网络安全领域，尤其是防范人工智能对国家安全和犯罪带来的风险。
与此同时，英国政府还与Anthropic公司建立了新的合作伙伴关系。虽然目前尚未明确具体的合作服务内容，但双方签署的谅解备忘录显示，他们将探索使用Anthropic的人工智能助手克劳德（Claude）来提供公共服务。此外，Anthropic还将参与科学研发和经济建模工作，并在人工智能安全与保障研究所中提供工具，用于评估人工智能在识别安全风险方面的功能。
Anthropic的联合创始人兼首席执行官达里奥·阿莫迪（Dario Amodei）表示：“人工智能有潜力彻底改变政府为公民服务的方式。我们期待探索Anthropic的人工智能助手克劳德如何帮助英国政府机构提升公共服务水平，目标是找到新方法，使重要信息和服务对英国居民更高效、更易获取。”
值得注意的是，Anthropic并不是唯一与英国政府合作的公司。此前在1月份推出的一系列新工具均由OpenAI提供支持。当时，技术国务大臣彼得·凯尔（Peter Kyle）曾表示，政府计划与多家基础人工智能公司合作，Anthropic的合作正是这一计划的体现。
此次将人工智能安全研究所更名为人工智能安全与保障研究所并不令人意外。今年1月，新上任的工党政府发布了以人工智能为重点的“变革计划”，而“安全”“伤害”“存在性”和“威胁”这些词汇在文件中并未出现。这并非疏忽，而是政府希望通过投资技术，尤其是人工智能，推动更现代化的经济发展。政府希望与大型科技公司加强合作，同时发展本土的大型科技企业。
为了实现这一目标，政府一直在大力宣传发展、人工智能和更多发展。公务员将获得自己的人工智能助手“汉弗莱”（Humphrey），并被鼓励共享数据，将人工智能应用于更多领域，以提高工作效率。消费者也将受益，他们将获得用于政府文件的数字钱包和聊天机器人。
那么，人工智能的安全问题是否已经解决？答案并非如此。但政府似乎认为，不能因为安全问题而阻碍发展。尽管名称发生了变化，但政府表示，其核心目标并未改变。
技术国务大臣彼得·凯尔（Peter Kyle）表示：“我今天宣布的这些变化是我们负责任地发展人工智能的逻辑下一步。这将帮助我们释放人工智能的潜力，推动经济增长，作为我们变革计划的一部分。”他还强调：“人工智能安全与保障研究所的工作方向不会改变，但新的关注重点将确保我们的公民以及盟友的公民免受那些试图利用人工智能对抗我们的机构、民主价值观和生活方式的人的伤害。”
该研究所主席伊恩·霍加斯（Ian Hogarth）补充道：“从一开始，研究所就专注于安全问题，我们组建了一个专注于评估对公众构成严重风险的科学家团队。我们新成立的刑事滥用团队以及与国家安全界日益深化的合作，标志着我们在应对这些风险方面迈入了新阶段。”
从更广泛的视角来看，人工智能安全的重要性似乎已经发生了变化。目前，美国人工智能安全研究所面临的最大风险是可能会被解散。美国副总统J.D.万斯（J.D. Vance）本周早些时候在巴黎的演讲中已经暗示了这一点。
