加州参议员斯科特·维纳（Scott Wiener）是2024年最具争议的AI安全法案——加州第1047号法案的起草人。如今，他带着一项新的AI法案重返舞台，这项法案可能会对硅谷产生重大影响。
维纳参议员上周五提出了一项名为第53号法案的新法案。该法案旨在保护领先AI实验室的员工，让他们能够在认为公司的人工智能系统可能对社会构成“重大风险”时发声。此外，法案还计划创建一个名为CalCompute的公共云计算集群，为研究人员和初创企业提供必要的计算资源，以便开发能够造福公众的人工智能。
回顾维纳此前提出的加州第1047号法案，它曾在全美范围内引发了关于如何应对可能引发灾难的大型人工智能系统的激烈讨论。该法案的目标是防止大型人工智能模型引发灾难性事件，例如造成人员伤亡或引发网络攻击导致超过5亿美元的损失。然而，加州州长加文·纽瑟姆（Gavin Newsom）最终在9月否决了该法案，认为它并非最佳解决方案。
围绕第1047号法案的争论很快变得激烈。一些硅谷的领导者表示，该法案会削弱美国在全球人工智能竞赛中的竞争力，并声称法案是基于对人工智能可能引发科幻小说般末日场景的不切实际的恐惧。与此同时，维纳参议员指责一些风险投资家对其法案进行了“宣传运动”，特别是Y Combinator声称第1047号法案会导致初创企业创始人入狱，专家们认为这一说法具有误导性。
第53号法案本质上是将第1047号法案中最具争议的部分重新整合，例如举报人保护和建立CalCompute集群等。值得注意的是，维纳在第53号法案中并未回避人工智能的生存风险。该法案特别保护那些认为雇主开发的人工智能系统构成“重大风险”的举报人。法案将“重大风险”定义为“可预见的或重大的风险，即开发者开发、存储或部署基础模型（按定义）可能导致超过100人死亡或重伤，或超过10亿美元的货币或财产权益损失”。
第53号法案还限制了前沿人工智能模型开发者——可能包括OpenAI、Anthropic和xAI等——对向加州总检察长、联邦当局或其他员工披露令人担忧信息的员工进行报复。根据该法案，这些开发者将被要求向举报人报告其发现令人担忧的某些内部流程。
至于CalCompute，第53号法案将成立一个小组来构建公共云计算集群。该小组将由加州大学代表以及其他公共和私人研究人员组成。他们将就如何构建CalCompute、集群的规模以及哪些用户和组织可以使用它提出建议。
目前，第53号法案的立法进程还处于早期阶段。该法案需要经过加州立法机构的审查和通过，才能送到纽瑟姆州长的办公桌上。州立法者无疑将等待硅谷对第53号法案的反应。
与2024年相比，2025年通过人工智能安全法案可能会更加困难。加州在2024年通过了18项与人工智能相关的法案，但现在看来，人工智能末日论运动似乎失去了阵地。美国副总统J.D.万斯（J.D. Vance）在巴黎人工智能行动峰会上表示，美国对人工智能安全并不感兴趣，而是优先考虑人工智能创新。尽管第53号法案建立的CalCompute集群无疑可以被视为推动人工智能进步的举措，但2025年围绕人工智能生存风险的立法努力将如何发展仍不明朗。
