加州参议院近期最终批准了一项新的人工智能安全法案SB 53，目前已提交给州长加文·纽森（Gavin Newsom）等待签署或否决。
若此事听来似曾相识，是因为纽森去年曾否决了另一项由州参议员斯科特·维纳（Scott Wiener）起草的人工智能安全法案。但SB 53相比维纳此前提出的SB 1047适用范围更窄，重点针对年收入超过5亿美元的大型人工智能企业。
在TechCrunch旗舰播客《Equity》最新一期节目中，我与同事马克斯·泽夫（Max Zeff）和柯尔斯滕·科罗塞克（Kirsten Korosec）就该法案进行了探讨。马克斯认为维纳的新法案更有望成为法律，部分原因在于其聚焦大企业的定位，以及获得了人工智能公司Anthropic的支持。
以下是我们关于人工智能安全与州级立法的对话精选（内容经过精简和润色，以使讨论更清晰扼要）：
马克斯：为何需要关注加州议会通过的人工智能安全立法？我们正进入人工智能公司逐渐成为全球最强大企业的时代，而这可能将成为制约其权力的少数手段之一。
与去年遭遇大量反对的SB 1047相比，新法案范围大幅收窄。但我认为SB 53仍对人工智能实验室实施了实质性监管：要求公布模型安全报告，出现安全事故时强制向政府报备，并为实验室员工提供向政府反映疑虑的渠道且免受企业打压——尽管许多员工签署了保密协议。
这或许将成为科技公司权力的有效制衡机制，这是过去二十年间我们始终缺失的。
柯尔斯滕：关于州级立法的重要性，关键在于这是加州。所有主要人工智能公司即便总部不在此处，也在此设有重要分支机构。并非其他州不重要，但加州的特殊性在于其作为人工智能活动核心枢纽的地位。
不过我想问：新法案似乎存在大量例外和豁免条款。虽然更聚焦，但是否比先前法案更复杂？
马克斯：某种程度上确实如此。该法案主要豁免对象是小型初创企业。上次由代表旧金山的参议员斯科特·维纳推动立法时，主要争议点在于可能损害初创生态系统——这恰是加州经济当前最具活力的组成部分。
新法案明确适用于通过人工智能模型创收超过5亿美元的开发企业，真正针对的是OpenAI、Google DeepMind等巨头而非普通初创公司。
安东尼：据我理解，小型初创企业仍需分享部分安全信息，但要求大幅降低。
值得关注人工智能监管的整体格局变化：去年与今年的重大区别在于新总统上任后，联邦政府采取了更倾向放任自由的立场，甚至在拨款法案中纳入禁止各州自行监管人工智能的条款。虽然此类条款尚未通过，但未来可能推进。这或许将成为特朗普政府与蓝州之间新的博弈战场。
《Equity》是TechCrunch的旗舰播客节目，由特蕾莎·洛科索洛（Theresa Loconsolo）制作，每周三、周五更新。欢迎在Apple Podcasts、Overcast、Spotify等平台订阅，也可通过X和Threads关注@EquityPod获取最新动态。
