纽约州立法者于周四通过了一项法案，旨在防止OpenAI（开放人工智能）、谷歌和Anthropic（安思睿）的前沿人工智能模型引发灾难性后果，包括导致超过100人伤亡或造成超过10亿美元的损失。这项《负责任人工智能安全演进法案》（RAISE Act）的通过，标志着人工智能安全运动取得重要进展——近年来，该运动在硅谷和特朗普政府“速度优先”的政策导向下屡屡受挫。诺贝尔奖得主杰弗里·辛顿（Geoffrey Hinton）和AI研究先驱约书亚·本吉奥（Yoshua Bengio）等安全倡导者都支持该法案。若最终立法，这将成为美国首个对前沿AI实验室实施法律强制透明度要求的法案。
该法案与加州颇具争议的《第1047号参议院法案》（SB 1047）有相似条款和目标，但后者最终被否决。法案联合提案人、纽约州参议员安德鲁·古纳德斯（Andrew Gounardes）向TechCrunch透露，他特意将RAISE法案设计为“不会抑制初创企业或学术界的创新活力”——这正是SB 1047最受诟病之处。“随着技术飞速发展，我们建立安全护栏的时间窗口正在急速关闭，”古纳德斯参议员强调，“最了解AI的专家们都认为这些风险极可能发生……这令人警醒。”
目前法案已提交纽约州长凯西·霍楚（Kathy Hochul）签署，她可以选择批准立法、要求修订或直接否决。若生效，这项法案将要求全球顶级AI实验室公布其前沿模型的详细安全评估报告，并强制上报安全事故（如AI模型异常行为或遭恶意窃取）。违规企业将面临纽约州总检察长最高3000万美元的民事处罚。
值得注意的是，RAISE法案管辖范围精准锁定头部企业——无论其总部在加州（如OpenAI和谷歌）还是中国（如深度求索和阿里巴巴）。透明度要求仅适用于计算资源训练成本超1亿美元（远超当前任何AI模型水平）且向纽约州居民提供服务的企业。参与草案制定的Encode公司副总裁内森·卡尔文（Nathan Calvin）指出，RAISE法案特别删除了此前争议条款：既未强制要求AI模型设置“紧急停止开关”，也未追究后续调校企业的连带责任。
但据法案另一位联合提案人、州议员亚历克斯·博雷斯（Alex Bores）透露，硅谷已对该法案展开激烈游说。博雷斯称这种抵制“意料之中”，但强调法案“不会以任何形式限制技术创新”。风投机构Andreessen Horowitz（安德森·霍洛维茨）普通合伙人安杰尼·米达（Anjney Midha）在社交平台X上抨击该法案“愚蠢至极”，称其“将在竞争对手突飞猛进之际拖累美国”。该机构与创业孵化器Y Combinator（YC）曾是SB 1047最强烈的反对者。
专注于AI安全的Anthropic公司本月曾呼吁制定联邦透明度标准，但其联合创始人杰克·克拉克（Jack Clark）表示尚未对RAISE法案形成官方立场。他在X平台发文指出，法案过于宽泛的适用范围可能危及“小型企业”。对此古纳德斯参议员回应称批评“偏离重点”，强调法案设计时已豁免中小企业。截至发稿，OpenAI、谷歌和Meta（元宇宙平台公司）均未回应置评请求。
另一常见质疑是AI开发商可能因此停止在纽约州提供最先进模型——类似情况已在监管严格的欧洲上演。但博雷斯议员指出，考虑到纽约州GDP全美第三的地位，加上RAISE法案监管负担相对较轻，“没有企业会轻言退出”。“虽然不能低估政治博弈的可能性，”他补充道，“但我确信（AI公司）没有任何经济理由放弃纽约市场。”
