加利福尼亚州总检察长罗布·邦塔（Rob Bonta）与特拉华州总检察长凯西·詹宁斯（Kathy Jennings）日前会面并联合向OpenAI发出公开信，对ChatGPT的安全性——尤其是对儿童和青少年的潜在风险——表示严重关切。
此次警告发布一周前，邦塔与其他44位州总检察长刚向12家顶尖人工智能公司致函。此举源于多起关于人工智能聊天机器人与未成年人发生性暗示不当互动的报告。
“自发出联名信后，我们获悉一起令人心碎的悲剧：一名加州青少年在与OpenAI聊天机器人进行长时间交互后自杀身亡，康涅狄格州也发生了类似的谋杀后自杀案件，”两位总检察长在信中写道，“无论此前采取何种安全措施，显然都未能奏效。”
两位官员目前正在调查OpenAI从非营利组织转型为营利实体的重组计划，旨在确保其非营利使命不受损害。该使命包括“确保人工智能安全部署”以及构建造福全人类（含儿童）的通用人工智能（AGI）。
“在实现造福人类之前，我们必须先确保建立充分的安全防护措施，”信中强调，“我们共同认为，OpenAI乃至整个行业在确保人工智能产品开发与部署安全方面都未达到应有标准。作为总检察长，公共安全是我们的核心使命。在继续就OpenAI资本重组计划进行对话的同时，我们必须加速强化安全规范，使其成为这项强大技术未来发展的主导力量。”
邦塔和詹宁斯要求OpenAI提供更多关于当前安全措施与治理结构的信息，并明确表示期望该公司立即采取适当的补救措施。
OpenAI董事会主席布雷特·泰勒（Bret Taylor）通过声明回应：“我们对这些悲剧深感痛心，并向遇难者家属致以最深切慰问。安全是我们的最高优先事项，我们正与全球政策制定者紧密合作。”
OpenAI表示正在通过家长控制功能加强青少年保护机制，当系统检测到未成年人处于急性心理危机时，将向父母发送预警通知。
