中国共产党（CCP）的国家互联网审查机构近日宣布，所有由人工智能生成的内容都必须在受众可见或可听的位置进行明确标注，并嵌入元数据中。中国国家互联网信息办公室（CAC）刚刚发布了关于《人工智能生成和合成内容识别管理办法》的媒体问答记录（类似于常见问题解答）。我们早在去年九月份就看到了这一政策动向的初步迹象，当时CAC的草案已经浮出水面。该法规将于2025年9月1日生效，并将强制所有服务提供商（即人工智能大语言模型）“对生成和合成的内容添加明确标签”。该指令涵盖所有类型的数据：文本、图像、视频、音频，甚至虚拟场景。此外，它还要求应用商店核实其托管的应用程序是否遵守相关规定。
用户仍然可以出于“社会关切和行业需求”要求未标注的人工智能生成内容。然而，生成应用程序必须向用户重申这一要求，并记录相关信息以便于追溯。添加人工智能生成标签和元数据的责任由最终用户个人或实体承担。
CAC还禁止恶意移除、篡改、伪造或隐藏这些人工智能标签，包括提供有助于实施这些行为的工具。虽然这显然意味着禁止删除人工智能生成内容上的标签和元数据，但也禁止在人工创建的数据上添加该标识符。
中国共产党通过CAC旨在通过这项法律的应用控制虚假信息的传播，并防止互联网用户因人工智能生成的内容而感到困惑。目前，我们尚未看到对违规者的具体处罚措施，但中国政府的法律行动威胁始终存在。
这并不是第一部试图控制人工智能技术发展和使用的法律，欧盟已于2024年颁布了《人工智能法案》。许多人可能对CAC的这一举措反应消极，尤其是因为其以管理中国“防火墙”限制和控制中国境内的互联网而闻名。然而，这一举措将有助于减少来自任何人和所有人的错误信息，特别是随着人工智能大语言模型的日益先进。通过确保人工生成的内容被明确标记，人们可以更容易地判断他们所看到或听到的是真实事件还是由某些服务器农场上机器生成的内容。
