微软对一个团体采取了法律行动，该团体被指控故意开发并使用工具来绕过微软云AI产品的安全防护。
据微软2024年12月在美国弗吉尼亚东区地方法院提交的诉状，一个由10名未具名被告组成的团体涉嫌利用被盗客户凭证和专门设计的软件入侵Azure OpenAI服务。Azure OpenAI服务是微软完全托管的服务，由ChatGPT制造商OpenAI的技术驱动。
诉状中，微软指控这些被告违反了《计算机欺诈和滥用法案》《数字千年版权法》以及一项联邦勒索法，非法访问和使用微软的软件和服务器，目的是创建“冒犯性”以及“有害和非法的内容”。不过，微软并未提供关于生成的滥用内容的具体细节。
诉状显示，微软在2024年7月发现，一些拥有Azure OpenAI服务凭证，特别是API密钥的客户，其凭证被用于生成违反服务可接受使用政策的内容。API密钥是用于验证应用程序或用户身份的独特字符序列。随后的调查发现，这些API密钥是从付费客户那里被盗的。
诉状中提到，“被告获取用于实施不当行为的所有API密钥的确切方式未知，但看来被告从事了一种系统性API密钥盗窃模式，使他们能够从多个微软客户那里窃取微软API密钥。”
微软声称，被告使用属于美国客户的被盗Azure OpenAI服务API密钥，创建了一个“黑客即服务”的计划。为了实施这一计划，被告创建了一个名为de3u的客户端工具，以及用于处理和路由de3u与微软系统之间通信的软件。
据微软称，de3u允许用户利用被盗API密钥生成图像，使用DALL-E，这是Azure OpenAI服务客户可使用的OpenAI模型之一，而无需编写自己的代码。de3u还试图阻止Azure OpenAI服务修改用于生成图像的提示，例如，当文本提示包含触发微软内容过滤的词汇时，这种情况就可能发生。
截至发稿时，托管在微软旗下的GitHub上的包含de3u项目代码的仓库已无法访问。
诉状中还提到，“这些功能，加上被告对Azure OpenAI服务的非法程序化API访问，使被告能够逆向工程出绕过微软内容和滥用措施的手段。被告明知故犯且故意未经授权访问Azure OpenAI服务受保护的计算机，因此导致了损害和损失。”
在上周五发布的一篇博客文章中，微软表示法院已授权其查封对被告运营“至关重要”的一个网站。这将使公司能够收集证据，弄清楚被告所谓服务的货币化方式，并破坏其发现的任何其他技术基础设施。
微软还表示，其已“采取了对策”，并“为Azure OpenAI服务增加了额外的安全缓解措施”，针对其观察到的活动，但公司未具体说明这些对策是什么。
