微软起诉一组织非法入侵其 AI 服务，绕过安全防护生成有害内容

admin

IT之家 1 月 12 日消息，据 TechCrunch 报道，微软公司已对一组织提起法律诉讼，指控其故意开发并使用工具绕过微软云 AI 产品的安全防护措施，非法访问并生成有害内容。该诉讼于 2024 年 12 月由微软向美国弗吉尼亚东区联邦地区法院提交，涉及 10 名未具名的被告。

根据诉讼文件，微软指控这些被告通过使用窃取的客户凭证和定制软件，非法入侵了 Azure OpenAI 服务。Azure OpenAI 是微软基于 OpenAI 技术开发的全托管服务，提供包括 ChatGPT 在内的多种 AI 模型。微软称，被告违反了《计算机欺诈和滥用法》《数字千年版权法》以及联邦反敲诈勒索法，利用其软件和服务器生成“攻击性、有害且非法”的内容。微软并未提供这些内容的具体细节。
微软在诉讼中表示，公司于 2024 年 7 月发现，部分 Azure OpenAI 服务的客户凭证（特别是 API 密钥，即用于验证应用程序或用户的唯一字符串）被用于生成违反服务使用政策的内容。经过调查，微软确认这些 API 密钥是从付费客户处窃取的。微软指出，被告通过系统性的 API 密钥盗窃行为，从多个客户处获取了密钥，并利用这些密钥实施非法活动。
据微软指控，被告利用窃取的 API 密钥创建了一种“黑客即服务”模式，并开发了一款名为“de3u”的客户端工具。该工具允许用户利用被盗的 API 密钥，无需编写代码即可通过 DALL-E 模型生成图像，同时试图绕过 Azure OpenAI 服务的内容过滤机制。例如，当用户输入的文本提示包含触发内容过滤的词汇时，de3u 会阻止服务修改提示内容，从而生成可能有害的图像。
微软还提到，被告通过非法编程访问 Azure OpenAI 服务，逆向工程了微软的内容和滥用防护措施，导致服务遭受损失。目前，托管在 GitHub（微软旗下公司）上的 de3u 项目代码库已无法访问。
IT之家注意到，在周五发布的一篇博客文章中，微软表示，法院已授权其查封一个对被告运营“至关重要”的网站，以便收集证据、分析其盈利模式，并破坏其技术基础设施。微软还表示，已针对观察到的非法活动采取了“反制措施”，并在 Azure OpenAI 服务中增加了额外的安全防护机制，但未透露具体细节。
广告声明：文内含有的对外跳转链接（包括不限于超链接、二维码、口令等形式），用于传递更多信息，节省甄选时间，结果仅供参考，IT之家所有文章均包含本声明。