微软发布人工智能透明度报告 未来发展可期

近日，微软公司发布了最新的透明度报告，概述了2023年采取的措施，以负责任地发布生成式产品。根据报告显示，微软于2023年7月签署自愿协议，承诺每年定期公布人工智能透明度报告。

在《负责任的人工智能透明度报告》中，微软介绍了在安全部署人工智能产品方面的成就。这包括创建了30个负责任的人工智能工具，并扩大了负责任的人工智能团队。同时，在开发生成式人工智能应用程序的过程中，要求整个团队测量和绘制风险。

该公司还指出，在其图像生成平台中添加了内容凭证，并将其标记为由人工智能模型制作。此外，Azure AI客户可以使用检测仇恨言论、性内容和自残等问题内容的工具，以及评估安全风险的工具。

微软还正在扩大其红队（渗透测试团队）工作。这包括内部红队尝试绕过其人工智能模型中的安全功能，并且已经开发了红队应用程序，以允许在发布新模型之前进行第三方测试。

此次发布的报告展示了微软公司在建立负责任的人工智能系统方面所做出的努力。未来，我们可以期待微软继续致力于推动健康、安全的人工智能发展的愿景。