谷歌更新AI应用指导方针：需防止生成受限内容

6 月 7 日，谷歌更新了其针对 AI 类应用程序的指导方针。新政策要求提供生成式 AI 功能的应用必须防止生成受限制的内容，包括色情内容、暴力等，并对应用的 AI 模型进行“严格测试”。这些规则适用于多种应用程序，如以文本、语音和图像提示输入的任何组合，经由生成式 AI 产生内容的 App；聊天机器人类、图像生成类（文生图、音生图、图生图）、语音及视频生成类 App；以及不仅仅承载 AI 内容的 App 或将 AI 用作生产力工具的 App。

谷歌 Play 明确，AI 生成的违规内容包括但不限于以下案例：人工智能生成的未经同意的深度伪造性材料；为诈骗提供便利的真人语音或视频记录；鼓励有害行为（如危险活动、自我伤害）的内容；助长欺凌和骚扰行为而生成的内容；主要满足“性需求”的内容；使不诚实行为成为可能的 AI 生成“官方”文件；创建恶意代码等。未来，谷歌还将增加新的应用上架功能，以使向商店提交生成式 AI 应用变得更加公开透明和简单化。

谷歌表示，此举是为了减少“不适当的”和“被禁止的内容”，并保护用户免受潜在威胁。然而，一些开发者可能会面临挑战，在遵守政策的同时提供吸引力十足且有创意的应用程序。因此，未来仍然需要在技术与社会规范之间寻找平衡点，并制定更加细致入微的规定来保障用户安全和隐私权益。

另外，在新闻报道方面，此次更新也引发了业内人士的关注。一些专家认为，谷歌采取这一举措是朝着更智能化、更高效的方向发展，同时也为其他科技公司带来了示范作用。但也有一些人担心，过分强调技术安全性可能会限制创新空间，并给普通用户带来不必要的麻烦。

总体而言，这次政策更新标志着人工智能进入了一个新阶段，在保证数据安全性的同时追求更高水平的人工智能服务。但值得注意的是，在推动技术进步的同时，我们需要关注社会伦理道德问题，避免出现滥用人工智能技术带来负面影响的情况发生。