微软宣布正式发布其Azure AI Content Safety，这是一项新服务，可帮助用户跨应用程序和服务检测和筛选有害的人工智能和用户生成的内容。
该服务包括文本和图像检测，并识别微软“冒犯性、危险或不受欢迎的”术语的内容。
“通过关注内容安全，我们可以创建一个更安全的数字环境，促进负责任地使用人工智能，并保护个人和整个社会的福祉，”Azure 异常检测器产品经理 Louise Han 在宣布推出的博客文章中写道。Azure AI 内容安全能够处理各种内容类别、语言和威胁，以审核文本和视觉内容。它还提供使用人工智能算法扫描，分析和调节视觉内容的图像功能，确保微软所说的360度全面安全措施。
公司部署生成式人工智能的领域
该服务还配备了跨多种语言审核内容的功能，并使用严重性指标，该指标以 0 到 7 的等级指示特定内容的严重性。
0-1 级的内容被视为安全且适合所有受众，而表达偏见、评判或固执己见的观点的内容则分为 2-3 级或低级。
中等严重性内容分为 4-5 级，包含攻击性、侮辱性、嘲弄性、恐吓性语言或针对身份群体的露骨攻击，而高严重性内容的分级为 6-7。
Azure AI 内容安全还使用多类别筛选来识别和分类多个关键域中的有害内容，包括仇恨、暴力、自残和性内容。
“[当涉及到在线安全时]，考虑的不仅仅是人为生成的内容至关重要，尤其是在人工智能生成的内容变得普遍的情况下，”含写道。“确保人工智能生成的输出中的准确性、可靠性和不存在有害或不适当的材料至关重要。内容安全不仅可以保护用户免受错误信息和潜在伤害，还可以维护道德标准并建立对人工智能技术的信任。
