微软(MS)18日表示,为利用人工智能(AI)提供安全的内容使用环境,已推出“Azure AI 内容安全”。
“Azure AI 内容安全”使用高级语言模型和视觉模型,检测仇恨或暴力等潜在有害内容,并以分数形式计算其严重程度。企业和机构可通过分数屏蔽有害内容或显示相关信息。
“Azure AI 内容安全”支持依据客户使用目的和场景进行细分的审核功能。例如,以游戏为重点的平台在制作学生教育用内容时,可对暴力性、有害性的语言表达水平作不同设定。
“Azure AI 内容安全”是可独立运行的系统,也可应用于开源模型及其他公司模型生成的AI内容。
将“负责任的AI技术开发”作为核心原则的微软,还将通过对多模态(复合信息处理)模型的持续研究,强化对可能引发不适的图像、文本等创作物的检测功能。
微软AI平台业务企业副总裁埃里克·博伊德表示:“微软期待通过Azure AI 内容安全,为具有更加多样业务需求的客户提供更安全的生成式AI使用环境。”






