2023-10-18 | 김성태 기자

微软推出"Azure AI内容安全"…由AI分析内容有害性

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

微软(MS)18日表示,为利用人工智能(AI)提供安全的内容使用环境,已推出“Azure AI 内容安全”。

“Azure AI 内容安全”使用高级语言模型和视觉模型,检测仇恨或暴力等潜在有害内容,并以分数形式计算其严重程度。企业和机构可通过分数屏蔽有害内容或显示相关信息。

“Azure AI 内容安全”支持依据客户使用目的和场景进行细分的审核功能。例如,以游戏为重点的平台在制作学生教育用内容时,可对暴力性、有害性的语言表达水平作不同设定。

“Azure AI 内容安全”是可独立运行的系统,也可应用于开源模型及其他公司模型生成的AI内容。

将“负责任的AI技术开发”作为核心原则的微软,还将通过对多模态(复合信息处理)模型的持续研究,强化对可能引发不适的图像、文本等创作物的检测功能。

微软AI平台业务企业副总裁埃里克·博伊德表示:“微软期待通过Azure AI 内容安全,为具有更加多样业务需求的客户提供更安全的生成式AI使用环境。”

阅读韩文原文