基础科学研究院(IBS)着手对人工智能(AI)聊天机器人进行伦理性验证,以解决网络仇恨问题。
IBS数理及计算科学研究团数据科学组26日表示,已与运营AI聊天机器人“Simsimi”的“Simsimi”公司签署业务协议(MOU)。
双方为解决近来成为社会问题的网络仇恨表达而携手。通过此次业务协议,双方约定通过分析人工智能与人互动的模式,推动科学家与企业在解决网络仇恨方面的合作。
Simsimi参与了由韩国科学技术情报通信部主管的“AI学习用数据构建项目”,协助进行伦理性验证。其目前尤其致力于对话脚本、叙述型文本等文本相关的伦理性验证及不道德文本结构的揭示。
IBS数据科学组计划在此过程中开发基于机器学习及AI、用于检测在线数据中仇恨表达的分析工具。
Simsimi代表崔正会表示:“AI聊天机器人在全球范围内一直面临伦理性问题”,“期待与IBS优秀的数据科学家共同得出科学的解决方案,实现AI聊天机器人的可持续发展”。
领导数据科学组的车美英首席研究员(Chief Investigator,KAIST计算机学院教授)表示:“Simsimi是基于约1.4亿对对话脚本数据构建的生动对话平台”,“Simsimi将成为开发检测在线数据中仇恨表达的人工智能的最佳工具”。






