在“人工智能(AI)首尔峰会”推动下,各国政府对AI的监管预计将全面展开,国内外科技企业正为制定自救措施而费尽心力。在主要国家就应对仇恨与偏见学习、假新闻生成与幻觉、著作权与个人信息侵权、深度伪造等副作用或滥用隐忧、开发“安全AI”达成共识之际,企业也必须在应对相关监管的同时推进技术开发、抢占市场。
据业界21日消息,KT近期启动了史上首次AI治理(决策体系)专职人员招聘。即评估与管理AI技术的安全性、制定相关政策等,将此前由KT经济经营研究所或研发(R&D)组织兼任的业务专业化。KT将把相关人员纳入近期新设的AI治理组织“负责任AI中心(RAIC)”,并正式运营该组织。
NAVER集团今年新设了直属首席执行官的“未来AI中心”,Kakao集团也任命了首席AI负责人(CAIO)。SK电讯也在运营“AI治理工作组(TF)”。
全球大型科技公司也在进一步加强确保AI安全性的努力。作为谷歌AI业务中枢的DeepMind于17日(当地时间)公开了可提前察觉未来AI威胁并作出适当应对的“前沿安全框架(开发方式)”。该公司计划在明年初前引入这一开发方式,围绕自主性、生物安全、网络安全、机器学习等对AI威胁尤为敏感的4个领域评估风险水平,并将技术控制在一定水平之内。
Anthropic也于20日(当地时间)表示,将把设定并管理4个阶段“AI安全等级(ASL)”的框架加以升级,不久后予以公开,并正在招募相关的“风险管理者”人员。同日,Meta与亚马逊加入了为合作确保AI安全性而设立的大型科技公司非营利组织“前沿模型论坛”。此前,亚马逊于2月加入美国国家标准与技术研究院(NIST)下属“AI安全研究所”联盟,开始技术支持等合作。微软本月首次公开了今后每年将发布的“透明度报告”,介绍了去年公司在扩大负责任AI组织、引入水印以防AI生成图像被滥用、运营安全性测试组织红队等方面的努力。
全球通行的AI监管与本国企业的竞争力直接相关,因此各国正为争夺主导权展开竞争。英国前一天在大型科技公司摇篮美国旧金山开设了“AI安全研究所”首个海外办事处,谋求扩大作用。法国将在韩国之后于明年初举办“AI峰会”。继欧盟(EU)之后,美国、日本、韩国也在推动AI相关立法。






