2024-11-27 | 김윤수 기자

应对全球AI监管……安全研究所成立

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

为应对全球人工智能(AI)监管、支持国内企业走向海外,并防范假新闻(虚假信息)和深度伪造等技术滥用,韩国首个国家级AI安全研究所正式成立。

韩国科学技术情报通信部27日表示,当天在京畿道城南市板桥全球研发(R&D)中心举行了“AI安全研究所”开所仪式。科学技术信息通信部科学技术创新本部长柳光俊、国家AI委员会副委员长廉载镐、AI安全研究所所长金明柱等政府人士,以及KT首席技术官(CTO)吴承弼、韩国科学技术院(KAIST)AI研究院院长吴慧连、韩国电子通信研究院(ETRI)院长方承灿等产学研相关人士40余人出席。

AI安全研究所是隶属于ETRI的AI安全研究专职机构,负责防止AI技术被滥用并研究相关监管动向。随着假新闻、深度伪造、幻觉、侵犯个人信息等生成式AI的负面案例增多,主要国家正加强AI监管。由于AI服务面向全球用户,相关监管也很可能在全球通行。因此英国等国在政府层面设立AI安全研究所,支持本国AI企业提前应对监管。

AI安全研究所所长金明柱表示:“我们将评估AI应用可能带来的各类风险,开发并推广预防和最小化这些风险的政策与技术,并加强国内外合作。”他还表示:“研究所并非监管机构性质,而将作为协作机构,支持国内AI企业把妨碍其获得全球竞争力的风险因素降到最低。”

当天,AI安全研究所与三星集团、NAVER集团、Kakao集团、SK电讯、KT、LG AI研究院、Konan Technology、Wrtn Technologies、42Maru、Liner等24家产学研机构签署了组建“大韩民国AI安全联盟”的业务协议(MOU),并决定就政策研究与技术合作等具体化协作方案。

科学技术信息通信部长官俞尚任表示:“美国、英国、日本、新加坡、加拿大等主要国家均已设立AI安全研究所,前所未有地敏捷且系统化的国际AI安全合作体系正在形成。”他还表示:“我们将以AI安全研究所为中心汇聚产学研研究能力,尽快确保AI安全方面的技术与政策能力。”

阅读韩文原文