National Intelligence Service29日公开了《ChatGPT等生成式人工智能(AI)使用安全指南》,旨在事先预防与ChatGPT相关的安全问题。
该指南按阶段说明了从接入生成式AI技术服务到提问、使用生成结果等全过程应遵守的安全准则。同时以ChatGPT案例为中心,介绍了海外动向、安全威胁案例、国家及公共机构信息化项目建设方案和安全对策等,以贴近机构负责人和普通国民的理解水平。
国家情报院提出了安全使用生成式AI技术的必备安全守则:△禁止输入非公开信息、个人信息等敏感信息;△对生成物的准确性、伦理性、适合性等进行再验证;△使用生成物时确认是否侵犯或违反知识产权、著作权等法律;△使用关联及扩展程序时确认是否存在安全漏洞等安全性;△强化登录账户的安全设置等。
国家情报院计划除国家公共机构和地方政府外,还与教育部合作,将本次安全指南分发至韩国国内420余所国立、公立、私立大学等。该指南也可在国家情报院国家网络安全中心网站上查阅。
此前,随着ChatGPT等生成式AI技术使用过程中出现个人信息泄露、生成假新闻等技术滥用担忧,国家情报院于今年4月与国家安全技术研究所及学界专家共同着手制定本次安全指南。本月9日还举行了“国家网络安全官民协议体会议”,听取相关领域产学研专家意见。
国家情报院有关人士表示:“随着ChatGPT等受到关注,多家公共机构希望运用该技术,但由于缺乏政府层面的安全对策,技术引入较为困难”,“我们将持续努力,使AI等IT新技术在包括公共领域在内的韩国全境得到安全使用。”






