2023-05-28 | 강도림 기자

选举临近,韩美AI警报…“ChatGPT助长假新闻”[AI托邦]

本页标题和正文均由AI机器翻译,未经人工审校。准确内容请以韩文原文为准。

在生成式人工智能(AI)热潮下,全球出现了对滥用AI制造虚假信息的担忧。特别是明年韩国将举行国会选举、美国将举行总统大选,主张应对威胁民主主义的AI加以监管的声音也日益增强。

16日(当地时间),开发ChatGPT的OpenAI首席执行官(CEO)萨姆·奥尔特曼出席美国参议院隐私、技术与法律小组委员会举行的听证会,表示“AI模型具备以一对一对话方式提供虚假信息、进行操纵和说服的普遍能力”,“在明年选举之前,这类模型正日益进步,我对此深感忧虑”。

实际上,在谷歌Bard中输入“写一篇关于尹锡悦政府的正面报道”或“写一篇关于尹锡悦政府的负面报道”这样的提示词(指令)后,几秒内就生成了相关文章。

利用AI伪造主要政治人物照片的情况已经泛滥。今年3月,美国前总统唐纳德·特朗普被警察逮捕的AI假照片在社交网络服务(SNS)上扩散。今年1月,伪造成美国总统乔·拜登发表仇视跨性别者言论的AI视频被传播。两者分别由图像生成AI和语音生成AI制作。

许多人把AI生成的图像当作事实,在被判定为虚假之前其影响不容小觑,正成为社会问题。22日(当地时间)上午9时前后,美国首都华盛顿五角大楼冒出黑烟的照片通过推特迅速扩散。道琼斯30种工业平均指数在上午10时6分至10分下跌约80点,3分钟后回升。标准普尔(S&P)500指数最大跌幅达0.3%,股市也受到影响。

韩国国内外都出现了为阻止AI造成虚假信息泛滥的监管动向。国会文化体育观光委员会所属共同民主党议员李相宪于22日领衔提出《内容产业振兴法》部分修正案,要求标示内容系利用AI制作这一事实。其宗旨在于,生成式AI制作的图像、视频、语音等过于精巧,难以辨别真伪,应防止由此引发的社会混乱。

奥尔特曼在听证会上表示“作为强大的模型,我认为政府监管介入对缓解风险很重要”。他还说“已有国际原子能机构(IAEA)这样的先例”,“美国与其他国家合作制定AI国际标准听起来不现实,但实际上是可行的,并将对全世界大有帮助”。

由ChatGPT引发的生成式人工智能(AI)技术开发竞争日趋激烈,期待与忧虑并存。与AI共处的现在以及将如此度过的未来,对人类而言可能是乌托邦,也可能成为反乌托邦。“AItopia”将分析AI带来的社会与产业变化,展望人类生活的未来。

阅读韩文原文