Samsung Electronics在全球率先开发的HBM-PIM(Processing in Memory)是将人工智能(AI)引擎搭载于内存之中、使数据存储与运算同时得以实现的下一代融合技术。此前,为提升图像分类、语音识别、机器翻译等多个领域的AI系统性能,业界一直要求提高内存性能,而HBM-PIM的开发突破了既有局限,诞生了效率进一步增强的内存解决方案。
Samsung Electronics17日公开的HBM-PIM,是在用于超级计算机(HPC)和AI等超高速数据分析的HBM2 Aquabolt上应用了AI引擎。Samsung Electronics自2018年1月起量产第二代高带宽内存半导体HBM2 Aquabolt。搭载于HBM的PIM是一项新概念融合技术,在内存内部增加了运算作业所需的处理器功能。
在内存半导体上搭载AI引擎的HBM-PIM,其意义在于打破了内存半导体功能仅限于数据存储的局限。此前大多数计算机中,中央处理器(CPU)从内存调取并执行指令、再将结果存回内存的作业,都是通过一条通道顺序进行的。在此过程中,CPU与内存之间往来的数据一旦增多,作业处理就会相应变慢。
Samsung Electronics为解决这种“瓶颈现象”,采用了可在内存内部同时进行运算与并行处理的PIM,在HBM上搭载了AI引擎。由此,数据运算可在内存区域内完成,CPU与内存之间的数据移动被降至最低。与既有HBM2相比性能提高两倍以上、系统能耗减少70%以上,也得益于PIM架构。
此外,它完全支持既有HBM接口,使用HBM的客户无需变更硬件或软件即可构建强大的AI加速器系统,这也是一大优势。
Samsung Electronics期待HBM-PIM成为契合AI业界需求的新型内存解决方案。Samsung Electronics内存事业部商品规划组组长、常务朴光一表示:“HBM-PIM是业界首个可最大化AI加速器性能的AI定制型PIM解决方案,Samsung Electronics将持续加强与客户企业的合作,构建PIM生态系统。”美国阿贡国家实验室计算、环境与生命科学(CELS)研究室主任里克·史蒂文斯也高度评价了Samsung Electronics的创新技术,称“HBM-PIM在AI应用的性能和能效方面取得了惊人成果”,“为评估HBM-PIM系统,期待今后继续与Samsung Electronics合作”。
Samsung Electronics计划与客户企业加强合作,推进PIM平台的标准化和生态系统建设。
/全熙润 记者 heeyoun@sedaily.com






