三星开发具有AI处理能力的业界首款高带宽内存

全球先进存储技术的领导者三星电子今天宣布，它已开发出业界首款集成了人工智能（AI）处理能力的HBM-PIM高带宽存储器（HBM）。新的内存处理（PIM）架构在高性能内存中引入了强大的AI计算功能，以加速数据中心，高性能计算（HPC）系统和支持AI的移动应用程序中的大规模处理。

三星电子存储器产品计划高级副总裁Kwangil Park表示：“我们开创性的HBM-PIM是业内首个针对各种AI驱动的工作负载而量身定制的可编程PIM解决方案，例如HPC，培训和推理。我们计划通过与AI解决方案提供商进一步合作以开发更高级的PIM驱动的应用程序，来进一步突破这一突破。”

Argonne计算，环境和生命科学副实验室主任Rick Stevens评论说：“我很高兴看到三星正在解决HPC和AI计算的内存带宽/功耗挑战。 HBM-PIM设计在重要的AI应用类别中已展示出令人印象深刻的性能和功率增益，因此我们期待着共同努力，以评估Argonne国家实验室感兴趣的其他问题的性能。”

当今大多数计算系统都基于冯·诺依曼体系结构，该体系结构使用独立的处理器和内存单元来执行数百万种复杂的数据处理任务。这种顺序处理方法要求数据不断地来回移动，从而导致系统缓慢的瓶颈，尤其是在处理不断增长的数据量时。

相反，HBM-PIM通过将DRAM优化的AI引擎放置在每个存储库（一个存储子单元）内，将处理能力直接带到存储数据的位置，从而实现并行处理并最大程度地减少数据移动。当应用于三星现有的HBM2 Aquabolt解决方案时，新架构能够提供两倍于系统的性能，同时将能耗降低70％以上。 HBM-PIM也不需要任何硬件或软件更改，从而可以更快地集成到现有系统中。

三星在HBM-PIM上的论文已被选中在2月22日举行的著名国际固态电路虚拟会议（ISSCC）上进行演示。三星的HBM-PIM现在正由领先的AI解决方案合作伙伴在AI加速器中进行测试，所有验证预计将在今年上半年完成。

※三星新闻室发布的新闻稿中随附的所有图像也可以从三星新闻室的媒体库中获得。