突破人工智能瓶颈！三星电子展示最新解决方案

　　三星和SK海力士参加了OCP全球峰会，三星专注于开发第八代HBM5，并与AMD合作开发内存扩展解决方案;而SK海力士展示了一个提高服务器效率的系统，并强调以内存和固态硬盘为中心的重新设计。

　　三星电子致力于通过利用新一代高带宽内存(HBM)、计算快速连接(CXL)和高性能存储技术，同时克服人工智能(AI)基础设施在处理速度和内存容量方面的限制。

　　通过HBM5和定制HBM提升计算效率，并加强与AMD等全球合作伙伴在内存扩展和系统优化方面的合作，从而增强其在整个AI内存和存储领域的竞争力。

　　SK海力士也发布了系统设计方案，将内存置于AI机架系统的核心位置，解决AI蓬勃发展带来的内存短缺问题。

重点关注速度、内存扩展和持久性

　　三星电子半导体事业部存储器业务部AE团队高级副总裁Sim Ho-jun提出了三个关键技术方向——速度、内存可扩展性和数据持久性，应对人工智能模型的扩展和推理数据的增加。

　　在人工智能推理过程中，待处理的数据量和键值缓存容量都会迅速增长，仅靠扩展现有内存带宽来提升人工智能系统的性能是有限的。

　　因此，除了提升数据处理速度外，同时扩展内存容量并提高大规模数据的存储和管理效率至关重要。

　　三星电子正致力于开发下一代技术，例如HBM5(第八代)、定制HBM、zHBM(将内存堆叠在计算芯片之上)以及PIM(在内存中执行部分计算)。

　　该战略利用基于CXL的扩展技术来克服内存容量限制，并通过下一代SSD提高存储和管理大规模人工智能数据的效率。

　　与全球人工智能半导体公司的合作也正在逐步成形。在本次活动中，三星电子与AMD联合展示了一种基于CXL的内存扩展解决方案。

　　该方案利用“内存池化”技术，使多个系统共享内存资源，从而解决人工智能推理过程中内存需求激增的问题。

　　三星电子还展示了NVIDIA的GROC 3 LPX系统、GROC的语言处理器单元(LPU)晶圆以及三星电子的2nm环栅(GAA)晶圆，展示了在存储和晶圆代工领域开展技术合作的实例。

　　三星电子和AMD近期不断拓展合作领域，包括双方高管举行会晤。

　　AMD首席执行官苏姿丰于7日访问韩国，并与三星电子DS事业部负责人全英贤会面，探讨人工智能半导体领域的合作计划。

最大限度提高内存效率

　　SK海力士展示了以内存为中心的系统架构，以提高AI服务器的效率。

　　SK海力士副总裁金浩植表示：“现在是讨论以内存为中心的机架系统的合适时机，计算系统必须围绕解耦式内存和SSD系统进行重新设计”。

　　迈入推理智能体时代，快速且经济高效的计算变得至关重要，这引发了人工智能行业通过服务器机架配置提升效率的竞争。

　　然而，生成式人工智能和数据中心的爆炸式增长导致以CPU和GPU为中心的服务器出现严重瓶颈，进而造成能耗激增。

　　SK海力士已调整服务器制造策略，最大限度地提高内存效率。

　　人工智能领域的内存需求正在快速增长，但GPU内存——特别是HBM面临着物理和经济上的双重制约。

　　为了实现下一代人工智能的性能，我们必须从根本上重新审视数据存储、访问和共享的方式。