进入正文

三星首创CMM-D技术引领AI时代

  • 邮件
基于 CXL 的三星 DRAM 内存模块 (CMM-D)
基于 CXL 的三星 DRAM 内存模块 (CMM-D)

对内存密度和带宽的无限需求正在挑战现有内存技术的极限。传统的DRAM设计限制了内存容量超出一定范围的扩展,因此需要全新的内存接口技术。 此外,人工智能和大数据的兴起推动了异构计算的趋势,即不同类型的多个处理器并行工作以处理海量数据。

2021年5月,三星宣布开发出首个基于计算快速链接(CXL)的DRAM内存模块(CMM-D)。 2022年5月,三星推出了下一代CMM-D 2.0,支持业界首个512GB内存模块,以及高带宽和低延迟。 这是CXL技术商业化和实际应用中的关键一步。 

 

什么是CMM-D?

CMM-D的核心是三星的DRAM技术,其结合了由CXL联盟开发的CXL开放标准接口。 CXL是一种基于PCIe物理层的高速、低延迟的CPU到设备互连技术。 CXL提供主机CPU与连接设备(如加速器和内存扩展设备)连接设备之间的高效连接。 CXL事务层由三个在单个链路上动态复用的子协议组成。 这些协议是CXL.io、CXL.cache和CXL.mem。 当CXL设备连接到CXL主机时,它会通过CXL.io协议被发现、枚举、配置和管理。 CXL.cache使CXL设备能够访问处理器内存,而CXL.mem使处理器能够访问CXL设备内存。 CXL.cache和CXL.mem协议栈已专门针对低延迟进行了优化。 

 

CMM-D的功能和优势  

传统上,在系统中添加内存容量和带宽通常需要增加本机CPU内存通道的数量。 然而,在CPU中添加内存通道会提高工程的复杂性并增加成本。 CXL Type 3内存扩展设备提供了灵活而强大的选项,可以扩展内存容量并提高内存带宽,而无需增加主机CPU内存通道的数量。

CMM-D是CXL Type 3设备,提供以下内存扩展功能和优势。 

 

CMM-D内存一致性  

CXL的一个重要特性是在直接连接的CPU内存和CXL设备内存之间保持内存一致性,这意味着主机和CXL设备可以无缝共享相同的数据。 CXL主机有一个作为管理器的主代理,它使用CXL.cache和CXL.mem事务来一致地访问所连接的内存。 这使得CXL主机和CXL设备能够处理共享数据,并保证它们看到内存位置的相同副本。 主代理不允许数据同时被更改,因此无论是由主机还是连接设备对数据进行更改,主代理都会确保数据的所有副本保持一致。 

 

CMM-D存储介质类型  

CXL的另一个主要特性是它不受底层内存技术限制,因为它允许通过CXL接口将各种类型的内存连接到主机上。 此外,CXL.mem事务是可以按字节寻址的加载/存储事务,就像DDR内存一样。 因此,连接的CXL内存对于最终应用程序来说看起来就像主内存。 

 

CMM-D内存池化与切换  

CXL 2.0规范还支持单级切换和内存池化。内存池化通过支持内存资源的动态分配和释放,从而提高整体系统效率。 内存池化还可以减少服务器系统中常见的内存搁浅问题。