Dell PowerEdge 服务器和 VMware ESXi 上的英特尔高带宽内存 (HBM) 支持
摘要: 本知识库文章从 Dell PowerEdge 服务器和 VMware ESXi 的角度详细介绍了英特尔高带宽内存支持立场。
说明
戴尔支持基于英特尔至强 Max 系列处理器(94xx 系列处理器,以前代号为 Sapphire Rapids)的第 16 代 PowerEdge 服务器中的英特尔高带宽内存 (HBM)
戴尔在采用英特尔至强 Max (94xx) 处理器系列的 PowerEdge 服务器 R660、PowerEdge 服务器 R760 和 PowerEdge 服务器 C6620 上支持 HBM。在使用 HBM 之前,建议使用戴尔支持网站上针对上述平台发布的最新 BIOS。
HBM 支持多种内存模式,分别称为平面模式、HBM only 模式和缓存模式。本知识库文章详细介绍了每种模式及其在 VMware ESXi 上的显示方式。Dell PowerEdge 服务器上的平面模式和仅 HBM 模式支持 VMware ESXi,并且不支持高速缓存模式。VMware ESXi 8.0 Update 3 及更高版本支持上面列出的 Dell PowerEdge 服务器上的 HBM。
HBM 平面模式
在 HBM 平面模式下,HBM 内存和 DDR 内存共存并启用。平面模式将这两个节点作为两个不同的 NUMA(非统一内存访问)节点呈现给安装在服务器上的操作系统/虚拟机管理程序。下面是从 Dell PowerEdge R660 BIOS( 在内存设置下)截取的屏幕截图,指示在平面模式下配置 HBM。

在此模式下,操作系统/虚拟机管理程序会将 DDR 内存和 HBM 内存视为两个不同的 NUMA 节点。对于 ESXi,您可以使用 esxtop、 smbiosDump 和 vsish 等实用程序来查看报告的 HBM NUMA 节点。
当 HBM 配置为平面模式时,ESXi 上的 esxtop 实用程序会显示额外的 NUMA 节点,如下所述。下面屏幕截图中突出显示的表示基于 HBM 的 NUMA 节点(报告为 64 GB)。

ESXi 上的 smbiosDump 实用程序显示特定内存设备报告为 HBM,并且外形规格报告为芯片,表示它是封装在 CPU 芯片中的内存。您可能会看到每个处理器插槽将有四个内存设备(命名为 CPUX_HBMIOX)。这意味着在双插槽系统上,处理器插槽中总共会有八个这样的内存设备。SPM 代表 专用存储器。
对于 DDR,这同样会报告为 DIMM。
内存设备(类型 17):#4432
位置:“CPU0_HBMIO0”
银行:“Bank 0”
制造商:“00CE”
序列号:“BC2724040E”
部件号:“43”
内存阵列:#4097
外形规格:0x10(芯片)
类型:0x21(HBM2(高带宽内存第 2 代))
类型详细信息:0x0080(同步)
同样,ESXi 上的 vsish 等实用程序也可以获取 HBM 特定的详细信息。例如, vsish -e get /memory/memNodes/X (其中 X 是 NUMA 节点编号)为基于 HBM 的 NUMA 节点提供内存节点类型为 类型 255 - 未知类型 SPM ,而对于 DRAM,它显示为 类型 0 - 非 SPM。以下是系统的输出示例,其中显示 NUMA 节点 2 的 HBM 类型和 NUMA 节点 0 的非 HBM (DRAM) 类型 0。
内存节点 {
enclosing NUMA node:
2 个内存层:
0 表示可靠:
0 为易失性:
1 种特定用途类型:255 -> 未知类型 SPM
为 EPC:
0 first MPN:
0x480000最后一个 MPN:
使用的0x147ffff(页数):
183785免费(页数):16593431
}
内存节点 {
封闭 NUMA 节点:
0 Memory tier:
0 表示可靠:
0 为易失性:
1 特定用途类型:0 -> 不是 SPM
是 EPC:
0 first MPN:
0x100000最后一个 MPN:
使用的0x47ffff(页数):
247428可用(页数):3422588
}
戴尔还通过 API /redfish/v1/Systems/System.Embedded.1/Processors/CPU,使用 iDRAC Redfish 提供 HBM 特定的详细信息。插槽.1.在这里,您可以在 ProcessorMemory 部分看到特定于 HBM 的数据。输出示例如下:
“ProcessorMemory”:
[{ “IntegratedMemory”: true,
“MemoryType”:“HBM2”、“
CapacityMiB”:16384,“
SpeedMHz”:3200
},
仅 HBM 模式
您可以在不连接 DDR DIMM 的情况下单独使用 Max 系列处理器打开 Dell PowerEdge 服务器的电源。在这种情况下,操作系统使用基于处理器芯片的 HBM 内存来加载内核和其他进程。在这种情况下,BIOS 中的 HBM 模式 选项不会显式列出。VMware ESXi 8.0 Update 3 及更高版本支持此模式。上面所述的命令也适用于此模式,ESXi 在各种接口中仅报告 HBM 内存。例如,esxtop 仅显示 HBM NUMA 节点。
引用
https://www.intel.com/content/www/us/en/support/articles/000094293/software/software-services.html