OneFS:了解 ISILON 中的数据压缩
Summary: 这说明了包含 F810 节点池的群集上的数据压缩。这适用于 OneFS 8.1.3 或 OneFS 8.2.1 及更高版本。
Instructions
Isilon F810 节点允许您在 Isilon 群集上执行线内数据压缩。OneFS 仅在 Isilon F810 节点池上支持线内数据压缩。F810 节点包含网络接口卡 (NIC),用于压缩和解压缩节点接收的数据。当客户端在群集中读取和写入数据时,在 F810 节点的 40 Gb 以太网接口上并行执行硬件压缩和解压缩。随着 Isilon 群集的增长和添加额外的 F810 节点,此分布式接口模型允许压缩在全闪存 F810 节点池中线性扩展。
您可以在具有以下条件的群集上启用线内数据压缩:
- F810 节点池
- 40 Gb 以太网后端网络
- OneFS 8.1.3 或 OneFS 8.2.1 或更高版本
混合群集
在包含除 F810 以外的节点类型的混合群集中,文件仅以压缩形式存储在 F810 节点池上。在池之间移动时,写入或分层到其他节点类型的存储池的数据将解压缩。
概括来讲,Isilon 的新压缩功能的优势包括:
- 单纯:无需配置,默认连续压缩可消除管理负担。
- 效率:通过使用线内硬件分流,Isilon 可更大限度地减少对性能的影响,同时更大限度地提高存储效率。
- 透明度:压缩原生集成到 OneFS 文件系统中,使其对应用程序和工作流透明。
- 和谐:它与其他 Isilon 存储效率工具协同工作。
OneFS 线内压缩使用无损算法,可减少数据写入磁盘时的物理大小。压缩后的数据在读回时解压缩。压缩对于位于文件系统之上的应用程序是透明的,包括基于协议的服务,例如 网络文件系统 (NFS) 和服务器消息块 (SMB)。
Isilon 线内压缩的主要目的是减少数据的存储要求。线内压缩通常具有较小的存储占用空间、更低的电力和冷却要求,以及每 TB 存储总成本的降低。但是,压缩也有助于减少写入存储设备的数据总量。这有利于固态硬盘 (SSD) 和其他具有有限覆盖限制的介质,通过降低驱动器磨损率。
那么引擎盖下是什么?
OneFS 线内数据压缩由五个主要组件组成:
- 压缩平台
- 压缩引擎
- 压缩区块映射
- 压缩警报和报告框架
- 压缩控制路径
在本文中,我们将重点介绍平台和压缩引擎。
线内数据压缩仅在新的 Isilon F810 全闪存平台上受支持,其中每个节点都包含一个压缩分载适配器。此适配器提供旁路压缩,以从网络处理器分载某些任务。这意味着使用专用的现场可编程门阵列 (FPGA) 透明地执行压缩和解压缩,延迟极小,从而减少了 CPU 和内存资源。
全新 F810 机箱提供以下存储选项:
|
驱动器类型 |
存储介质 |
加密 (SED) |
机箱容量(原始) |
|
3.8结核病 |
固态硬盘 (SSD) |
否 |
228 TB |
|
7.7结核病 |
固态硬盘 (SSD) |
否 |
462 TB |
|
15.4 TB |
固态硬盘 (SSD) |
否 |
924 TB |
|
15.4 TB SED |
固态硬盘 (SSD) |
是的 |
924 TB |
除了双端口 40 Gb 以太网接口外,每个压缩分载适配器还包含一个专用于数据压缩和解压缩的 FPGA 芯片。节点的后端 PCI-e 插槽中每个适配器卡上的两个以太网端口用于冗余后端网络连接。
当客户端向群集读取和写入数据时,在 F810 节点的 40GB 以太网接口上并行执行硬件压缩和解压缩。随着 Isilon 群集的增长和添加额外的 F810 节点,此分布式接口模型允许压缩在 F810 节点池中线性扩展。OneFS 8.1.3 及更高版本支持每个群集 4 到 144 个 F810 节点或 36 个机箱。最佳实践建议是每个群集最多 40 个 F810 节点。
F810 节点在后端 PCI-e 网络适配器上使用基于 FPGA 的硬件分载引擎来执行数据的实时压缩和解压缩。当使用连接的客户端会话向群集中的节点写入和读取文件时,会发生这种情况。
除FPGA外,硬件压缩引擎还使用专有的DEFLATE实现。这提供了最高级别的压缩,同时对高度可压缩的数据集造成极小甚至不造成的性能损失。
压缩引擎由三个主要组件组成:
|
引擎组件 |
描述 |
|
搜索模块 |
LZ77 搜索模块分析内联文件数据块是否存在重复模式。 |
|
编码模块 |
这会对目标区块执行数据压缩(霍夫曼编码)。 |
|
解压缩模块 |
这会从压缩的区块重新生成原始文件。 |
由于它们驻留在同一个卡上,压缩引擎与节点的后端以太网接口共享 PCI-e 带宽。
OneFS 还提供软件实施,以便在压缩硬件出现故障时作为后备方案。在混合群集中,在没有硬件压缩的非 F810 节点上使用软件实施。硬件和软件压缩实施都与 DEFLATE 兼容。