Data Domain:使用 ECS 作为云层时的“多拷贝”操作

Summary: 本文介绍 ECS 与 Data Domain for Cloud Tier 配合使用时的实施详细信息。它解决了查看 Data Domain 和 ECS 日志时的潜在误解。

This article applies to This article does not apply to This article is not tied to any specific product. Not all product versions are identified in this article.

Symptoms

DELL ECS 可用作具有 DD Cloud Tier 选项(长期保留、LTR)的云提供商。有关 DD LTR 的详细信息,请参阅戴尔知识库文章 23144 Data Domain Restorer (DDR) and Long Term Retention (LTR) to the Cloud:常见问题(常见问题/常见问题)

ECS 和公有云提供商(如 AWS、Azure 和 GCP)的工作方式完全相同,但细微实施详细信息除外。由于 ECS 云位于本地、由客户所有,因此 Cloud Tier 清理在 ECS 中的工作方式不同,因此:
  • 延迟和性能快于公有云提供商
  • 在使用带宽或在 ECS 上运行操作时,用户不会产生额外费用
  • ECS 由戴尔开发,并扩展为 S3 协议标准。这使它能够比公共云提供商更高效地运行云层清理

ECS 实施了名为“Copy Range”的 S3 扩展。这在其他位置可能会出现,例如多拷贝。
这是一组扩展标头,不在 S3 标准中,因此仅受 ECS 支持。它允许 ECS 通过从现有对象拉取字节范围来创建新对象。所有工作都通过 ECS 而不是客户端完成。

此非标准操作仅受 ECS 支持,仅在云层清理“拷贝”阶段由 DD 使用。它允许 DD 以与在活动层上运行相同的方式在基于 ECS 的云单元上运行垃圾数据收集 (GC)(在回收未使用的空间方面更有效)。
在数据移动期间(使用 PUT)将新数据写入云时,以及从云单元调回或读取数据时(使用 GET 时),不使用它。

Cause

拷贝范围/多拷贝,作为 S3 协议的扩展,它不是一种新方法。
Copy Range/MULTI COPY 是一组添加到 PUT 调用的新标头。ECS 知道如何解释这一点,但不了解其他云实施。

在 DD 中,有一些位置会报告多拷贝,而不是 PUT。这是为了将常规 PUT(用于在数据移动期间将数据写入云)与在 CT GC 期间生成的 PUT(即所谓的多拷贝,但它们被置于后罩下)分开。

例如,我们可能会看到客户报告了以下值,相隔 7 天:
GENERATED_ON=Tue Jul 18 06:09:51 CEST 2023                       ||  GENERATED_ON=Tue Jul 25 06:09:52 CEST 2023
                                                                 ||  
Cloud op stats for bucket:xxxxxxxxxxxxxxxx-yyyyyyyyyyyyyyyy-d0   ||  Cloud op stats for bucket:xxxxxxxxxxxxxxxx-yyyyyyyyyyyyyyyy-d0
        Number of PUT object requests         : 1881             ||          Number of PUT object requests         : 559289     +    557,408 PUT
        Number of GET object requests         : 51               ||          Number of GET object requests         : 51         +          0 GET
        Number of DELETE object requests      : 1026             ||          Number of DELETE object requests      : 25149154   + 25,148,128 DELETE
        Number of MULTI COPY object requests  : 0                ||          Number of MULTI COPY object requests  : 18453552   + 18,453,552 MULTI COPY
        Number of LIST object requests        : 105847           ||          Number of LIST object requests        : 105847     +          0 LIST

DD 将报告 PUT、GET、DELETE、MULTI COPY 和 LIST 完成的操作量。
多拷贝不是有效的 S3 方法,甚至不适用于 ECS。在使用 ECS

运行操作时,多拷贝实际上是使用 DD 添加的一些特殊标头。在 ECS 端检查时,客户和 ECS 支持根本不看到“多拷贝”操作。

如果适用,他们只会看到 PUT、GET、DELETE 和 LIST。在向云进行数据移动时,DD 报告将单独放置。DD 报告多拷贝(在 CT GC 期间生成,用于从云中现有对象读取的字节范围创建新对象)。

因此,客户和 ECS 支持人员会看到 PUT 在 DD CT GC 期间从 DD 运行。这可能被误解为新数据(从 DD 进行数据移动),但可能是由于正在进行的 DD CT GC(执行多拷贝,即使用特殊参数 PUT)。

在 DD 统计信息中记录的每个多拷贝操作都会导致在 ECS 端记录一个和一个 PUT 操作。

在 DD CT GC 期间,进程将进入“后台删除”阶段。
此时,DD CT GC 已使用多拷贝完成所有拷贝转发。现在,它请求 ECS 删除我们从 中读取的所有源对象字节范围。
在上面的统计信息中,一周内的 DELETE 量超过了新对象的组合数量(PUT、新数据和多拷贝,在 CT GC 期间用于拷贝转发)。
这会导致云层

中的空间净增量 在此示例中,557,408 + 18,453,552 - 25,148,128 = -6,137,168,即超过 20 TiB 的开机自检容量,与基于 ECS 的云单元的常规对象大小相比。

Resolution

这是预期行为。

DD 到 ECS 执行的一些 PUT 操作是一种特殊类型,在 DD 端称为“多拷贝”,但它们在 ECS 端显示为常规 PUT。

多拷贝仅在 CT GC 期间从 DD 生成。它们通过从 ECS 中的现有对象读取字节范围,在云中创建一个新对象。所有这一切都发生在 ECS 本身中。
这会产生以下后果:
  • 在 DD CT GC 期间,ECS 有时会看到大量 PUT 操作(即 DD 多拷贝)。这是完全预期的,并会导致 ECS 上的存储使用量瞬时增加
  • DD CT GC 完成拷贝转发后,它会将 DELETE 问题发布到 ECS,并开始释放空间。由于 ECS GC 的工作方式,在自己的存储上释放空间的 ECS 可能会延迟
  • 除了 PUT for DD CT GC 之外,很难区分新数据的 PUT。如果需要此方面的帮助,请咨询 ECS 支持部门。
  • 多拷贝是 S3 标准的扩展,仅适用于基于 ECS 的云单元
  • 多拷贝要求 ECS 从现有对象读取以创建新对象,这可能会导致在 DD 上发布故障或损坏警报。预期是 ECS 中存在所有源对象。否则,DD CT GC 将停止并报告有关 DD CT GC 故障、完整性检查失败或损坏的警报。在这种情况下,请联系 DELL Data Domain 支持。
  • 即使在 ECS 中实施了多拷贝扩展,IAM 用户也不支持多拷贝扩展。只有从 ECS 创建的(常规)对象用户才能使用多拷贝扩展。如果 DD 云配置文件配置有 IAM 用户凭据,或者常规对象用户稍后更改为 IAM 用户,则在具有 ECS 的 DD 上,除干净外,一切正常。这将最终失败并显示以下警报:
Jul 19 11:24:59 dd.example.com ddfs[10217]: INFO: Event posted: m0-4577 (210011e1:553652705): EVT-CLOUD-00001: Unable to access provider for cloud unit ECS_CLOUD_UNIT.EVT-OBJ::CloudUnit=ECS_CLOUD_UNIT EVT-INFO::Cause=IAM user is not supported for Copy Range API

Affected Products

Data Domain
Article Properties
Article Number: 000216319
Article Type: Solution
Last Modified: 11 Aug 2023
Version:  2
Find answers to your questions from other Dell users
Support Services
Check if your device is covered by Support Services.