Data Domain: "MULTI COPY"-Vorgänge bei Verwendung von ECS als Cloud-Tier

Dell ECS kann als Cloudanbieter mit DD Cloud Tier-Option (Long-Term Retention, LTR) verwendet werden. Weitere Informationen zu DD LTR finden Sie im Dell KB-Artikel 23144, Data Domain Restorer (DDR) und Long Term Retention (LTR) in der Cloud: Häufig gestellte Fragen (FAQ/FAQs)

ECS und Public-Cloud-Anbieter (z. B. AWS, Azure und GCP) arbeiten genau auf die gleiche Weise, mit Ausnahme kleinerer Implementierungsdetails. Cloud-Tier-Bereinigungen funktionieren in ECS anders, da die ECS-Cloud lokal, im Besitz des Kunden ist, und daher:

• Latenz und Leistung sind schneller als bei Public-Cloud-Anbietern
• Für Nutzer entstehen keine zusätzlichen Kosten, wenn sie Bandbreite verbrauchen oder Vorgänge auf ECS ausführen.
• ECS wird von Dell entwickelt und verfügt über Erweiterungen des S3-Protokollstandards. Dies ermöglicht eine effizientere Ausführung von Cloud Tier-Bereinigungen als bei Public-Cloud-Anbietern.

ECS hat eine S3-Erweiterung namens "Copy Range" implementiert. Dies kann an anderen Stellen wie MULTI COPY auftreten.
Dies ist ein Satz erweiterter Header, die nicht im S3-Standard vorhanden sind und daher nur von ECS unterstützt werden. EcS kann ein neues Objekt erstellen, indem Bytebereiche von vorhandenen Objekten abgerufen werden. Die gesamte Arbeit erfolgt über ECS und nicht über den Client.

Dieser nicht standardmäßige Vorgang, der nur von ECS unterstützt wird, wird von DD nur während der Phase "Copy" der Cloud-Tier-Bereinigung verwendet. DD kann die automatische Speicherbereinigung (GC) auf ECS-basierten Cloudeinheiten auf die gleiche Weise wie auf dem aktiven Tier ausführen (was bei der Rückgewinnung von ungenutztem Speicherplatz effektiver ist).
Sie wird nicht verwendet, wenn neue Daten während der Datenverschiebung in die Cloud geschrieben werden (es verwendet PUT) oder beim Abrufen oder Lesen von Daten aus der Cloudeinheit (wenn GET verwendet wird).

Copy Range/MULTI COPY ist als Erweiterung des S3-Protokolls keine neue Methode.
Copy Range/MULTI COPY ist ein Satz neuer Kopfzeilen, die PUT-Aufrufen hinzugefügt werden. ECS weiß, wie dies zu interpretieren ist, aber keine anderen Cloud-Implementierungen.

In den DDs gibt es Orte, an denen MULTI COPY anstelle von PUT gemeldet wird. Dadurch wird die reguläre PUT (die verwendet wird, um Daten während der Datenverschiebung in die Cloud zu schreiben) von denen getrennt, die während der CT GC erzeugt werden (dies wäre die sogenannte MULTI COPY, aber sie werden unter der Haube abgelegt).

Als Beispiel können wir sehen, dass die folgenden Werte für einen Kunden gemeldet wurden, 7 Tage auseinander:

GENERATED_ON=Tue Jul 18 06:09:51 CEST 2023                       ||  GENERATED_ON=Tue Jul 25 06:09:52 CEST 2023
                                                                 ||  
Cloud op stats for bucket:xxxxxxxxxxxxxxxx-yyyyyyyyyyyyyyyy-d0   ||  Cloud op stats for bucket:xxxxxxxxxxxxxxxx-yyyyyyyyyyyyyyyy-d0
        Number of PUT object requests         : 1881             ||          Number of PUT object requests         : 559289     +    557,408 PUT
        Number of GET object requests         : 51               ||          Number of GET object requests         : 51         +          0 GET
        Number of DELETE object requests      : 1026             ||          Number of DELETE object requests      : 25149154   + 25,148,128 DELETE
        Number of MULTI COPY object requests  : 0                ||          Number of MULTI COPY object requests  : 18453552   + 18,453,552 MULTI COPY
        Number of LIST object requests        : 105847           ||          Number of LIST object requests        : 105847     +          0 LIST

Der DD meldet die Anzahl der abgeschlossenen Vorgänge für PUT, GET, DELETE, MULTI COPY und LIST.
MULTI COPY ist keine gültige S3-Methode, nicht einmal für ECS. MULTI COPY wird mit einigen speziellen Headern, die vom DD hinzugefügt werden, beim Ausführen des Vorgangs mit ECS angewendet.

Bei der Prüfung auf der ECS-Seite sehen Kunden und der ECS-Support überhaupt keine "MULTI COPY"-Vorgänge. 

Sie sehen nur, falls zutreffend, PUT, GET, DELETE und LIST. Das DD meldet PUT separat bei der Datenverschiebung in die Cloud. Die DD meldet MULTI COPY (die während der CT GC erzeugt werden, um neue Objekte aus Bytebereichen zu erstellen, die von vorhandenen Objekten in der Cloud gelesen werden).

Aus diesem Grund sehen Kunden und der ECS-Support, dass PUT während der DD CT GC von DD ausgeführt wird. Dies kann als neue Daten (Datenverschiebung aus DD) missverstanden werden, aber dies kann auf die laufende DD CT GC zurückzuführen sein (die MULTI COPY, d. b. PUT mit speziellen Parametern verwendet).

Jeder in den DD-Statistiken aufgezeichnete MULTI COPY-Vorgang führt zu einem und nur einem PUT-Vorgang, der auf der ECS-Seite aufgezeichnet wird.

Während der DD CT GC tritt der Prozess in die Phase der "Hintergrundlöschung" ein. 
Dies ist der Zeitpunkt, an dem die DD CT GC alle Kopien mit MULTI COPY abgeschlossen hat. ECS wird jetzt aufgefordert, alle Quellobjekte zu löschen, von denen wir Bytebereiche lesen.
In den obigen Statistiken übersteigt die Menge von DELETE während der Woche die kombinierte Anzahl neuer Objekte (PUT, für neue Daten und MULTI COPY für Kopie weiterleiten während der CT GC).
Dies führt zu einem Nettogewinn an Speicherplatz im Cloud-Tier

In diesem Beispiel: 557.408 + 18.453.552 – 25.148.128 = -6.137.168, d. h. mehr als 20 TiB nach Komprimierung mit der üblichen Objektgröße für ECS-basierte Cloudeinheiten.

Dies ist erwartetes Verhalten.

Einige PUT-Vorgänge, die von DD an ECS durchgeführt werden, sind ein spezieller Typ, der auf der DD-Seite als "MULTI COPY" bezeichnet wird, aber sie werden als reguläre PUT auf der ECS-Seite angezeigt.

MULTI COPY wird nur von der DD während der CT GC erzeugt. Sie erstellen ein einzelnes neues Objekt in der Cloud, indem sie Bytebereiche von vorhandenen Objekten in ECS lesen. All dies geschieht innerhalb von ECS selbst.
Dies hat die folgenden Konsequenzen:

• Während der DD CT GC erkennt ECS zu einem bestimmten Zeitpunkt viele PUT-Vorgänge (DD MULTI COPY). Dies ist vollkommen erwartet und führt zu einer vorübergehenden Zunahme der Speichernutzung auf ECS.
• Nachdem DD CT GC die Kopie weitergeleitet hat, gibt es DELETE an ECS aus und beginnt, Speicherplatz freizusetzen. ECS kann das Freigeben von Speicherplatz auf seinem eigenen Speicher aufgrund der Funktionsweise von ECS GC verzögern.
• Es kann schwierig sein, put für neue Daten zu nennen, abgesehen von PUT for DD CT GC. Wenden Sie sich an den ECS-Support, wenn Unterstützung dazu erforderlich ist.
• MULTI COPY ist eine Erweiterung des S3-Standards und tritt nur bei ECS-basierten Cloudeinheiten auf.
• MULTI COPY fordert ECS auf, von vorhandenen Objekten zu lesen, um ein neues Objekt zu erstellen. Dies kann zu Fehlern oder Beschädigungswarnungen führen, die auf dem DD veröffentlicht werden. Es wird erwartet, dass alle Quellobjekte in ECS vorhanden sind. Andernfalls stoppt DD CT GC und meldet Warnmeldungen für DD CT GC-Fehler, Integritätsprüfungsfehler oder Beschädigung. Wenden Sie sich in diesem Fall an den Dell Data Domain-Support.
• Selbst wenn MULTI COPY-Erweiterungen in ECS implementiert sind, werden sie für IAM-Benutzer nicht unterstützt. Nur (reguläre) Objektbenutzer, die von ECS erstellt wurden, können die MULTI COPY-Erweiterungen verwenden. Wenn das DD-Cloudprofil mit IAM-Benutzeranmeldedaten konfiguriert ist oder ein regulärer Objektbenutzer später zu einem IAM-Benutzer geändert wird, würde alles auf dem DD mit ECS mit Ausnahme der Bereinigung ordnungsgemäß funktionieren. Dies würde schließlich mit der folgenden Warnmeldung fehlschlagen:

Jul 19 11:24:59 dd.example.com ddfs[10217]: INFO: Event posted: m0-4577 (210011e1:553652705): EVT-CLOUD-00001: Unable to access provider for cloud unit ECS_CLOUD_UNIT.EVT-OBJ::CloudUnit=ECS_CLOUD_UNIT EVT-INFO::Cause=IAM user is not supported for Copy Range API