Data Domain: Jak monitorovat pohyb dat pomocí nástroje Data Domain Restorer

Některé modely Data Domain Restorer (DDR) lze konfigurovat s funkcemi známými jako Extended Retention (ER) nebo Long Term Retention (LTR). Tato funkce umožňuje přidat do systému druhou vrstvu úložiště, do které lze migrovat soubory, které vyžadují dlouhodobé uchovávání. Typ úložiště použitého pro tuto druhou vrstvu závisí na konkrétních používaných funkcích, tj.:

• Rozšířené uchovávání: Druhá vrstva úložiště se nazývá archivní vrstva a je tvořena diskovými skříněmi fyzicky připojenými k zařízení DDR
• Dlouhodobé uchovávání: Druhá vrstva úložiště se označuje jako cloudová vrstva a je tvořena z úložiště objektů zřízeného od podporovaného poskytovatele cloudu (tj. je mimo zařízení DDR).

Mechanika pohybu dat:

V obou případech se k fyzické migraci souboru z aktivní do archivní/cloudové vrstvy používá proces označovaný jako přesun dat (FMIG). Po spuštění FMIG prochází 5 fázemi provozu, jak je popsáno níže:

Fáze 1 - Hromadné setí:

• U všech systémů s povolenou verzí LTR se tento postup přeskočí
• To je přeskočeno v systémech elektronického výkaznictví se systémem DDOS 5.5.1.x (a novějším)
• V systémech elektronického výkaznictví se systémem DDOS 5.5.0.x (a starším) to může provést kopii vybraných dat na úrovni bloku z aktivní vrstvy do archivní vrstvy. Mechanika této kopie je nad rámec tohoto dokumentu, a proto zde není diskutována.

Fáze 2 – Kontrola:

• Systém souborů DDFS (Data Domain File System) vyhledává soubory v aktivní vrstvě, které představují kandidáty na migraci do vrstvy archivu/cloudu (soubory, které nebyly změněny po dobu delší, než je zásada přesunu dat nadřazených stromů MTree) / prahová hodnota stáří
• Spustí se několik vláken kopírování (konkrétní počet závisí na modelu/konfiguraci systému), přičemž každé vlákno čte kandidátský soubor na aktivní vrstvě a kopíruje jedinečná data do archivní/cloudové vrstvy (tj. data, která ještě neexistují v cílové vrstvě)
• Spustí se několik ověřovacích vláken (opět konkrétní počet vláken závisí na modelu/konfiguraci systému), která, jakmile kandidátský soubor dokončí kopii, načtou zpět kopii souboru z cílové vrstvy, aby se ujistili, že je platný nebo všechna data jsou dosažitelná
• Jakmile je kandidátský soubor zkopírován/ověřen, je přidán do seznamu souborů, které čekají na "instalaci" v cílové vrstvě (aktualizace metadat proti souboru, která označuje, že nyní existuje v cílové vrstvě). Instalační vlákno se pravidelně probouzí a "nainstaluje" všechny čekající soubory

Fáze 3 – Ověření:

• Během této fáze DDFS čeká na dokončení ověření všech zkopírovaných souborů v cílové vrstvě.

4. fáze – balení:

• U všech systémů s povolenou verzí LTR se tento postup přeskočí
• V systémech elektronického výkaznictví se FMIG pokusí odstranit všechny duplicitní segmenty dat, které byly zkopírovány do archivní vrstvy během fáze skenování. Upozorňujeme, že duplicitní segmenty dat lze zkopírovat, aby se proces kopírování urychlil, ale vzhledem k návrhu archivní vrstvy (maximální celkový kompresní poměr se sníženým výkonem při čtení) je nutné taková duplicitní data odebrat

Fáze 5 - Instalace:

• Během této fáze DDFS čeká na dokončení instalace všech zkopírovaných/ověřených souborů

Sledování průběhu FMIG:

Ke sledování postupu FMIG v systémech ER a LTR se primárně používá prostředí příkazového řádku Data Domain (DDSH). Pozor:

• V systémech elektronického výkaznictví by měly být použity příkazy "archive data-movement [status|watch]", zatímco v systémech LTR by měly být použity příkazy "data-movement [status|watch]", tj.:

• V systémech ER je hlášen průběh všech 5 fází (tj. výstup bude ukazovat "fáze x z 5"), zatímco v systémech LTR, vzhledem k tomu, že fáze 1 a 4 jsou vždy přeskočeny, je zobrazen pouze průběh fází 2/3/5 (tj. výstup bude ukazovat "fáze x ze 3")
• Příkaz 'status' zobrazí jednorázový snapshot průběhu FMIG:

• Příkaz "watch" zobrazuje průběžný výstup, jak FMIG postupuje fázemi:

Ke sledování průběhu FMIG se používá také sada klíčů registru - ty jsou zachyceny v automatických podporách generovaných systémem a lze je také zobrazit prostřednictvím DDSH:

ER: # reg show dynamic.art.fmig
LTR: # reg show state.fmig2

V obou případech jsou zobrazené klíče registru velmi podobné a v důsledku toho jsou zde zobrazeny pouze ty ze systému s povoleným LTR:

# reg show state.fmig2
state.fmig2_checked_inodes = 13 <=== CELKOVÝ POČET SOUBORŮ V JMENNÉM PROSTORU DDFS ZKONTROLOVÁN, ABY SE ZJISTILO, ZDA SPLŇUJÍ KRITÉRIA PRO KANDIDÁTSKÉ
state.fmig2_end_time = 1470059610 <=== ČAS UKONČENÍ POSLEDNÍHO SPUŠTĚNÍ FMIG
state.fmig2_fcopy_byte_count = 11274289151 <=== PRE-COMP (LOGICKÉ) BAJTY ZKOPÍROVANÉ DO CÍLOVÉ VRSTVY
state.fmig2_fcopy_post_lc_size = 10944662855 <=== POST-COMP (FYZICKÉ) BAJTY ZKOPÍROVANÉ DO CÍLOVÉ VRSTVY, TEDY FAR
...
state.fmig2_files_copied = 8 <=== SOUBORY, KTERÉ DOKONČILY KOPÍROVÁNÍ
state.fmig2_files_failed_in_copy = 0 <=== SOUBORY, KTERÉ SE NEPODAŘILO ZKOPÍROVAT
state.fmig2_files_failed_in_install = 0 <=== SOUBORY, KTERÉ SE ZKOPÍROVALY/OVĚŘILY, ALE NEPODAŘILO SE NAINSTALOVAT
state.fmig2_files_failed_in_verify = 0 <=== SOUBORY, KTERÉ ZKOPÍROVALY, ALE NEPODAŘILO SE
OVĚŘIT state.fmig2_files_installed = 4 <=== SOUBORY, KTERÉ DOKONČILY KOPÍROVÁNÍ/OVĚŘENÍ/INSTALACI
state.fmig2_files_verified = 4 <=== SOUBORY, KTERÉ MAJÍ DOKONČENOU KOPII / OVĚŘIT
...
state.fmig2_is_running = 1 <=== FMIG BĚŽÍ
state.fmig2_is_waiting = 0 <=== FMIG ČEKÁ (NAPŘÍKLAD NA DOKONČENÍ ČIŠTĚNÍ)
state.fmig2_progress_current_phase = 2 <=== AKTUÁLNÍ FÁZE (V TOMTO PŘÍPADĚ KOPÍROVÁNÍ/SKENOVÁNÍ)
state.fmig2_progress_percent_complete = 92 <=== % DOKONČENÍ AKTUÁLNÍ FÁZE NA ZÁKLADĚ ZKONTROLOVANÝCH SOUBORŮ VS. CELKOVÝ POČET SOUBORŮ V JMENNÉM PROSTORU
state.fmig2_progress_phase_time = 1245 <=== SEKUNDY STRÁVENÉ V AKTUÁLNÍ FÁZI
state.fmig2_progress_total_time = 1255 <=== SEKUND FMIG ZATÍM BĚŽÍ
state.fmig2_start_time = 1470061560 <=== ČAS ZAČÁTKU AKTUÁLNÍHO BĚHU FMIG...

state.fmig2_total_inodes = 14 <=== CELKOVÝ POČET SOUBORŮ KE KONTROLE VE JMENNÉM PROSTORU
...

Nakonec se do souborů protokolu DDFS (/ddr/var/log/debug/ddfs.info) zaprotokolují různé zprávy, které informují o průběhu FMIG. Výstup je opět velmi podobný pro funkce ER a LTR, takže zde jsou zobrazeny pouze výstupy ze systému s povoleným LTR:

08/01 15:26:00.945 (tid 0x7ff4c683e090): UPOZORNĚNÍ: MSG-FMIG-00004: Přesun dat spuštěn <=== FMIG STARTS
...
08/01 15:26:00.977 (TID 0x7ff4cbeabcf0): INFO: Fmig: fáze 1 (setí) zahájena <=== SPUŠTĚNÍ HROMADNÉHO SETÍ (NEBĚŽÍ NA LTR)
08/01 15:26:10.978 (tid 0x7ff4cbeabcf0): INFO: Fmig: fáze 1 (setí) ukončena
08/01 15:26:10.978 (TID 0x7ff4cbeabcf0): INFO: Fmig: fáze 2 (skenování) zahájena <=== ZAČÍNÁ
 
FÁZE SKENOVÁNÍ08/01 15:26:22.162 (TID 0x4ca2150): Fmig: kandidátský soubor /data/col1/jftest/file2, src soubor snap_fh 10:0:12:0:e8b645a6:57989b6e:0 <=== KANDIDÁTSKÝ SOUBOR PŘEVZATÝ KOPÍROVACÍM VLÁKNEM
08/01 15:26:22.164 (tid 0x7ff4c5214670): Fmig: kandidátský soubor /data/col1/jftest/file3, src soubor snap_fh 10:0:13:0:e9b64736:57989b6e:0<=== KANDIDÁTSKÝ SOUBOR ZAČÍNÁ KOPÍROVAT
08/01 15:26:22.273 (tid 0x7ff7d252a9e0): Fmig: kandidátský soubor /data/col1/jftest/file4, src soubor snap_fh 10:0:14:0:e6b64286:57989b6e:0 <=== KANDIDÁTSKÝ SOUBOR ZAČNE KOPÍROVAT
08/01 15:26:22.274 (tid 0x7ff7d090a630): Fmig: kandidátský soubor /data/col1/jftest/file5, src soubor snap_fh 10:0:15:0:e7b64416:57989b6e:0 <=== KANDIDÁTSKÝ SOUBOR SPUSTÍ KOPÍROVÁNÍ
 
08/01 15:27:11.072 (TID 0x7ff45ad95d30): Fmig: fmig_dump_stats (cloud): fáze 2, phase_time 61, total_time 71, total_inodes 14, checked_inodes 5, copied_files 0, verified_files 0, installed_files 0, failed_files_in_copy 0, failed_files_in_verify 0, failed_files_in_install 0, copied_vbytes 0, probíhající vbytes 1936986672 <=== PRAVIDELNĚ VYPISOVANÉ STATISTIKY
 
08/01 15:45:59.040 (TID 0x7ff7d25298c0): Fmig: fmig ověřený soubor5, src soubor snap_fh 10:0:15:0:e7b64416:57989b6e:0 <=== ZKOPÍROVANÝ SOUBOR DOKONČÍ OVĚŘENÍ
08/01 15:45:59.140 (tid 0x7ff4c5218310): Fmig: fmig ověřený soubor3, src soubor snap_fh 10:0:13:0:e9b64736:57989b6e:0<=== ZKOPÍROVANÝ SOUBOR DOKONČÍ OVĚŘENÍ
08/01 15:45:59.225 (tid 0x7ff4c540b5f0): Fmig: fmig ověřený soubor2, src soubor snap_fh 10:0:12:0:e8b645a6:57989b6e:0 <=== ZKOPÍROVANÝ SOUBOR DOKONČÍ OVĚŘENÍ
08/01 15:45:59.228 (tid 0x7ff4e591bcd0): Fmig: fmig ověřený soubor4, src soubor snap_fh 10:0:14:0:e6b64286:57989b6e:0 <=== ZKOPÍROVANÝ SOUBOR DOKONČÍ OVĚŘENÍ
 
08/01 15:47:15.113 (tid 0x7ff45ad95d30): Fmig: fmig_dump_stats (cloud): fáze 2, phase_time 1265, total_time 1275, total_inodes 14, checked_inodes 13, copied_files 8, verified_files 4, installed_files 4, failed_files_in_copy 0, failed_files_in_verify 0, failed_files_in_install 0, copied_vbytes 10737418240, probíhající vbytes 536870911 <=== DALŠÍ PRAVIDELNÉ STATISTIKY
 
08/01 15:47:41.858 (TID 0x7ff4cbeabcf0): INFO: Fmig: fáze 2 (skenování) ukončena< === FÁZE SKENOVÁNÍ DOKONČENA (VŠECHNY KANDIDÁTSKÉ SOUBORY COPIED)
08/01 15:47:41.858 (tid 0x7ff4cbeabcf0): INFO: Fmig: fáze 3 (ověřit) zahájena <=== OVĚŘENÍ FÁZE ZAČÍNÁ
 
08/01 15:47:57.855 (TID 0x7ff50351a620): Fmig: fmig ověřený soubor10, src soubor snap_fh 10:0:1a:0:64f703c6:57989b6e:0 <=== ZBÝVAJÍCÍ OVĚŘENÉ SOUBORY
08/01 15:47:57.875 (tid 0x7ff4cbeabcf0): INFO: Fmig: fáze 4 (balení) ukončena <=== FÁZE BALENÍ (NEBĚŽÍ NA LTR)
08/01 15:47:57.875 (0x7ff4cbeabcf0 TID): INFO: Fmig: fáze 5 (instalace) zahájena< === INSTALAČNÍ FÁZE ZAČÍNÁ
08/01 15:48:08.890 (tid 0x7ff4cbeabcf0): INFO: Fmig: fáze 5 [instalace] skončila<=== FÁZE INSTALACE KONČÍ
 
08/01 15:48:35.337 (tid 0x7ff4cbeabcf0): UPOZORNĚNÍ: MSG-FMIG-00001: Přesun dat dokončen (cloud) v cloudovém CPS: Uplynulo 0:22:35, přesunuto 9 souborů, 11274289152 z celkového počtu přesunutých bajtů <=== FMIG DOKONČÍ
08/01 15:48:35.337 (tid 0x7ff4cbeabcf0): INFO: Fmig:  Fáze[1]: 10 sekund Fáze [2]: 1291 secs Fáze[3]: 16 sekund fáze [4]: 0 sekund Fáze [5]: 11 sekund <=== ZOBRAZENÉ

FÁZOVÉ ČASYPoznámky:

• Údaje, které udávají množství (fyzických) dat po kompenzaci zkopírovaných do cílové vrstvy, se aktualizují pouze při každém dokončení kopírování souboru. Výsledkem je, že pokud by byl migrován jeden velký soubor, post-comp zobrazí 0 bajtů, dokud nebude dokončení kopírování (a fáze skenování)
• Údaje, které udávají množství dat před kompenzací (logických) zkopírovaných do cílové vrstvy, jsou aktualizovány pravidelně, nikoli pouze po dokončení kopírování souboru
• Procento dokončení zobrazené ve fázi skenování neindikuje celkové % dosud zkopírovaných dat kandidátů. Místo toho udává, že % z celkového počtu souborů v názvovém prostoru DDFS bylo dosud zkontrolováno vlákny kopírování, aby se zjistilo, zda jsou kandidáty na migraci. V důsledku toho, když je FMIG ve fázi skenování, je běžné, že vidíme: