Data Domain: Jak platforma NetWorker spolupracuje se systémem Data Domain a cloudovou vrstvou

Software NetWorker (NW) má vestavěnou podporu pro cloudovou vrstvu systému Data Domain (DD CT). To znamená, že správce NW může nastavit zásady pro vrstvení do cloudu: Software NW označí jednotlivé bitové kopie záloh, aby se později při přesunu dat DD do cloudu spustil a odeslal tyto soubory do nakonfigurované cloudové jednotky.

Prvním důležitým faktem, který je třeba zdůraznit, je, že software NW nepřesouvá ani nekopíruje (neklonuje) data do cloudu. Vytváří kopie (klony) názvů sítě SSID, které se odesílají do cloudu, ale klony se (zpočátku) nacházejí v aktivní vrstvě DD. Název sítě SSID označený pro cloud (vrstvený do) se má odeslat do cloudového úložiště až po spuštění nakonfigurovaného plánu pro přesun dat systému DD.

Celý proces od vytvoření zálohy až po okamžik, kdy je daný název sítě SSID k dispozici v cloudu, funguje velmi podobně tomu, jak je to uvedeno níže:

1. Software NW je nakonfigurován tak, aby ukládal zálohy do systému DD (příjem vždy probíhá na aktivní úrovni DD). Typicky používá jednu jednotku úložiště k následujícím účelům:

DDBOOST Storage-Unit Show Type BoostFS
-------------------------

Name                   Pre-Comp (GiB)   Status   User            Report Physical   BoostFS
                                                                    Size (MiB)
--------------------   --------------   ------   -------------   ---------------   -------
NW-STORAGE-UNIT            25680542.0   RW       boostuser                    -    no
--------------------   --------------   ------   -------------   ---------------   -------

2. V softwaru NetWorker jsou jednotlivé zásady zálohování uloženy pod označením „device“. Zařízení je pouze podadresář pod kořenem jednotky úložiště, například:

/data/col1/NW-STORAGE-UNIT/DAILY-DB-DEV01/00/80/ee140226-00000006-2b625ef6-66625ef6-0e095000-e36c9c56
/data/col1/NW-STORAGE-UNIT/DAILY-DB-DEV02/00/48/f8959462-00000006-3f775a89-66775a89-b8fa5000-e36c9c56
/data/col1/NW-STORAGE-UNIT/MONTHLY-DB-DEV01/03/93/30e0c543-00000006-3d5cac26-665cac26-f6f75000-e36c9c56
/data/col1/NW-STORAGE-UNIT/MONTHLY-FS-DEV06/92/30/05729157-00000006-cc5a6431-665a6431-9e685000-e36c9c56

Zde budou zásady nebo zařízení „DAILY-DB-DEV01“, „DAILY-DB-DEV02“, „MONTHLY-DB-DEV01“ a „MONTHLY-FS-DEV06“

3. Software NW se nakonec nakonfiguruje pro vrstvu DD CT a výsledkem je konfigurace přesunu dat spravovaná aplikací v systému DD, jak je uvedeno níže:

Cloud Data-Movement Configuration
---------------------------------
Mtree                             Target(Tier/Unit Name)   Policy        Value
-------------------------------   ----------------------   -----------   -------
/data/col1/NW-STORAGE-UNIT        Cloud/CLOUD-UNIT         app-managed   enabled
-------------------------------   ----------------------   -----------   -------

Konfigurace přesunu dat DD do cloudu využívá zdrojový fond MTree (úložnou jednotku NW), cílovou cloudovou jednotku (CLOUD-UNIT) a zásadu, které pro software NetWorker (a Avamar) musí být typu „app-managed“ namísto „age-threshold“, protože soubory, které se mají přesunout do cloudu, určuje (označuje) software NW, nikoli stáří samotných souborů.

4. Software NW funguje v případě vrstvy DD CT tak, že „neoznačí“ soubory, které mají být přesunuty do cloudu, v původním umístění: Když zákazník nastaví software NW pro vrstvení cloudu (CTA), musí vytvořit další zařízení ve stejné úložné jednotce, kde budou nejprve naklonovány soubory, které se mají odeslat do cloudu. Například daný identifikátor SSID nakonfigurovaný pro uložení ve vrstvě DD CT se zobrazí jako dva samostatné (ale identické) soubory v reportu umístění souboru DD:

# filesys report generate file-location tiering
--------------------------------                                                                                  ----------------------      -----         ---------------------------
File Name                                                                                                         Location(Unit Name)         Size          Placement Time
--------------------------------                                                                                  ----------------------      -----         ---------------------------
/data/col1/NW-STORAGE-UNIT/MONTHLY-FS-DEV05/85/72/365bdbce-00000006-3157c1bc-6657c1bc-32035000-e36c9c56                        Active         1.15 TiB      Thu May 30 04:00:59 2024
/data/col1/NW-STORAGE-UNIT/CLOUD-LONG-TERM-DEV04/85/72/365bdbce-00000006-3157c1bc-6657c1bc-32035000-e36c9c56               CLOUD-UNIT         1.15 TiB      Sat Jun  1 11:13:33 2024

Z výše uvedených informací vyplývá následující:

• Záložní bitová kopie s dlouhým identifikátorem SSID „365bdbce-00000006-3157c1bc-6657c1bc-32035000-e36c9c56“ byla zapsána do aktivní vrstvy DD a naposledy se tak stalo dne „Thu May 30 04:00:59 2024“ pod názvem zařízení „MONTHLY-FS-DEV05“
• Existuje zásada vrstvení (u cílového zařízení) s názvem „CLOUD-LONG-TERM-DEV04/“
• Po spuštění zásady vrstvení (k tomu pravděpodobně dochází hned po dokončení zálohování) byla vytvořena kopie (klon) identifikátoru SSID z původního zařízení do cloudového zařízení NW s názvem „CLOUD-LONG-TERM-DEV04“
• Nakonec byl spuštěn přesun dat DD a klon původní zálohy byl přesunut z aktivní do cloudové jednotky, proces se dokončil do dne „Sat Jun 1 11:13:33 2024“
• V době, kdy byly shromážděny výše uvedené informace o umístění souboru, existuje kopie stejného dlouhého názvu sítě SSID v aktivní i cloudové vrstvě systém DD.
• Bude záležet na softwaru NW, aby ukončil platnost jednotlivých kopií a odstranil je, až nastane čas. Teoreticky dojde k vypršení platnosti kopie v aktivní vrstvě dříve než kopie v cloudu, která má být uchována déle (jinak by bylo zbytečné odesílat tuto záložní bitovou kopii do cloudu).

5. Dokumentace k softwaru NetWorker požádá, aby bylo zařízení cloudové vrstvy v průvodci NW vytvořeno na stejné úložné jednotce jako soubory v aktivní vrstvě. Vytvoření cloudového zařízení na jiné úložné jednotce může způsobit, že klonování bude provedeno pomocí jiné metody než „fastcopy“, což má za následek mnohem pomalejší časy klonování. Zde najdete příslušnou část v dokumentaci k softwaru NW:
https://www.dell.com/support/manuals/en-us/networker/nw_p_ddboostdedup_integration/configuring-networker-devices-for-dd-cloud-tier?guid=guid-680d906f-10c7-4266-822e-1a0f3ba3e201⟨=en-us
 

Configuring NetWorker devices for DD Cloud Tier
-----------------------------------------------
Use the Device Configuration Wizard to configure NetWorker devices for the DD Cloud Tier devices.

The Data Domain devices that contain the source backup data must reside on the same mtree as the DD Cloud Tier device that will store the clone data. The storage node that manages the Data Domain devices must be a NetWorker 19.7 storage node. 

6. Jedním z důsledků výše uvedeného příkazu z dokumentace k softwaru NW je to, že v nastavení NetWorker / Data Domain s cloudovou vrstvou se obvykle všechna data ukládají na stejnou úložnou jednotku v rámci systému DD a neexistuje žádný podporovaný způsob, jak odesílat bitové kopie záloh NW na dvě samostatné cloudové jednotky. Konfigurace přesunu dat systému DD nemůže mít více než jednu zásadu pro stejný zdrojový fond MTree, což může představovat problém v situacích, kdy má být například vyčerpána kapacita první cloudové jednotky (příklad naleznete níže):

Active Tier:                                                                                       
Resource           Size GiB    Used GiB   Avail GiB   Use%   Cleanable GiB*                        
----------------   --------   ---------   ---------   ----   --------------                        
/data: pre-comp           -   8477328.0           -      -                -                        
/data: post-comp   944180.2    769927.8    174252.4    82%          90605.3                        
----------------   --------   ---------   ---------   ----   --------------                        

Cloud Tier unit-wise space usage                                                                   
--------------------------------                                                                   
CLOUD-UNIT                                                                                         
Resource             Size GiB     Used GiB   Avail GiB   Use%   Cleanable GiB                      
----------------   ----------   ----------   ---------   ----   -------------                      
/data: pre-comp             -   16935910.0           -      -               -                      
/data: post-comp   1572768.4*    1572755.0        13.4   100%             0.0                      
----------------   ----------   ----------   ---------   ----   -------------                      

Cloud Data-Movement Configuration                                        
---------------------------------                                        
Mtree                      Target(Tier/Unit Name)   Policy        Value  
------------------------   ----------------------   -----------   -------
/data/col1/NW-STORAGE-UNIT Cloud/CLOUD-UNIT         app-managed   enabled
------------------------   ----------------------   -----------   -------

7. Při pokusu o překonání výše uvedených omezení může zákazník vytvořit novou úložnou jednotku NetWorker pro nadcházející zálohy. Nebo může provést klonování ze stávající úložné jednotky do zařízení na nové úložné jednotce a později přidat druhou zásadu přesunu dat DD z nové úložné jednotky na novou cloudovou jednotku. Výsledkem je konfigurace, jako je ta níže:

Cloud Unit List
---------------
Name           Profile              Status   Reason
------------   ------------------   ------   -------------------------------
CLOUD-UNIT     CLOUD-UNIT_profile   Active   Cloud unit connected and ready.  <<-- existing Cloud Unit
CLOUD-UNIT02   CLOUD-UNIT_profile   Active   Cloud unit connected and ready.  <<-- new Cloud Unit
------------   ------------------   ------   -------------------------------

Cloud Data-Movement Configuration
---------------------------------
Mtree                             Target(Tier/Unit Name)   Policy        Value
-------------------------------   ----------------------   -----------   -------
/data/col1/NW-STORAGE-UNIT          Cloud/CLOUD-UNIT         app-managed   enabled
/data/col1/NW-STORAGE-UNIT-NEW      Cloud/CLOUD-UNIT02       app-managed   enabled
-------------------------------   ----------------------   -----------   -------

Kromě požadavku z dokumentace k softwaru NW je problém v tom, že klonování bude pomalé. S něčím podobným se můžete také setkat v softwaru DD SSP (system show performance):

                     -----------Throughput (MB/s)----------- ---------------Protocol-----------------  Compression  ------Cache Miss--------  -----------Streams-----------  -MTree Active-  ----State---  -----Utilization-----  --Latency-- 
                                                                                                                                                                       Repl
Date       Time      Read  Write Repl Network  Repl Pre-comp ops/s    load    data(MB/s)    wait(ms/MB)  gcomp lcomp  thra unus ovhd data meta    rd/  wr/  r+/  w+/  in/ out      rd/wr      'CDPVMSFIRL'     CPU        disk       in ms     stream   
---------- --------  ----- ----- ----in/out--- ----in/out--- -----    --%--   --in/out---   --in/out---  ----- -----  ---- ---- ---- ---- ----  ----------------------------- --------------  -----------  -avg/max---- --max---  --avg/sdev-  -----------
2024/06/13 18:27:00    0.0    0.0   0.00/  0.00   0.00/  0.00     2   NaN%   0.00/  0.00  20.97/ 37.46    1.7   1.7    0%   0%  21%   0%   2%     0/   0/   0/   0/   0/   0       0/ 0       ---V---I---    6%/  8%[13]  7%[28]  2.1/  7.5  116.0/  2.2 
2024/06/13 18:37:00    0.0    0.0   0.00/  0.00   0.00/  0.00    89   NaN%   0.01/  0.01  19.45/ 68.12    2.8   2.1    0%   0%  21%   0%   1%     0/   0/   0/   0/   0/   0       0/ 0       ---V---I---    5%/  6%[4]   7%[28]  0.7/  3.7  115.8/  3.0 
2024/06/13 18:47:00   39.6   39.5   0.00/  0.00   0.00/  0.00  1160   NaN%   0.54/ 37.82   4.27/  0.42   62.5   1.7    0%   0%  11%   0%   1%     1/   1/   0/   0/   0/   0       1/ 1       ---V---I---    5%/  7%[4]   7%[28]  0.4/  3.0  118.8/  3.4 
2024/06/13 18:57:00  215.5  215.5   0.00/  0.00   0.00/  0.00   825   NaN%   0.93/205.66   4.29/  0.30  291.2   1.2    0%   0%   7%   0%   1%     1/   1/   0/   0/   0/   0       1/ 1       ---V---I---    7%/  9%[14]  8%[28]  0.1/  3.8  118.8/  3.7 
2024/06/13 19:07:00  223.9  223.9   0.00/  0.00   0.00/  0.00   856   NaN%   0.94/213.74   4.32/  0.29  327.5   1.1    0%   0%   7%   0%   1%     1/   1/   0/   0/   0/   0       1/ 1       ---V---I---    7%/  9%[14]  8%[28]  0.1/  0.8  118.5/  4.4 
2024/06/13 19:17:00  218.5  218.5   0.00/  0.00   0.00/  0.00  1916   NaN%   1.01/208.56   5.34/  0.32  278.3   1.3    0%   0%   9%   0%   1%     1/   1/   0/   0/   0/   0       1/ 1       ---V---I---    7%/  9%[4]   8%[28]  0.2/  3.7  118.2/  3.6 
2024/06/13 19:27:00  174.3  174.3   0.00/  0.00   0.00/  0.00   696   NaN%   2.25/166.37   2.02/  0.30   64.7   1.5    0%   1%  19%   0%   1%     1/   1/   0/   0/   0/   0       0/ 2       ---V---I---    8%/ 12%[13]  9%[28]  0.4/  6.5  121.5/  4.6 
2024/06/13 19:37:00  182.6  183.5   0.00/  0.00   0.00/  0.00   719   NaN%   5.40/174.31   1.24/  0.29   34.8   1.1    2%   6%  28%   0%   3%     1/   3/   0/   0/   0/   0       0/ 2       ---V---I---    8%/ 11%[43] 12%[28]  0.3/  6.0  121.8/  6.9 
...
2024/06/20 15:39:00  150.4  293.6   0.00/  0.00   0.00/  0.00   6716  NaN%  25.47/146.12   1.39/  0.59   11.8   1.0    1%   0%  19%   0%   4%     0/   2/   0/   0/   0/   0       0/ 2       ---V---I---    7%/ 13%[15]  5%[14]  0.2/  1.0  119.2/  4.0 
2024/06/20 15:49:00  215.9  298.8   0.00/  0.00   0.00/  0.00  12448  NaN%  31.55/212.33   1.60/  0.65    9.8   1.0    2%   0%   0%   0%   2%     0/   2/   0/   0/   0/   0       0/ 2       ---V---I---    8%/ 15%[15]  4%[21]  0.2/  0.5  117.5/  2.7 
2024/06/20 15:59:00  186.5  344.3   0.00/  0.00   0.00/  0.00   1854  NaN%  24.07/178.14   1.04/  0.33   14.6   1.0    5%   0%  21%   0%   2%     1/   2/   0/   0/   0/   0       0/ 2       ---V---I---    6%/ 14%[15]  5%[ 3]  0.4/  4.4  119.2/  2.3 
2024/06/20 16:09:00  205.3  426.2   0.00/  0.00   0.00/  0.00    808  NaN%  18.73/196.08   1.09/  0.30   24.4   1.0    4%   5%  27%   0%   3%     0/   2/   0/   0/   0/   0       0/ 2       ---V---I---    6%/ 14%[47]  5%[ 3]  0.3/  0.3  117.5/  2.6 
2024/06/20 16:19:00  211.7  399.3   0.00/  0.00   0.00/  0.00    843  NaN%  17.86/202.10   1.09/  0.29   23.5   1.0    2%   0%   0%   0%   2%     1/   2/   0/   0/   0/   0       0/ 2       ---V---I---    6%/ 13%[15]  3%[ 3]  0.3/  4.8  119.2/  1.8 
...                                                                                        
2024/06/23 18:21:00  470.3  484.6   0.00/  0.00   0.00/  0.00   1807  NaN%   9.85/448.86   2.59/  0.30   50.2   1.1    1%  21%  34%   0%   0%     4/   5/   0/   0/   0/   0       0/ 2       ---V---I---    7%/ 11%[9]   9%[13]   0.2/  1.5  126.8/  8.8 
2024/06/23 18:31:00  477.2  494.6   0.00/  0.00   0.00/  0.00   1846  NaN%   8.99/455.44   2.69/  0.29   57.3   1.1    1%  13%  27%   0%   0%     4/   5/   0/   0/   0/   0       0/ 2       -------I---    5%/  9%[0]   7%[17]   0.2/  1.7  127.0/  6.8 
2024/06/23 18:41:00  458.9  481.3   0.00/  0.00   0.00/  0.00   2913  NaN%  10.17/438.07   2.57/  0.30   48.3   1.1    1%  12%  28%   0%   0%     4/   5/   0/   0/   0/   0       0/ 2       -------I---    5%/  8%[0]   7%[ 3]   0.2/  1.2  127.0/  5.8 
2024/06/23 18:51:00  468.7  481.2   0.00/  0.00   0.00/  0.00   1807  NaN%  10.60/447.40   2.27/  0.29   46.5   1.1    1%  19%  34%   0%   1%     4/   5/   0/   0/   0/   0       0/ 2       -------I---    7%/  9%[9]   9%[ 3]   0.2/  1.5  127.0/  5.6 
2024/06/23 19:01:00  474.0  485.5   0.00/  0.00   0.00/  0.00   1814  NaN%  14.32/452.44   1.99/  0.29   33.6   1.1    2%  26%  39%   0%   0%     4/   5/   0/   0/   0/   0       0/ 2       ---V---I---    6%/ 10%[15] 11%[ 3]   0.2/  1.5  126.2/  6.4

Když software NW používá pro klonování operaci „fastcopy“ (což se děje u klonování na stejné úložné jednotce), neměli bychom zaznamenat zatížení čtení. Zde vidíme, že klonování napříč úložnými jednotkami provádí software NW pomocí operace „filecopy“ a v tomto příkladu byla situace ještě horší:

06/19 08:24:14.178358 [7fbbf6b4a390] ddboost-<nw-node1.example.com-52424>: JOB START IMAGE_READ ip=10.20.30.40 pid=1727382 cd=1 enc=off //NW-STORAGE-UNIT/MONTHLY-FS-DEV06/03/54/d2b98e7a-00000006-4f5a1067-665a1067-88e55000-e36c9c56

06/19 08:24:14.286608 [7facd6691b70] ddboost-<nw-node2.example.com-58788>: JOB START IMAGE_WRITE ip=10.20.30.40 pid=18392 cd=1 enc=off //NW-STORAGE-UNIT-CT/CLOUD-LONG-TERM02-DEV07/03/54/d2b98e7a-00000006-4f5a1067-665a1067-88e55000-e36c9c56

Zde probíhá klonování názvu sítě SSID „d2b98e7a-00000006-4f5a1067-665a1067-88e55000-e36c9c56“:

• Ze zařízení „MONTHLY-FS-DEV06“v původní pojmenované úložné jednotce (NW-STORAGE-UNIT) se úloha čtení provádí z uzlu NW s názvem „nw-node1.example.com“
• Do zařízení s názvem „CLOUD-LONG-TERM02-DEV07“ v nové úložné jednotce (NW-STORAGE-UNIT-CT) je úloha WRITE prováděná na uzlu NW s názvem „nw-node2.example.com“

Při tomto čtení procházela data ze systému DD do sítě přes síť zákazníka z jednoho uzlu NW do druhého, který pak pomocí stejného proudu bajtů zapsal nový soubor do stejného systému DD, odkud data původně přišla.

8. V tomto příkladu (konfigurace NW s jednou úložnou jednotkou a DD CT s již zaplněnou cloudovou jednotkou) spočívá správná konfigurace v tom, že software NW vytvoří novou cloudovou jednotku v systému DD.
Vyhnete se tak vytvoření druhé úložné jednotky v systému DD a vytvoření nové zásady cloudové vrstvy v softwaru NW pro jiné zařízení v rámci stejné stávající úložné jednotky.
Poté změňte konfiguraci přesunu dat DD pro nadcházející úlohy přesunu dat tak, aby se cílem stala nová cloudová jednotka.
Konečná konfigurace na straně DD je následující:

Cloud Unit List
---------------
Name           Profile              Status   Reason
------------   ------------------   ------   -------------------------------
CLOUD-UNIT     CLOUD-UNIT_profile   Active   Cloud unit connected and ready.  <<-- existing Cloud Unit
CLOUD-UNIT02   CLOUD-UNIT_profile   Active   Cloud unit connected and ready.  <<-- new Cloud Unit
------------   ------------------   ------   -------------------------------

Cloud Data-Movement Configuration
---------------------------------
Mtree                             Target(Tier/Unit Name)   Policy        Value
-------------------------------   ----------------------   -----------   -------
/data/col1/NW-STORAGE-UNIT        Cloud/CLOUD-UNIT02       app-managed   enabled  <<-- target cloud unit changed from "CLOUD-UNIT"
-------------------------------   ----------------------   -----------   -------

Když se spustí stávající i nové zásady vrstvení softwaru NW, vytvoří se klony uložených sad, které se odešlou do cloudu. Klony se vytvoří v rámci stejné úložné jednotky pod jiným zařízením (podadresářem) a soubory v softwaru NW cloudových zařízení se označí pro přesun dat.

Když přesun dat DD proběhne podle plánu, budou všechny soubory v jedné úložné jednotce NW uvedeny a určeny, zda jsou způsobilé (označené) pro přesun dat a nejsou zatím v žádné cloudové jednotce. Bez ohledu na to, o jaký podadresář (zařízení) v systému DD se jedná, všechny označené soubory pro přesun dat, které se ještě nenacházejí v cloudové jednotce, budou postupně jednotlivě odeslány do cílové cloudové jednotky (CLOUD-UNIT02).

Po úspěšném zkopírování souboru do cloudu a ověření systémem DD se soubor „nainstaluje“, což znamená, že systém DD změní CH (Content Handle) tak, aby označoval fyzické umístění souboru (aby bylo možné najít data pro soubor buď v aktivní vrstvě, nebo v kterékoli ze dvou cloudových jednotek).

Když se později zálohovací aplikace pokusí číst nebo volat soubory v cloudu, fyzické umístění dat souboru je pro software NW transparentní, protože systém DD přesně ví, odkud má data číst. To je oddělené od aktuální konfigurace přesunu dat DD.


9. A konečně, zákazník v příkladu na začátku nedodržoval dokumentaci k softwaru NW (zaznamenal závažné problémy s výkonem klonování NW) a došlo k trojnásobnému uložení stejného názvu sítě SSID (jednou v aktivní a jednou v každé ze dvou cloudových jednotek), což je naprosto v pořádku (i když to může být z hlediska nakonfigurovaných zásad uchovávání plýtvání místem):

--------------------------------                                                                                  ----------------------      -----         ---------------------------
File Name                                                                                                         Location(Unit Name)         Size          Placement Time
--------------------------------                                                                                  ----------------------      -----         ---------------------------
/data/col1/NW-STORAGE-UNIT/MONTHLY-FS-DEV05/85/72/365bdbce-00000006-3157c1bc-6657c1bc-32035000-e36c9c56                        Active         1.15 TiB      Thu May 30 04:00:59 2024
/data/col1/NW-STORAGE-UNIT/CLOUD-LONG-TERM-DEV04 /85/72/365bdbce-00000006-3157c1bc-6657c1bc-32035000-e36c9c56              CLOUD-UNIT         1.15 TiB      Sat Jun  1 11:13:33 2024
/data/col1/NW-STORAGE-UNIT-CT/CLOUD-LONG-TERM02-DEV07/85/72/365bdbce-00000006-3157c1bc-6657c1bc-32035000-e36c9c56        CLOUD-UNIT02         1.15 TiB      Tue Jun 18 10:49:10 2024

Existují tři kopie stejného souboru, z nichž dvě byly přesunuty do cloudu, jedna do každé cloudové jednotky.
Když se software NW pokusí číst z kteréhokoli z nich, systém DD ví, kde se každý z nich nachází, a transparentně udělá to, co je potřeba, aby doručil data zpět do softwaru NW bez jakéhokoli rozdílu oproti situaci pouze s aktivní vrstvou.
Platnost každého ze tří souborů nakonec vyprší a software NW je odstraní.