PowerScale: Använda AutoBalanceLin för att snabbt flytta data från en full nodpool
Summary: I den här artikeln beskrivs hur du använder AutoBalanceLin-jobbet för att snabbt frigöra utrymme om en enskild nodpool är full eller nästan 100 % kapacitet. Den här proceduren bör endast användas om alla andra metoder för att frigöra diskutrymme i en nodpool har uttömts. ...
Instructions
Notera: Följande procedur kräver att befintliga filpoolsprinciper tas bort och att data stripas över alla noder , oavsett vilket arbetsflöde som data tillhör.
Utan filpoolsprinciper sker ingen hantering av data mellan poolerna eller nivåerna.
Se till att du förstår effekten av den här proceduren eftersom den kan leda till försämrad prestanda.
Utför detta endast som en sista desperat ansträngning efter att alla andra alternativ för att lösa kapacitetsproblem har prövats.
Det är allmänt vedertaget att AutoBalance och AutoBalanceLin endast balanserar data inom nodpooler och inte mellan nodpooler. Man tror också att endast smartpools/smartpoolstree kan flytta data mellan två nodpooler.
Tester på OneFS 8.0 och senare visar att detta inte är helt sant. Om klustret bara har standardprincipen för filpooler "anywhere:anywhere" flyttar AutoBalanceLin och AutoBalance data över flera nodpooler.
Detta bör endast användas som en nödlösning för kluster som har en fullständig nodpool. Den här processen flyttar data snabbt från den fullständiga nodpoolen.
Fråga: När skulle man vilja använda följande procedur?
Svar: Denna procedur används när följande villkor föreligger:
a. Klustret innehåller flera nodpooler och en eller flera av nodpoolerna är 100 % fulla.
b. Det finns ett omedelbart krav på att frigöra diskutrymme i en fullständig nodpool.
c. Den exakta organisationen av uppgifterna är inte ett omedelbart problem.
Trappsteg:
1) Anteckna och ta bort alla befintliga filpoolsprinciper förutom standardprincipen för filpoolen "any:any" som levereras med klustret.
Innan du fortsätter med det här steget:
a) Registrera den aktuella filpoolsprincipkonfigurationen innan du tar bort policyerna. Om tiden tillåter rekommenderas en fullständig logginsamling.
b) Som standard konfigureras Isilon-kluster med standardfilpoolspolicyn inställd på att skriva data till "anywhere:anywhere". Kontrollera att standardfilpoolsprincipen återställs till dessa standardinställningar innan du fortsätter.
Example: Default File Pool Policy. Observe that the Storage Targets are set to 'anywhere'.
# isi filepool default-policy view
Set Requested Protection: default
Data Access Pattern: concurrency
Enable Coalescer: Yes
Enable Packing: No
Data Storage Target: anywhere
Data SSD Strategy: metadata
Snapshot Storage Target: anywhere
Snapshot SSD Strategy: metadata
Cloud Pool: -
Cloud Compression Enabled: -
Cloud Encryption Enabled: -
Cloud Data Retention: -
Cloud Incremental Backup Retention: -
Cloud Full Backup Retention: -
Cloud Accessibility: -
Cloud Read Ahead: -
Cloud Cache Expiration: -
Cloud Writeback Frequency: -
Cloud Archive Snapshot Files: -
ID: -
2) Kör ett SmartPools-jobb för att tillämpa nya katalogmarkeringar:
# isi job start smartpools -p 1 --policy medium
Obs! Förvänta dig att Smartpools-jobbet slutförs snabbare än vanligt med endast standardprincipen för filpool var som helst:var som helst på plats.
3) Kör ett AutoBalanceLin-jobb i några timmar och övervaka utrymmet. (Obs: till skillnad från AutoBalance, som gör en hel trädvandring innan data flyttas, omstripar AutoBalanceLin data omedelbart)
# isi job start autobalancelin -p 1 --policy medium
Observera nästan omedelbart att data flyttas runt mellan nodpoolerna och att den fullständiga nodpoolen bör frigöras i diskutrymme.
Notera: För det här steget behöver AutoBalanceLin inte slutföras. Övervaka AutoBalanceLin-jobbet tills målet att rensa hela nodpoolen har uppnåtts och avbryt sedan jobbet. Du kan till exempel avbryta jobbet när den fullständiga nodpoolen är nere på 85 % av kapaciteten.
Not: Övervaka klusteranvändningen och bekräfta att andra jobb avbryts eller pausa om utrymmet påverkas negativt.
Fortsätt att övervaka utrymmet ungefär en gång i timmen tills utrymmet är på en tillräcklig nivå med följande kommando:
# isi stat -p -v
Obs! Återigen, det är inte tillrådligt att låta AutoBalanceLin köras till slut. Vid en viss tidpunkt kan jobbet flytta data i en ny riktning och det kan börja ge oönskade resultat. Den vänder till exempel dataflytten, vilket kan leda till att den andra nodpoolen närmar sig full kapacitet när den tidigare poolen töms. Kör bara AutobalanceLIN i några timmar, eller tills utrymmet rensas, och avbryt sedan när målet är uppnått.
När klustret har uppnått lättnad i utrymmet på den fullständiga nodpoolen avbryter du AutoBalanceLin-jobbet:
# isi job cancel autobalancelin
Obs! För optimala resultat bör skyddsnivåerna mellan nodpoolerna vara lika värde.
Additional Information
Labbtestresultat
Två nodpooler, samma skyddsnivåer
Det här är innan:
Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 29.9T (35%) 35.2G (2%) Avail: 55.3T (65%) 2.1T (98%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK |881.6| 0|881.6|10.0T/31.5T( 32%)|11.7G/ 738G( 2%) 6|10.5.80.191 |-A-- | 0| 0| 0|10.0T/31.5T( 32%)|11.7G/ 738G( 2%) 7|10.5.80.192 | OK | 0| 0| 0|10.0T/31.5T( 32%)|11.7G/ 738G( 2%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK |110.2| 0|110.2|29.9T/85.2T( 35%)|35.2G/ 2.2T( 2%) Node Pool Name: x410_35tb_800gb-ssd_64gbProtection: +2d:1n Pool Storage: HDD SSD Storage Size: 112.8T (125.3T Raw) 2.9T (2.9T Raw) VHS Size: 12.5T Used: 5.6T (5%) 7.9G (< 1%) Avail: 107.2T (95%) 2.9T (> 99%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 1|10.5.80.186 | OK | 2.9M|82.8M|85.6M| 1.4T/31.5T( 4%)| 2.0G/ 738G(< 1%) 2|10.5.80.187 |-A-- | 104k|38.8k| 143k| 1.4T/30.6T( 5%)| 1.9G/ 738G(< 1%) 3|10.5.80.188 | OK |881.6| 0|881.6| 1.4T/31.5T( 4%)| 2.0G/ 738G(< 1%) 4|10.5.80.189 | OK | 0|25.8k|25.8k| 1.4T/31.5T( 4%)| 2.0G/ 738G(< 1%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_35tb_800gb-ssd|-M---| 371k|10.4M|10.7M| 5.6T/112.8T( 5%)| 7.9G/ 2.9T(< 1%) _64gb | | | | | | X410-2# date Thu Jun 14 16:53:29 CDT 2018 one filepool policy set to default any:any X410-2# isi job start autobalancelin -p 1 --policy medium Started job [7159] in as little as 30 minutes you will see data shift between the two pools, i.e. our first node pool, below, dropped from 32% full to 29% X410-2# date Thu Jun 14 17:24:20 CDT 2018 Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 27.7T (33%) 34.3G (2%) Avail: 57.5T (67%) 2.1T (98%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK | 1.1k|25.8k|26.9k| 9.2T/31.5T( 29%)|11.4G/ 738G( 2%) 6|10.5.80.191 |-A-- | 1.1k| 1.2M| 1.2M| 9.2T/31.5T( 29%)|11.4G/ 738G( 2%) 7|10.5.80.192 | OK |28.6k| 5.2k|33.7k| 9.2T/31.5T( 29%)|11.4G/ 738G( 2%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK | 3.8k| 152k| 156k|27.7T/85.2T( 33%)|34.3G/ 2.2T( 2%) Node Pool Name: x410_35tb_800gb-ssd_64gbProtection: +2d:1n Pool Storage: HDD SSD Storage Size: 112.8T (125.3T Raw) 2.9T (2.9T Raw) VHS Size: 12.5T Used: 7.6T (7%) 8.8G (< 1%) Avail: 105.2T (93%) 2.9T (> 99%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 1|10.5.80.186 | OK |37.9k| 279k| 316k| 1.9T/31.5T( 6%)| 2.2G/ 738G(< 1%) 2|10.5.80.187 |-A-- | 1.4M|34.8M|36.2M| 1.9T/30.6T( 6%)| 2.2G/ 738G(< 1%) 3|10.5.80.188 | OK | 130k|30.9k| 161k| 1.9T/31.5T( 6%)| 2.2G/ 738G(< 1%) 4|10.5.80.189 | OK | 0| 0| 0| 1.9T/31.5T( 6%)| 2.2G/ 738G(< 1%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_35tb_800gb-ssd|-M---| 198k| 4.4M| 4.6M| 7.6T/112.8T( 7%)| 8.8G/ 2.9T(< 1%) _64gb | | | | | |
Fortsätt att övervaka ungefär en gång i timmen tills diskutrymmet är på en tillräcklig nivå.
Notera: Låt inte AutoBalanceLin köras tills det är klart. Jobbet flyttar data i motsatt riktning, vilket kan börja ge oönskade resultat. Det diskutrymme som förbrukas kan vändas, vilket kan leda till en nästan full nodpool igen. Kör bara jobbet i några timmar.
En timme:
X410-2# date Thu Jun 14 17:54:30 CDT 2018 Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 25.2T (30%) 33.9G (2%) Avail: 60.0T (70%) 2.1T (98%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK |881.6|20.6k|21.5k| 8.4T/31.5T( 27%)|11.3G/ 738G( 2%) 6|10.5.80.191 |-A-- | 0| 0| 0| 8.4T/31.5T( 27%)|11.3G/ 738G( 2%) 7|10.5.80.192 | OK | 2.2k| 216k| 218k| 8.4T/31.5T( 27%)|11.3G/ 738G( 2%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK |385.7|29.5k|29.9k|25.2T/85.2T( 30%)|33.9G/ 2.2T( 2%) X410-2# date Thu Jun 14 18:54:43 CDT 2018 Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 21.6T (25%) 26.8G (1%) Avail: 63.6T (75%) 2.1T (99%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK |22.9k| 1.4M| 1.5M| 7.2T/31.5T( 23%)| 8.9G/ 738G( 1%) 6|10.5.80.191 |-A-- |881.6| 231k| 232k| 7.2T/31.5T( 23%)| 8.9G/ 738G( 1%) 7|10.5.80.192 | OK | 0| 0| 0| 7.2T/31.5T( 23%)| 8.9G/ 738G( 1%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK | 3.0k| 210k| 213k|21.6T/85.2T( 25%)|26.8G/ 2.2T( 1%)
Utrymmet är tillräckligt städat. AutoBalanceLIn-jobbet kan avbrytas eftersom de önskade resultaten har uppnåtts.