Шкала потужності: Використання AutoBalanceLin для швидкого переміщення даних з повного пулу вузлів
Summary: У цій статті описано, як використовувати завдання AutoBalanceLin для швидкого звільнення місця, якщо пул одного вузла заповнений або майже заповнений на 100%. Цю процедуру слід використовувати лише в тому випадку, якщо всі інші методи звільнення дискового простору на nodepool були вичерпані. ...
Instructions
Примітка. Наведена нижче процедура вимагає видалення існуючих політик пулу файлів і чергування даних по всіх вузлах, незалежно від робочого процесу, до якого належать дані.
Без політик пулу файлів керування даними між пулами або рівнями не відбувається.
Переконайтеся, що вплив цієї процедури повністю вивчений, оскільки вона може призвести до погіршення продуктивності.
Виконуйте це лише як останню спробу після того, як були зроблені всі інші варіанти вирішення проблем з потужностями.
Широко поширена думка, що AutoBalance і AutoBalanceLin балансують дані тільки в пулах вузлів, а не між пулами вузлів. Крім того, вважається, що лише smartpools/smartpoolstree можуть переміщати дані між двома пулами вузлів.
Тестування на OneFS 8.0 і вище доводить, що це не зовсім так. Якщо кластер має лише стандартну політику пулу файлів «будь-де:будь-де», AutoBalanceLin і AutoBalance переміщують дані між кількома пулами вузлів.
Це слід використовувати лише як аварійний обхідний шлях для кластерів, які мають один повний пул вузлів. Цей процес швидко переміщує дані з усього пулу вузлів.
Питання: У яких випадках слід використовувати наступну процедуру?
Відповідь: Ця процедура буде використовуватися при наявності наступних умов:
a. Кластер містить кілька пулів вузлів, і один або кілька пулів вузлів заповнені
на 100%.b. Існує негайна вимога звільнити місце на диску в повному пулі вузлів.
c. Точна організація даних не є безпосередньою проблемою.
Кроки:
1) Запишіть, а потім видаліть усі існуючі політики пулу файлів, крім політики пулу файлів 'default' 'any:any', яка поставляється з кластером.
Перш ніж приступити до цього кроку:
a) Запишіть поточну конфігурацію політики пулу файлів, перш ніж видаляти політики. Якщо дозволяє час, рекомендується зібрати повну колоду.
b) За замовчуванням кластери Isilon налаштовані з політикою пулу файлів за замовчуванням, встановленою для запису даних у будь-яке місце. Перш ніж продовжити, переконайтеся, що політику пулу файлів за замовчуванням повернуто до цих налаштувань за замовчуванням.
Example: Default File Pool Policy. Observe that the Storage Targets are set to 'anywhere'.
# isi filepool default-policy view
Set Requested Protection: default
Data Access Pattern: concurrency
Enable Coalescer: Yes
Enable Packing: No
Data Storage Target: anywhere
Data SSD Strategy: metadata
Snapshot Storage Target: anywhere
Snapshot SSD Strategy: metadata
Cloud Pool: -
Cloud Compression Enabled: -
Cloud Encryption Enabled: -
Cloud Data Retention: -
Cloud Incremental Backup Retention: -
Cloud Full Backup Retention: -
Cloud Accessibility: -
Cloud Read Ahead: -
Cloud Cache Expiration: -
Cloud Writeback Frequency: -
Cloud Archive Snapshot Files: -
ID: -
2) Запустіть завдання SmartPools, щоб застосувати нові позначки каталогів:
# isi job start smartpools -p 1 --policy medium
Примітка. Очікуйте, що робота Smartpools завершиться швидше, ніж зазвичай, маючи лише політику пулу файлів anywhere:anywhere за замовчуванням.
3) Запустіть завдання AutoBalanceLin протягом кількох годин і контролюйте простір. (Примітка: на відміну від AutoBalance, який робить повний обхід дерева перед переміщенням будь-яких даних, AutoBalanceLin негайно змінює дані)
# isi job start autobalancelin -p 1 --policy medium
Майже відразу зверніть увагу, що дані переміщуються між пулами вузлів, і весь пул вузлів повинен звільнитися на диску.
Примітка. Для цього кроку AutoBalanceLin не обов'язково бігти до завершення. Слідкуйте за завданням AutoBalanceLin, доки не буде досягнуто мети очищення всього пулу вузлів, а потім скасуйте завдання. Наприклад, ви можете скасувати завдання, коли повний пул вузлів скоротиться до 85% від ємності.
Примітка: Слідкуйте за використанням кластера та підтверджуйте, що інші завдання скасовано або призупинено, якщо це негативно впливає на простір.
Продовжуйте контролювати простір кожну годину або близько того, доки простір не досягне достатнього рівня, використовуючи наступну команду:
# isi stat -p -v
Примітка. Знову ж таки, не рекомендується дозволяти AutoBalanceLin працювати до кінця. У певний момент робота може зрушити дані в новому напрямку, і вона може почати давати небажані результати. Наприклад, це змінює рух даних, що може призвести до того, що інший пул вузлів наближається до повної потужності, коли попередній пул спустошується. Запускайте AutobalanceLIN лише протягом кількох годин або до тих пір, поки простір не буде очищено, а потім скасовуйте, як тільки мета буде досягнута.
Як тільки кластер досягне рельєфу в просторі на повному пулі вузлів, скасуйте завдання AutoBalanceLin:
# isi job cancel autobalancelin
Примітка: для досягнення оптимальних результатів рівні захисту між пулами вузлів повинні мати однакове значення.
Additional Information
Результати
лабораторних випробувань Два пули вузлів, рівні захисту
Це перед:
Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 29.9T (35%) 35.2G (2%) Avail: 55.3T (65%) 2.1T (98%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK |881.6| 0|881.6|10.0T/31.5T( 32%)|11.7G/ 738G( 2%) 6|10.5.80.191 |-A-- | 0| 0| 0|10.0T/31.5T( 32%)|11.7G/ 738G( 2%) 7|10.5.80.192 | OK | 0| 0| 0|10.0T/31.5T( 32%)|11.7G/ 738G( 2%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK |110.2| 0|110.2|29.9T/85.2T( 35%)|35.2G/ 2.2T( 2%) Node Pool Name: x410_35tb_800gb-ssd_64gbProtection: +2d:1n Pool Storage: HDD SSD Storage Size: 112.8T (125.3T Raw) 2.9T (2.9T Raw) VHS Size: 12.5T Used: 5.6T (5%) 7.9G (< 1%) Avail: 107.2T (95%) 2.9T (> 99%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 1|10.5.80.186 | OK | 2.9M|82.8M|85.6M| 1.4T/31.5T( 4%)| 2.0G/ 738G(< 1%) 2|10.5.80.187 |-A-- | 104k|38.8k| 143k| 1.4T/30.6T( 5%)| 1.9G/ 738G(< 1%) 3|10.5.80.188 | OK |881.6| 0|881.6| 1.4T/31.5T( 4%)| 2.0G/ 738G(< 1%) 4|10.5.80.189 | OK | 0|25.8k|25.8k| 1.4T/31.5T( 4%)| 2.0G/ 738G(< 1%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_35tb_800gb-ssd|-M---| 371k|10.4M|10.7M| 5.6T/112.8T( 5%)| 7.9G/ 2.9T(< 1%) _64gb | | | | | | X410-2# date Thu Jun 14 16:53:29 CDT 2018 one filepool policy set to default any:any X410-2# isi job start autobalancelin -p 1 --policy medium Started job [7159] in as little as 30 minutes you will see data shift between the two pools, i.e. our first node pool, below, dropped from 32% full to 29% X410-2# date Thu Jun 14 17:24:20 CDT 2018 Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 27.7T (33%) 34.3G (2%) Avail: 57.5T (67%) 2.1T (98%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK | 1.1k|25.8k|26.9k| 9.2T/31.5T( 29%)|11.4G/ 738G( 2%) 6|10.5.80.191 |-A-- | 1.1k| 1.2M| 1.2M| 9.2T/31.5T( 29%)|11.4G/ 738G( 2%) 7|10.5.80.192 | OK |28.6k| 5.2k|33.7k| 9.2T/31.5T( 29%)|11.4G/ 738G( 2%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK | 3.8k| 152k| 156k|27.7T/85.2T( 33%)|34.3G/ 2.2T( 2%) Node Pool Name: x410_35tb_800gb-ssd_64gbProtection: +2d:1n Pool Storage: HDD SSD Storage Size: 112.8T (125.3T Raw) 2.9T (2.9T Raw) VHS Size: 12.5T Used: 7.6T (7%) 8.8G (< 1%) Avail: 105.2T (93%) 2.9T (> 99%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 1|10.5.80.186 | OK |37.9k| 279k| 316k| 1.9T/31.5T( 6%)| 2.2G/ 738G(< 1%) 2|10.5.80.187 |-A-- | 1.4M|34.8M|36.2M| 1.9T/30.6T( 6%)| 2.2G/ 738G(< 1%) 3|10.5.80.188 | OK | 130k|30.9k| 161k| 1.9T/31.5T( 6%)| 2.2G/ 738G(< 1%) 4|10.5.80.189 | OK | 0| 0| 0| 1.9T/31.5T( 6%)| 2.2G/ 738G(< 1%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_35tb_800gb-ssd|-M---| 198k| 4.4M| 4.6M| 7.6T/112.8T( 7%)| 8.8G/ 2.9T(< 1%) _64gb | | | | | |
Продовжуйте стежити кожну годину або близько того, поки дисковий простір не досягне достатнього рівня.
Примітка. Не дозволяйте AutoBalanceLin працювати до завершення. Робота зміщує дані в протилежному напрямку, що може почати давати небажані результати. Споживаний дисковий простір може змінитися на протилежний, що може призвести до майже повного пулу вузлів знову. Виконуйте роботу лише на кілька годин.
Годинна точка:
X410-2# date Thu Jun 14 17:54:30 CDT 2018 Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 25.2T (30%) 33.9G (2%) Avail: 60.0T (70%) 2.1T (98%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK |881.6|20.6k|21.5k| 8.4T/31.5T( 27%)|11.3G/ 738G( 2%) 6|10.5.80.191 |-A-- | 0| 0| 0| 8.4T/31.5T( 27%)|11.3G/ 738G( 2%) 7|10.5.80.192 | OK | 2.2k| 216k| 218k| 8.4T/31.5T( 27%)|11.3G/ 738G( 2%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK |385.7|29.5k|29.9k|25.2T/85.2T( 30%)|33.9G/ 2.2T( 2%) X410-2# date Thu Jun 14 18:54:43 CDT 2018 Node Pool Name: x410_archive Protection: +2d:1n Pool Storage: HDD SSD Storage Size: 85.2T (94.6T Raw) 2.2T (2.2T Raw) VHS Size: 9.4T Used: 21.6T (25%) 26.8G (1%) Avail: 63.6T (75%) 2.1T (99%) Throughput (bps) HDD Storage SSD Storage Name Health| In Out Total| Used / Size |Used / Size -------------------+-----+-----+-----+-----+-----------------+----------------- 5|10.5.80.190 | OK |22.9k| 1.4M| 1.5M| 7.2T/31.5T( 23%)| 8.9G/ 738G( 1%) 6|10.5.80.191 |-A-- |881.6| 231k| 232k| 7.2T/31.5T( 23%)| 8.9G/ 738G( 1%) 7|10.5.80.192 | OK | 0| 0| 0| 7.2T/31.5T( 23%)| 8.9G/ 738G( 1%) -------------------+-----+-----+-----+-----+-----------------+----------------- x410_archive | OK | 3.0k| 210k| 213k|21.6T/85.2T( 25%)|26.8G/ 2.2T( 1%)
Простір в достатній мірі прибирається. Завдання AutoBalanceLin може бути скасовано, оскільки бажані результати були досягнуті.