VMware: Посібник з усунення несправностей фізичного диска vSAN

Перевірка стану фізичного диска vSAN з веб-інтерфейсу:

Підключіться до веб-клієнта vCenter Server і перевірте стан диска з:
 
Інвентаризації > Хост і кластери > Налаштування vSAN Cluster > Керування > дисками vSAN >Малюнок 1: Перегляд

керування дисками vSAN Виберіть уражений хост, а потім розгорніть розділ перегляду диска:

Малюнок 2: Перегляд

групи дисків vSAN Тут ви можете перевірити, чи виявлено диск, як:


 
Несправний
Немонтований
0 Ємність
Постійний вихід з ладу
диска Диск Даун
Диск відсутній
 
Також перевірте наявність сигналів, пов'язаних з диском, спрацьованих з розділу vSAN Skyline Health:
 
Інвентаризації > Хост і кластери > vSAN Cluster > Monitor > vSAN > Skyline Health > Фізичний диск Малюнок

3: Перегляд

Skyline Health Тут ви можете перевірити, чи спрацьовує будь-який із наведених нижче сигналів тривоги:
 
Насувається постійний вихід з ладу диска, проводиться евакуація даних (Стан здоров'я - Жовтий).
Насувається постійний вихід з ладу диска, не вдалося евакуювати дані через недостатню кількість ресурсів (стан здоров'я - червоний).
Насувається постійний вихід з ладу диска, не вдалося евакуювати дані через недоступні об'єкти (стан здоров'я - червоний).
Загроза постійного виходу диска з ладу, евакуація даних завершена (стан здоров'я - жовтий)Також
 
ви можете перевірити стан диска зі списку пристроїв зберігання даних відповідного хоста:
 
Інвентаризації > Хост і кластери vSAN Cluster > Affected vSAN ESXi Host > Configure Storage >> Devices Малюнок 4:>

Перегляд

основних пристроїв зберігання даних Тут ви можете перевірити, чи є стан диска:
 
0 Ємність
диска відсутня
Диск демонтовано
 
Перевірте, чи відбувається повторна синхронізація:
 
Інвентаризації > Хост і кластери > vSAN Cluster > Monitor > vSAN > Повторна синхронізація об'єктів:

Малюнок 5: Перегляд «Повторна синхронізація об'єктів»

 
Перевірте статус Об'єктів vSAN:
 
Інвентаризації > Хост і кластери > vSAN Cluster > Monitor > vSAN > Skyline Health > Data > vSAN Стан

об'єкта vSAN Зображення 6: перегляд стану об'єкта vSAN

 
Наступним кроком є збір додаткової інформації про проблему через CLI та перевірка журналів:

Перевірка статусу фізичного диска vSAN від CLI:

Підключіться через SSH до ураженого хосту та виконайте наступні команди:
 

vdq -qH

Перевірте параметр "IsPDL" (постійна втрата пристрою). Якщо воно дорівнює 1, диск втрачається.
 
Приклад:
 

DiskResults:
 DiskResult[0]:
 Name: naa.600508b1001c4b820b4d80f9f8acfa95
 VSANUUID: 5294bbd8-67c4-c545-3952-7711e365f7fa
 State: In-use for VSAN
 ChecksumSupport: 0
 Reason: Non-local disk
 IsSSD?: 0
IsCapacityFlash?: 0
 IsPDL?: 0
 <<truncated>>
 DiskResult[18]:
 Name:
 VSANUUID: 5227c17e-ec64-de76-c10e-c272102beba7
 State: In-use for VSAN
 ChecksumSupport: 0
 Reason: None
 IsSSD?: 0
IsCapacityFlash?: 0
 IsPDL?: 1

 

vdq -iH

Перевірте, чи немає відсутнього диска в групі дисків.
 
Приклад:
 

Mappings:
DiskMapping[0]:
SSD: naa.58ce38ee2016ffe5
MD: naa.5002538a4819e3e0
 
DiskMapping[2]:
SSD: naa.58ce38ee2016fe55
MD: naa.5002538a48199ca0
MD: naa.5002538a48199e20
MD: naa.5002538a48199e00

 

esxcli vsan storage list

Перевірте за параметром "In CMMDS". Якщо false, то зв'язок з диском втрачається.
 
Приклад:
 

Device: Unknown
Display Name: Unknown
Is SSD: false
VSAN UUID: 529cadbc-acd1-b588-8643-68336d5512d6
VSAN Disk Group UUID:
VSAN Disk Group Name:
Used by this host: false
In CMMDS: false
On-disk format version: <Unknown>
Deduplication: false
Compression: false
Checksum:
Checksum OK: false
Is Capacity Tier: false

 

for i in `esxcli  storage core device list | grep ^naa` ; do echo $i; esxcli storage core device smart get -d $i; done.

Перевірте наявність помилок читання/запису за допомогою команди smart get.
 
Приклад:
 

naa.55cd2e404c1f35a1
Parameter                   Value  Threshold  Worst  Raw
--------------------------  -----  ---------  -----  ---
Health Status               OK     N/A        N/A    N/A
Media Wearout Indicator     100    0          100    86
Read Error Count            130    39         130    133
Power-on Hours              100    0          100    110
Power Cycle Count           100    0          100    106
Drive Temperature           100    0          100    26
Uncorrectable Sector Count  100    0          100    0

naa.55cd2e404c1f35a5
Parameter                   Value  Threshold  Worst  Raw
--------------------------  -----  ---------  -----  ---
Health Status               OK     N/A        N/A    N/A
Media Wearout Indicator     100    0          100    10
Read Error Count            130    39         130    53
Power-on Hours              100    0          100    110
Power Cycle Count           100    0          100    106
Drive Temperature           100    0          100    27
Uncorrectable Sector Count  100    0          100    0

 

esxcli vsan storage list | grep "VSAN Disk Group UUID:" | sort | uniq -c

Перевірте наявність вільних груп дисків.
 
Приклад:
 

      2    VSAN Disk Group UUID: 5203424c-ee56-497d-75d1-fcf73ae997cb
      2    VSAN Disk Group UUID: 52af8e5c-77d1-b552-3310-ec5fef09edf4

 

while true;do echo " ****************************************** "; echo "" > /tmp/resyncStats.txt ;cmmds-tool find -t DOM_OBJECT -f json |grep uuid |awk -F \" '{print $4}' |while read i;do pendingResync=$(cmmds-tool  find -t DOM_OBJECT -f json -u $i|grep -o "\"bytesToSync\": [0-9]*,"|awk -F " |," '{sum+=$2} END{print sum / 1024 / 1024 / 1024;}');if [ ${#pendingResync} -ne 1 ]; then echo "$i: $pendingResync GiB";fi;done |tee -a /tmp/resyncStats.txt;total=$(cat /tmp/resyncStats.txt |awk '{sum+=$2} END{print sum}');echo "Total: $total GiB" |tee -aa /tmp/resyncStats.txt;total=$(cat /tmp/resyncStats.txt  |grep Total);totalObj=$(cat /tmp/resyncStats.txt|grep -vE " 0 GiB|Total"|wc -l);echo "`date +%Y-%m-%dT%H:%M:%SZ` $total ($totalObj objects)" >> /tmp/totalHistory.txt; echo `date `; sleep 60; done

Перевірте, чи немає поточних або застряглих операцій повторної синхронізації.
 
Приклад:
 

Total: 0 GiB
Mon Feb 13 17:32:06 UTC 2023

Натисніть Ctrl+C , щоб зупинити команду.
 

cmmds-tool find -f python | grep CONFIG_STATUS -B 4 -A 6 | grep 'uuid\|content' | grep -o 'state\\\":\ [0-9]*' | sort | uniq -c

Перевірте стан компонентів.
 
Здоровий -- стан 7
Недоступний -- стан 13
Відсутній або деградований -- стан 15
 
Приклад:
 

    425 state\": 7

 
Як визначити, де знаходиться вийшов з ладу SSD або HARD DRIVE по CLI:
 
Перерахуйте всі доступні пристрої:

esxcli storage core device list | grep "naa" | awk '{print $1}' | grep "naa"

Приклад:
 

naa.5000c500852df8d3
naa.55cd2e404c1f35a1
naa.55cd2e404c1f35a5
naa.5000c500852dd5e7

Перевірте розташування за допомогою кожного диска naa зі списку:

esxcli storage core device physical get -d

 
Приклад:
 

esxcli storage core device physical get -d naa.5000c500852df8d3
esxcli storage core device physical get -d naa.55cd2e404c1f35a1
esxcli storage core device physical get -d naa.55cd2e404c1f35a5
esxcli storage core device physical get -d naa.5000c500852dd5e7
 
   Physical Location: enclosure 65535 slot 0
   Physical Location: enclosure 65535 slot 1
   Physical Location: enclosure 65535 slot 2
   Physical Location: enclosure 65535 slot 3

Як визначити вийшов з ладу HARD DRIVE або SSD, якщо ім'я пристрою відсутнє:

Можливо, що вийшов з ладу диск не виявлений і не може бути ідентифікований за допомогою відповідного naa. У цьому сценарії потрібно знайти всі диски, і той, який фізично не знайдений, буде тим, який вийшов з ладу.

Ось скрипт, за допомогою якого можна виконати завдання трохи швидше:

echo "=============Physical disks placement=============="
echo ""
esxcli storage core device list | grep "naa" | awk '{print $1}' | grep "naa" | while read in; do
echo "$in"
esxcli storage core device physical get -d "$in"
sleep 1
echo "===================================================="
done

Актуальні журнали vSAN з питань, пов'язаних зі зберіганням:
 
/var/log/vmkernel.log
Проблеми зі читанням та записом на диски vSAN, серцебиття хоста vSAN, PDL, коди датчиків SCSI та запити введення-виведення (читання/запис), а також інформацію про членство в кластері.
 
Приклад:
 

2021-06-22T12:02:08.408Z cpu30:1001397101)ScsiDeviceIO: PsaScsiDeviceTimeoutHandlerFn:12834: TaskMgmt op to cancel IO succeeded for device naa.55cd2e404b7736d0 and the IO did not complete. WorldId 0, Cmd 0x28, CmdSN = 0x428.Cancelling of IO will be
2021-06-22T12:02:08.408Z cpu30:1001397101)retried.

/var/log/vobd.log
Звіти про стан диска, постійні втрачені диски пристрою (PDL), затримку диска, а також звіти про те, коли хост входить у режим обслуговування та виходить з нього.
 
Приклад:
 

2022-05-31T11:42:46.065Z: [vSANCorrelator] 10605891965954us: [vob.vsan.lsom.devicerepair] vSAN device 521a74ce-c980-c16c-ff3d-38a036233daf is being repaired due to I/O failures, and will be out of service until the repair is complete. If the device is part of a dedup disk group, the entire disk group will be out of service until the repair is complete.
2022-05-31T11:42:46.065Z: [vSANCorrelator] 10606062774178us: [esx.problem.vob.vsan.lsom.devicerepair] Device 521a74ce-c980-c16c-ff3d-38a036233daf is in offline state and is getting repaired

/var/log/vsandevicemonitord.log
Це допоможе вам визначити, чи було диск позначено як несправний через надмірне перевантаження журналу або затримки введення-виведення.
 
Приклад:
 

INFO vsandevicemonitord WARNING - WRITE Average Latency on VSAN device naa.50000xxxxxxxx has exceeded threshold value 2000000 us 2 times.
INFO vsandevicemonitord Tier 2 (naa.50000xxxxxxxx) as unhealthy

VxRail, PowerEdge C6420, PowerEdge C6520, PowerEdge C6525, PowerEdge C6615, PowerEdge C6620, PowerEdge M640 (for PE VRTX), PowerEdge R440, PowerEdge R450, PowerEdge R540, PowerEdge R550, PowerEdge R640, PowerEdge R6415, PowerEdge R650 , PowerEdge R650xs, PowerEdge R6515, PowerEdge R6525, PowerEdge R660, PowerEdge R660xs, PowerEdge R6615, PowerEdge R6625, PowerEdge R740, PowerEdge R740XD, PowerEdge R740XD2, PowerEdge R7415, PowerEdge R7425, PowerEdge R750, PowerEdge R750XA, PowerEdge R750xs, PowerEdge R7515, PowerEdge R7525, PowerEdge R760, PowerEdge R760XA, PowerEdge R760xd2, PowerEdge R760xs, PowerEdge R7615, PowerEdge R7625, PowerEdge R840, PowerEdge R860, PowerEdge R940, PowerEdge R940xa, PowerEdge R960, PowerEdge T430, PowerEdge T440, PowerEdge T550, PowerEdge T560, PowerEdge T630, PowerEdge T640, Dell EMC vSAN C6420 Ready Node, Dell EMC vSAN MX740c Ready Node, Dell EMC vSAN MX750c Ready Node, Dell vSAN Ready Node MX760c, Dell EMC vSAN R440 Ready Node, Dell EMC vSAN R640 Ready Node, Dell EMC vSAN R6415 Ready Node, Dell EMC vSAN R650 Ready Node, Dell EMC vSAN R6515 Ready Node, vSAN Ready Node R660, Dell vSAN R6615 Ready Node, Dell EMC vSAN R740 Ready Node, Dell EMC vSAN R740xd Ready Node, Dell EMC vSAN R750 Ready Node, Dell EMC vSAN R7515 Ready Node, Dell EMC vSAN R760 Ready Node, Dell vSAN R7615 Ready Node, Dell vSAN Ready Node R7625, Dell EMC vSAN R840 Ready Node, Dell EMC vSAN T350 Ready Node ... View More View Less