VMware: Guida alla risoluzione dei problemi del disco fisico vSAN
Summary: Questa guida generale alla risoluzione dei problemi aiuta a identificare se si verifica un problema con un disco fisico nei cluster vSAN.
Instructions
Controllo dello stato del disco fisico vSAN dall'interfaccia utente web:
Connettersi a vCenter Server Web Client e controllare lo stato del disco da:
Inventario > Host e cluster Cluster > vSAN Configurazione > di > vSAN > Disk Management
Figura 1: vista
vSAN Disk Management Selezionare l'host interessato, quindi espandere la sezione View Disk:
Figura 2: Vista
del gruppo di dischi vSAN Qui è possibile verificare se un disco viene rilevato come:
Non integro
Disinstallato
0 Capacità
Guasto
permanente del disco Disco inattivo
Assente
Inoltre, verificare la presenza di allarmi relativi al disco attivati dalla sezione vSAN Skyline Health:
Inventario > Host e cluster > vSAN Cluster > Monitor > vSAN > Skyline Health > Disco fisico Figura
3: Vista
Integrità Skyline Qui è possibile verificare se è attivato uno dei seguenti allarmi:
Impending permanent disk failure, data is being evacuated (Health state - Yellow).Impending permanent disk failure, data evacuation failed due to insufficient resources (Health state - Red).Impending permanent disk failure, data evacuation failed due to inaccessible objects (Health state - Red).Impending permanent disk failure, data evacuation completed (Health state - Yellow)
Inoltre, è possibile controllare lo stato del disco dall'elenco dei dispositivi di storage dell host interessato:
Inventario > Host e cluster > Cluster > vSAN interessato Host > ESXi vSAN Configurazione dei dispositivi di storage > Figura 4:>
Vista Host Storage Devices
Qui è possibile verificare se lo stato di un disco è:
0 Capacità
Disco assente
Disco disinstallato
Verificare se è in corso una risincronizzazione:
Inventario > Host e cluster > vSAN Cluster > Monitor > vSAN risincronizzazione degli oggetti vSAN > :
Figura 5: Vista Risincronizzazione degli oggetti
Verificare lo stato degli object vSAN:
Inventario > Host e cluster Monitoraggio del cluster > vSAN Dati sull'integrità >> dello skyline vSAN > Figura 6: Vista dello stato degli oggetti vSAN >>
Il passaggio successivo consiste nel raccogliere ulteriori informazioni sul problema tramite CLI e il controllo dei registri:
Verifica dello stato del disco fisico vSAN dalla CLI:
Connettersi tramite SSH all host interessato ed eseguire i seguenti comandi:
vdq -qH
Controllare il "IsPDL" (perdita permanente del dispositivo). Se è uguale a 1, il disco viene perso.
Esempio:
DiskResults:
DiskResult[0]:
Name: naa.600508b1001c4b820b4d80f9f8acfa95
VSANUUID: 5294bbd8-67c4-c545-3952-7711e365f7fa
State: In-use for VSAN
ChecksumSupport: 0
Reason: Non-local disk
IsSSD?: 0
IsCapacityFlash?: 0
IsPDL?: 0
<<truncated>>
DiskResult[18]:
Name:
VSANUUID: 5227c17e-ec64-de76-c10e-c272102beba7
State: In-use for VSAN
ChecksumSupport: 0
Reason: None
IsSSD?: 0
IsCapacityFlash?: 0
IsPDL?: 1
vdq -iH
Verificare se nel gruppo di dischi manca un disco.
Esempio:
Mappings: DiskMapping[0]: SSD: naa.58ce38ee2016ffe5 MD: naa.5002538a4819e3e0 DiskMapping[2]: SSD: naa.58ce38ee2016fe55 MD: naa.5002538a48199ca0 MD: naa.5002538a48199e20 MD: naa.5002538a48199e00
esxcli vsan storage list
Controllare il "In CMMDS" parametro. Se il valore è false, viene persa la comunicazione con il disco.
Esempio:
Device: Unknown
Display Name: Unknown
Is SSD: false
VSAN UUID: 529cadbc-acd1-b588-8643-68336d5512d6
VSAN Disk Group UUID:
VSAN Disk Group Name:
Used by this host: false
In CMMDS: false
On-disk format version: <Unknown>
Deduplication: false
Compression: false
Checksum:
Checksum OK: false
Is Capacity Tier: false
for i in `esxcli storage core device list | grep ^naa` ; do echo $i; esxcli storage core device smart get -d $i; done.
Verificare la presenza di errori di lettura/scrittura con il comando smart get.
Esempio:
naa.55cd2e404c1f35a1 Parameter Value Threshold Worst Raw -------------------------- ----- --------- ----- --- Health Status OK N/A N/A N/A Media Wearout Indicator 100 0 100 86 Read Error Count 130 39 130 133 Power-on Hours 100 0 100 110 Power Cycle Count 100 0 100 106 Drive Temperature 100 0 100 26 Uncorrectable Sector Count 100 0 100 0
naa.55cd2e404c1f35a5 Parameter Value Threshold Worst Raw -------------------------- ----- --------- ----- --- Health Status OK N/A N/A N/A Media Wearout Indicator 100 0 100 10 Read Error Count 130 39 130 53 Power-on Hours 100 0 100 110 Power Cycle Count 100 0 100 106 Drive Temperature 100 0 100 27 Uncorrectable Sector Count 100 0 100 0
esxcli vsan storage list | grep "VSAN Disk Group UUID:" | sort | uniq -c
Verificare la presenza di gruppi di dischi disponibili.
Esempio:
2 VSAN Disk Group UUID: 5203424c-ee56-497d-75d1-fcf73ae997cb 2 VSAN Disk Group UUID: 52af8e5c-77d1-b552-3310-ec5fef09edf4
while true;do echo " ****************************************** "; echo "" > /tmp/resyncStats.txt ;cmmds-tool find -t DOM_OBJECT -f json |grep uuid |awk -F \" '{print $4}' |while read i;do pendingResync=$(cmmds-tool find -t DOM_OBJECT -f json -u $i|grep -o "\"bytesToSync\": [0-9]*,"|awk -F " |," '{sum+=$2} END{print sum / 1024 / 1024 / 1024;}');if [ ${#pendingResync} -ne 1 ]; then echo "$i: $pendingResync GiB";fi;done |tee -a /tmp/resyncStats.txt;total=$(cat /tmp/resyncStats.txt |awk '{sum+=$2} END{print sum}');echo "Total: $total GiB" |tee -aa /tmp/resyncStats.txt;total=$(cat /tmp/resyncStats.txt |grep Total);totalObj=$(cat /tmp/resyncStats.txt|grep -vE " 0 GiB|Total"|wc -l);echo "`date +%Y-%m-%dT%H:%M:%SZ` $total ($totalObj objects)" >> /tmp/totalHistory.txt; echo `date `; sleep 60; done
Verificare se sono presenti operazioni di risincronizzazione in corso o bloccate.
Esempio:
Total: 0 GiB Mon Feb 13 17:32:06 UTC 2023
Premere Ctrl+C per arrestare il comando.
cmmds-tool find -f python | grep CONFIG_STATUS -B 4 -A 6 | grep 'uuid\|content' | grep -o 'state\\\":\ [0-9]*' | sort | uniq -c
Controllare lo stato dei componenti.
Healthy -- state 7Inaccessible -- state 13Absent or Degraded -- state 15
Esempio:
425 state\": 7
Come identificare la posizione dell'unità SSD o del DISCO RIGIDO guasta sulla CLI:
Elencare tutti i dispositivi disponibili:
esxcli storage core device list | grep "naa" | awk '{print $1}' | grep "naa"
Esempio:
naa.5000c500852df8d3 naa.55cd2e404c1f35a1 naa.55cd2e404c1f35a5 naa.5000c500852dd5e7
Controllare la posizione utilizzando ogni naa del disco dall'elenco:
esxcli storage core device physical get -d
Esempio:
esxcli storage core device physical get -d naa.5000c500852df8d3 esxcli storage core device physical get -d naa.55cd2e404c1f35a1 esxcli storage core device physical get -d naa.55cd2e404c1f35a5 esxcli storage core device physical get -d naa.5000c500852dd5e7 Physical Location: enclosure 65535 slot 0 Physical Location: enclosure 65535 slot 1 Physical Location: enclosure 65535 slot 2 Physical Location: enclosure 65535 slot 3
Come identificare il disco rigido o l'unità SSD guasta se manca il nome del dispositivo:
È possibile che il disco guasto non venga rilevato e non sia in grado di identificarsi utilizzando il numero naa corrispondente. In questo scenario, è necessario individuare tutti i dischi e quello che non si trova fisicamente sarebbe quello che si è guastato.
Di seguito è riportato uno script che può essere utilizzato per eseguire l'attività un po' più velocemente:
echo "=============Physical disks placement=============="
echo ""
esxcli storage core device list | grep "naa" | awk '{print $1}' | grep "naa" | while read in; do
echo "$in"
esxcli storage core device physical get -d "$in"
sleep 1
echo "===================================================="
done
Registri rilevanti per vSAN per problemi relativi allo storage:
/var/log/vmkernel.log
Problemi di lettura e scrittura su dischi vSAN, heartbeat dell host vSAN, PDL, codici di rilevamento SCSI e richieste di I/O (letture/scritture) e informazioni sull'appartenenza al cluster.
Esempio:
2021-06-22T12:02:08.408Z cpu30:1001397101)ScsiDeviceIO: PsaScsiDeviceTimeoutHandlerFn:12834: TaskMgmt op to cancel IO succeeded for device naa.55cd2e404b7736d0 and the IO did not complete. WorldId 0, Cmd 0x28, CmdSN = 0x428.Cancelling of IO will be 2021-06-22T12:02:08.408Z cpu30:1001397101)retried.
/var/log/vobd.log
Segnala lo stato del disco, i PDL (Permanent Device Lost Disks), la latenza del disco e segnala quando un host entra ed esce dalla modalità di manutenzione.
Esempio:
2022-05-31T11:42:46.065Z: [vSANCorrelator] 10605891965954us: [vob.vsan.lsom.devicerepair] vSAN device 521a74ce-c980-c16c-ff3d-38a036233daf is being repaired due to I/O failures, and will be out of service until the repair is complete. If the device is part of a dedup disk group, the entire disk group will be out of service until the repair is complete. 2022-05-31T11:42:46.065Z: [vSANCorrelator] 10606062774178us: [esx.problem.vob.vsan.lsom.devicerepair] Device 521a74ce-c980-c16c-ff3d-38a036233daf is in offline state and is getting repaired
/var/log/vsandevicemonitord.log
Consente di determinare se il disco è stato contrassegnato come non integro a causa di un'eccessiva congestione dei registri o di latenze di I/O.
Esempio:
INFO vsandevicemonitord WARNING - WRITE Average Latency on VSAN device naa.50000xxxxxxxx has exceeded threshold value 2000000 us 2 times. INFO vsandevicemonitord Tier 2 (naa.50000xxxxxxxx) as unhealthy