PowerPath AIX: Programmer går ned og LVM_IO_FAIL med FEJLKODE SOM DEFINERET I sys/errno.h 22 (EINVAL)

Tab af en sti

Miljø:
Dell-software: PowerPath til AIX (alle versioner)

I en konfiguration med flere stier, der administreres af PowerPath, går programmet ned, når en sti går ned, og selvom andre stier er tilgængelige. Og LVM_IO_FAIL med "ERROR CODE AS DEFINED IN sys/errno.h" indstillet til 22 registreres.

Afkodet med "summ" vises fejl som:

107769 Apr 12 08:57:21 LVDD       P LVM_IO_FAIL         LV 8000002C00000003 PV 800000250000001A Block 20016620 EINVAL

(reelle LVM_IO_FAIL som følge af fejl på alle stierne er normalt forbundet med errno 5 (EIO) ... hvilket ikke er tilfældet her)

LABEL:        LVM_IO_FAIL
IDENTIFIER:    E86653C3

Date/Time:       Sun Apr 12 10:09:28 2020
Sequence Number: 108111
Machine Id:      0XXXXXXXXXXX
Node Id:         snode1
Class:           H
Type:            PERM
WPAR:            Global
Resource Name:   LVDD
Resource Class:  NONE
Resource Type:   NONE
Location:

Description
I/O ERROR DETECTED BY LVM

Probable Causes
POWER, DRIVE, ADAPTER, OR CABLE FAILURE

    Recommended Actions
    RUN DIAGNOSTICS AGAINST THE FAILING DEVICE

Detail Data
PHYSICAL VOLUME DEVICE MAJOR/MINOR
8000 0025 0000 0029
ERROR CODE AS DEFINED IN sys/errno.h
          22
BLOCK NUMBER
             392149792
LOGICAL VOLUME DEVICE MAJOR/MINOR
8000 002D 0000 0001
PHYSICAL BUFFER TRANSACTION TIME
                     0
RESIDUAL COUNT
               1048576
NUMBER OF BLOCKS
               1048576
I/O TYPE
USER DATA
SENSE DATA
0000 0000 0002 EBF7 00F6 D020 0000 4C00 0000 013D 10F0 F4AD 00F6 D020 3831 80BE
0000 0000 0000 0000

Denne fejl genereres, når I/O-bufferen ved upstream (FS/LVM) ikke overføres til diskdriveren. (her PowerPath - men problemet kunne også ses i et MPIO-miljø) hdiskpower).

I IBM-termer: Denne LVM I/O-fejl (EINVAL) rapporteres, når PCM (powerpath) ikke kan behandle I/O-anmodningen fra LVM, da der kan være en uoverensstemmelse mellem VG LTG-størrelse (LVM I/O-buffer) og disk max_transfer-størrelse eller adapter-max_xfer_size (NPIV her).

Når LTG (Logical Track Group) er større end diskdriverens størrelse max_transfer, kan I/O en ikke behandles, og der genereres en LVM_IO_FAIL med erno indstillet til 22 (EINVAL)

I vores tilfælde havde vi (kundens private data er blevet ændret):

VOLUME GROUP:       vgdata1                  VG IDENTIFIER:  00f6d02000004c0000000145a924a9d9
VG STATE:           active                   PP SIZE:        256 megabyte(s)
VG PERMISSION:      read/write               TOTAL PPs:      36387 (9315072 megabytes)
MAX LVs:            512                      FREE PPs:       746 (190976 megabytes)
LVs:                3                        USED PPs:       35641 (9124096 megabytes)
OPEN LVs:           3                        QUORUM:         7 (Enabled)
TOTAL PVs:          13                       VG DESCRIPTORS: 13
STALE PVs:          0                        STALE PPs:      0
ACTIVE PVs:         13                       AUTO ON:        yes
MAX PPs per VG:     127000
MAX PPs per PV:     5080                     MAX PVs:        25
LTG size (Dynamic): 1024 kilobyte(s)         AUTO SYNC:      no
HOT SPARE:          no                       BB POLICY:      relocatable
PV RESTRICTION:     none                     INFINITE RETRY: no
DISK BLOCK SIZE:    512                      CRITICAL VG:    no
FS SYNC OPTION:     no                       CRITICAL PVs:   no

Og

# lsattr -El hdisk25

PR_key_value   none               Persistant Reserve Key Value     True
clr_q          yes                Device CLEARS its Queue on error True
location                          Location Label                   True+
lun_id         0x0                Logical Unit Number ID           False
lun_reset_spt  yes                FC Forced Open LUN               True
max_coalesce   0x100000           Maximum Coalesce Size            True
max_retries    5                  Maximum Number of Retries        True
max_transfer   0x40000            Maximum TRANSFER Size            True
node_name      0x5000144041111111 FC Node Name                     False
pvid           none               Physical volume identifier       False
q_err          no                 Use QERR bit                     True
q_type         simple             Queue TYPE                       True
queue_depth    32                 Queue DEPTH                      True+
reassign_to    120                REASSIGN time out value          True
reserve_policy no_reserve         Reserve Policy                   True
reset_delay    0                  Reset Delay                      True
rw_timeout     30                 READ/WRITE time out value        True
scsi_id        0x72ff40           SCSI ID                          False
start_timeout  60                 START UNIT time out value        True
ww_name        0xc001448111111111 FC World Wide Name               False

Her har vi max_transfer = 0x40000 (256 kB) < LTG (1024 kB) (0x100000) .. forårsager problemet.

I konfigurationen var nogle hdisks blevet indstillet med "max_transfer" indstillet til 0x100000, og andre var blevet indstillet til 0x40000 (sandsynligvis genereret med forskellige ODM-udgivelser). Hvis alle stierne var tilgængelige, var der altid en af hdiskene i hver hdiskpower med max_transfer indstillet til 0x100000, og I/O kunne fuldføres. Men da denne hdisk ikke længere var brugbar, var kun diskene med max_transfer indstillet til 0x40000 tilgængelige... forårsager problemet.

For at løse problemet skal attributten "max_transfer" på hdisk indstilles til en værdi, der er større end eller lig med LTG-størrelsen. I vores tilfælde, hvor LTG = 1024 kB, blev følgende kørt for at løse problemet:

# for i in `lsdev -Cc disk |grep -i hdiskp |awk '{print $1}'`
do
chdev -l $i -a max_transfer=0x100000 -P
done
# for i in `lsdev -Cc disk |grep -i EMC |awk '{print $1}'`
do
chdev -l $i -a max_transfer=0x100000 -P
done
# reboot

Denne KB gælder ikke for LVM_IO_FAIL med errno indstillet til 5 (EIO)