Проблемы производительности одного SDC PowerFlex с сетевыми адаптерами Mellanox 25 Гбит/с

Сценарий
Каждый узел работал под управлением fio со скоростью 128 Кбайт 50R/50 Вт, восемью потоками и глубиной ввода-вывода 16 (256 потоков). Проблемный SDC будет иметь максимум 4 ГБ, в то время как остальные четыре узла достигнут ~6 ГБ каждый. Монитор производительности vCenter показывает, что vmnic1 используется меньше, чем vmnic3, в то время как другие хосты с тем же заданием ввода-вывода показывают, что коэффициент использования почти на 100% одинаков.

Симптомы
Использование нескольких сетевых плат на одном виртуальном коммутаторе в ESXi несбалансировано. При просмотре файла «nicinfo.sh.txt» из vmsupport, извлеченного с хоста ESXi, где возникли проблемы, мы видим, что отображаются физические ошибки, среди которых vmnic1 является самым большим виновником. 

Пример выходных данных взят из ESXi 6.7, и более старые версии могут не содержать те же данные или выглядеть по-другому. 

$ grep -i -e err -e vmnic -e discard -e crc -e drop -e retr -e wake nicinfo.sh.txt | grep -v ": 0"

NIC:  vmnic0

   Name: vmnic0

   Supports Wakeon: true

   Wakeon: MagicPacket(tm)

NIC statistics for vmnic0:

   Total receive errors: 9

   Receive length errors: 9

txSwQueueWake: 7

rxDiscardsPhy: 289

TX1_wake: 2

TX2_wake: 4

TX3_wake: 1

NIC:  vmnic1

   Name: vmnic1

   Supports Wakeon: true

   Wakeon: MagicPacket(tm)

NIC statistics for vmnic1:

txSwQueueWake: 3027034

rxDiscardsPhy: 16773308

TX0_wake: 3027034

NIC:  vmnic2

   Name: vmnic2

   Supports Wakeon: false

   Wakeon: None

NIC statistics for vmnic2:

   Total receive errors: 16

   Receive length errors: 16

NIC:  vmnic3

   Name: vmnic3

   Supports Wakeon: false

   Wakeon: None

NIC statistics for vmnic3:

txSwQueueWake: 153

rxDiscardsPhy: 804

TX0_wake: 150

TX2_wake: 1

TX3_wake: 2

Воздействие

Снижение пропускной способности и общей производительности благодаря одному SDC

Эта проблема была связана с физическим уровнем: это мог быть сбой порта SFP, сетевой платы и, возможно, самого кабеля. В данном случае это было соединение Twinax, оказалось, что был плохой кабель, что привело к отбрасыванию пакетов и снижению производительности. Также существовала вероятность, что это мог быть порт с избыточным выделением, возможно, и на стороне коммутатора. 

Замените неисправный физический компонент.