PowerEdge: Можливе пошкодження даних на R6415, R7415 та R7425 при використанні PERC H330 під керуванням Linux OS

За наступних умов пошкодження даних може відбуватися під час роботи з потужним введенням/виведенням на сховищі, підключеному до контролерів PERC H330 на сервері PowerEdge на базі AMD 14-го покоління: 

• H330 встановлюється з операційною системою на базі Linux з увімкненою функцією CPU Virtualization Technology (VT) у системному BIOS
• Операційні системи VMware/ESXi з контролером зберігання H330, налаштованим як пристрій VMDirectPath pass-through (PCI-Passthrough) на віртуальну машину Linux (VM)
  • Ризик пошкодження даних відкривається лише для віртуальної машини, до якої H330 підключений як пристрій passthrough.   

Що ж це зачіпає? 

• Усі 14G AMD сервери (з одним або двома процесорами)
  • R6415
  • R7415
  • R7425
• Операційні системи на базі Linux включають, але не обмежуючись,
  • Red Hat Enterprise Linux 7.5
  • Red Hat Enterprise Linux 7.6
  • Ubuntu 16.04
  • Ubuntu ® 18.04 LTS
  • CentOS 7.5
  • CentOS 7.6
  • SLES 12 SP3/SP4
  • SLES 15
• Всі актуальні версії гіпервізора ESXi
  • ESXi 6.5.x
  • ESXi 6.7.x
• Контролер зберігання:
  • PERC H330 у режимі RAID або без RAID

Зведення: Для вирішення цієї проблеми потрібна спеціальна конфігурація.

1. 14G сервер AMD + Linux OS + контролер H330 
2. 14G AMD сервер + ESXi + H330, налаштовані як VMDirectPath I/O pass-through до Linux-віртуальної машини

Що не зачіпається?

• 14G платформи Intel
• Будь-який контролер зберігання (HBA330/H730/H740/H840 тощо), окрім H330
• Операційні системи Windows

Корінна причина:

• Драйвер Linux AMD_IOMMU використовує той самий діапазон пам'яті, що й BIOS, зарезервований для H330 для буфера даних введення/виведення та віртуальної адреси вводу/виводу для доступу до різних областей фізичної пам'яті, що призводить до пошкодження файлової системи. Також таблиця IVRS у BIOS надає початкову адресу та довжину діапазону виключення для H330. Поки драйвер AMD IOMMU налаштовує діапазон виключення, драйвер додає початкову адресу та довжину, надану в IVRS, щоб отримати кінцеву адресу, яку він використовує для програмування регістра межі діапазону виключення в IOMMU, але щоб отримати кінцеву адресу, слід додати довжину до початкової адреси і відняти одну, що призводить до того, що діапазон виключення виключає одну додаткову сторінку після кінця діапазону виключення, заданого BIOS. Якщо ядро використовує цю додаткову адресу сторінки як IOVA, це призводить до пошкодження даних.
• VMware/ESXi: Налаштування віртуальної машини для використання контролера H330 у режимі VMDirectPath I/O може призвести до пошкодження пам'яті та пам'яті для цієї віртуальної машини

1. Інженери Dell знають про цю проблему, і обхідний шлях BIOS доступний у версії BIOS 1.8.7 або новіші.
   • R7425 - https://www.dell.com/support/home/product-support/product/poweredge-r7425/drivers
   • R6415 - https://www.dell.com/support/home/product-support/product/poweredge-r6415/drivers
   • R7415 - https://www.dell.com/support/home/product-support/product/poweredge-r7415/drivers
2. Dell Technologies рекомендує оновити BIOS до версії 1.8.7 або новішої версії.
3. Виправлення ядра також триває виробники Linux та VMware. Коли оновлений пакет ядра стане доступним від виробників Linux та VMware, він може запропонувати альтернативне рішення цієї проблеми. Dell намагається зафіксувати інформацію про виправлення від виробників Linux та VMware тут, коли вони стають доступними.
   • Посилання на VMware KB: https://knowledge.broadcom.com/external/article?legacyId=68068
   • Red Hat KB: https://access.redhat.com/solutions/3978031 (потрібен вхід)
   • SUSE KB: https://www.suse.com/support/kb/doc/?id=000019431 

На початок