Посилання Mellanox MT27800 Family ConnectX-5 не працює після заміни

Summary: Заміна несправної мережевої карти Dell Part number (DPN) 6FKDT знайдена з посиланням вниз, але не має жодної помилки, що відображається в журналі TSR або SupportAssist.

This article applies to This article does not apply to This article is not tied to any specific product. Not all product versions are identified in this article.

Symptoms

Передісторія проблеми: 

  • Mellanox ConnectX-5 не визначається в розділі «Налаштування пристрою» 
  • Після заміни мережевої карти може виявити Mellanox ConnectX-5 у налаштуваннях пристрою, але з'єднання не працює або опитувається

Надана інформація про апаратне забезпечення:

  • Два однакових сервера, але лише один пристрій стикається з цією проблемою 
  • Обидва сервери працюють під управлінням операційної системи CentOS 7.5
  • DAC-QSFP28-100G-5.0M (ДПН 0FN4FC) 
  • Версія драйвера Mellanox 4.5-1.0.1
  • Користувач здійснює перехресну заміну кабелів ЦАП, які підтверджено як справні, і портів комутатора 
  • DPN 6FKDT – це карта InfiniBand, яка входить до складу некерованих адаптерів, які не можуть отримати інформацію про карту. 
Приклад: 
Дивіться приклад нижче для прошивки карти, налаштувань карти та статусу посилання:


Приклад рівня прошивки карти, налаштування картки та статус з'єднанняМалюнок 1: Приклад рівня прошивки карти, налаштування картки та статус з'єднання

Інформація на рівні операційної системи надається:
  • ibstat command - Запитує базовий статус пристрою InfiniBand
  • Користувач запускає "ibstat" від проблемного сервера та сервера, який працює очікувано для порівняння 
Приклад:
Проблемна карта Mellanox була знайдена на рівні з'єднання "InfiniBand
 
Скріншот проблемної картки Mellanox з посиланням
Малюнок 2:
 Скріншот проблемної картки Mellanox з посиланням "InfiniBand"
 
Працюючи так, як було задумано, карта Mellanox знайшла канальний рівень, показаний як «Ethernet» 
Скріншот роботи за дизайном карти Mellanox з посиланням
Малюнок 3: Скріншот роботи за дизайном карти Mellanox з посиланням "Ethernet"


Підтверджено користувачем, чи підключено до комутатора InfiniBand або комутатора Ethernet 

  • Користувач підтверджує, що карта Mellanox підключена до комутатора Ethernet 

Cause

Зауваження

  • Оскільки це карта ConnectX-5 VPI , це означає, що її можна налаштувати на режим Ethernet або режим InfiniBand.
  • Якщо ця карта працює в режимі InfiniBand, вона не може мати з'єднання з комутатором Ethernet.
  • Режим зв'язку замінної карти за замовчуванням завжди повинен бути на InfiniBand.

Resolution

Слідкуйте за статтею NVIDIA Використання mlxconfig Це гіперпосилання веде вас на веб-сайт за межами Dell Technologies.для налаштування IB/ETH Параметри.

Для того, щоб встановити IB/ETH параметрів через mlxconfig, використовуйте наступний командний рядок:

# mlxconfig -d <device> set [LINK_TYPE_P1=<link_type>] [LINK_TYPE_P2=<link_type>]

Приклад:
Налаштування обох портів як Ethernet:

# mlxconfig -d /dev/mst/mt4119_pciconf0 set LINK_TYPE_P1=2 LINK_TYPE_P2=2

Device #1:
----------
Device type:    ConnectX5
Name:           MCX556A-ECA_Ax
Description:    ConnectX-5 VPI adapter card; EDR IB (100Gb/s) and 100GbE; dual-port QSFP28; PCIe3.0 x16; tall bracket; ROHS R6
Device:         /dev/mst/mt4119_pciconf0
  
Configurations:                              Next Boot       New
         LINK_TYPE_P1                        IB(1)          ETH(2)
         LINK_TYPE_P2                        IB(1)          ETH(2)
  
Apply new Configuration? (y/n) [n] : y
Applying... Done!
-I- Please reboot machine to load new configurations.

Remarks
P1 = Port 1 
P2 = Port 2
Value 1 for InfiniBand 
Value 2 for Ethernet 


Інші ресурси: 

Affected Products

Rack Servers, Tower Servers
Article Properties
Article Number: 000218037
Article Type: Solution
Last Modified: 07 May 2025
Version:  2
Find answers to your questions from other Dell users
Support Services
Check if your device is covered by Support Services.