Data Domain:儲存機櫃編號不是循序

Summary: 本文說明的情況:指派給 Data Domain 應用裝置上的外部儲存機櫃 (ES-30 & DS-60) 的貨架編號可能不是循序的。 在完成儲存裝置移轉作業、更換其中一個儲存機櫃的主機殼,或實際將儲存機櫃移至新路徑後,貨架編號順序中可能會出現非順序編號或空隙。 Data Domain 建議套用本文詳細說明的步驟,以便依順序重新編號所有機櫃。

This article applies to This article does not apply to This article is not tied to any specific product. Not all product versions are identified in this article.

Symptoms

未來將強化 Data Domain 作業系統程式碼,以降低在分層層編號非順序的情況下過多的重新掃描和探索作業。在進行此類變更之前,建議您套用必要的步驟,以確保在實體變更或序號變更後,貨架號碼是循序的,進而導致順序托架編號出現空隙。


從 DDOS 5.7.1 開始,儲存托架編號會與儲存架序號綁定。我們稱之為「persistent-id」貨架。
儲存機櫃可在多個不同的情況下列為「離線」,因為已對 SAS 拓撲進行實體變更。
在此範例中,最近完成「儲存移轉」,並實際移除來源儲存機櫃。由於每個儲存機櫃都有指派的「persistent-id」,因此現在已不再附加數個「離線」板架 (2、3、4、8),這些「離線板架」已不再需要讓檔案系統完整運作。事實上,有虛擬板架或附加儲存機櫃的非順序編號,這不會影響 Data Domain 檔案系統的整體運作,但在開機期間,以及對虛擬機器櫃進行查詢時,可能會導致過多的重新掃描和探索作業,以及 SNMP 核心。這會導致開機時間比預期的開機時間更長,而且在開機階段完成後,磁片區將無法立即使用。

使用#enclosure顯示摘要命令,列出已發出 persisten-ID 的所有機櫃,以及機櫃目前的狀態。

#Enclosure Show Summary


----------------------
Enclosure   Model No.   Serial No.       State     OEM Name   OEM Value   Capacity
---------   ---------   --------------   -------   --------   ---------   --------
1           DD9800      NVT10164000024   Online                           4 Slots
2           DS60        APM00164936021   Offline                          60 Slots
3           DS60        APM00164802045   Offline                          60 Slots
4           DS60        APM00164802044   Offline                          60 Slots
5           DS60        APM00164902721   Online                           60 Slots
6           DS60        APM00164936019   Online                           60 Slots
7           DS60        APM00164936020   Online                           60 Slots
8           ES30        APM00164964966   Offline                          15 Slots
9           DS60        APM00164902719   Online                           60 Slots
10          DS60        APM00164902720   Online                           60 Slots
11          DS60        APM00164902722   Online                           60 Slots
12          ES30        APM00164964967   Online                           15 Slots
---------   ---------   --------------   -------   --------   ---------   --------
 
 
使用#enclosure顯示拓撲 CLI 命令,列出目前連接的儲存機櫃。
查看 SAS 拓撲時,確認「離線」板架 (2、3、4、8) 並未確實附加,且指派給附加架的數位為非順序。

#Enclosure Show Topology
-----------------------
Port       enc.ctrl.port       enc.ctrl.port
----   -   -------------   -   -------------
2a     >    9.B.H: 9.B.E   >   10.B.H:10.B.E
2b     >    5.B.H: 5.B.E   >   11.B.H:11.B.E
2c     >    7.B.H: 7.B.E
2d     >   12.B.H:12.B.E
3a     >   10.A.H:10.A.E   >    9.A.H: 9.A.E
3b     >    6.B.H: 6.B.E
3c     >    7.A.H: 7.A.E
3d     >   12.A.H:12.A.E
6a     >   11.A.H:11.A.E   >    5.A.H: 5.A.E
6b     >    6.A.H: 6.A.
6d
----   -   -------------   -   -------------
Encl   WWN                Serial #
----   ----------------   --------------
5      N/A                APM00164902721
6      N/A                APM00164936019
7      N/A                APM00164936020
9      N/A                APM00164902719
10     N/A                APM00164902720
11     N/A                APM00164902722
12     N/A                APM00164964967
----   ----------------   --------------

 
注意:GUI 或 Autosupport 中的各種輸出可能顯示「離線」托架不存在

8.1 (不存在)
 8.2 (不存在)
 8.3 (不存在)
 8.4 (不存在)
 8.5 (不存在)
 8.6 (不存在)
 8.7 (不存在)
 8.8 (不存在)
 8.9 (不存在)
 8.10 (不存在)
 8.11 (不存在)
 8.12 (不存在)
 8.13 (不存在)
 8.14 (不存在)
 8.15 (不存在)

SNMP 對眳機櫃的查詢會導致錯誤和後續的核心。對應的訊息會發佈到 messages.engineering 記錄檔

 # snmpwalk -v2c -c Public localhost -t 5 -r 5 dataDomainMib
Timeout: No Response from localhost
Apr 20 01:01:54 xx snmpd: WARNING: ddr/sm/snmp/enclosurePack_access.c:161      **** Enclosure id 3 is offline.
Apr 20 01:01:54 xx ddr_procmon: NOTICE: MSG-PMON-00008: Failure on /usr/sbin/snmpd.
Apr 20 01:01:54 xx ddr_procmon: WARNING: MSG-PMON-00011: Restarting /usr/sbin/snmpd.
Apr 20 01:01:56 xx ddfs[11215]: NOTICE: ddr_key_del_temp: deleting key-v2-100
Apr 20 01:02:04 xx snmpd: WARNING: ddr/sm/snmp/enclosurePack_access.c:161      **** Enclosure id 3 is offline.
Apr 20 01:02:04 xx ddr_procmon: NOTICE: MSG-PMON-00008: Failure on /usr/sbin/snmpd.
Apr 20 01:02:04 xx ddr_procmon: WARNING: MSG-PMON-00011: Restarting /usr/sbin/snmpd.
Apr 20 01:02:14 xx snmpd: WARNING: ddr/sm/snmp/enclosurePack_access.c:161      **** Enclosure id 3 is offline.
Apr 20 01:02:14 xx ddr_procmon: NOTICE: MSG-PMON-00008: Failure on /usr/sbin/snmpd.


Apr 20 14:02:42 xx snmpd: WARNING: dd_netsnmp_set_request_error: snmp error 129 occured
 
 

Cause

可能觸發此狀況的情況如下:
  • 將儲存機櫃從一個 Data Domain 應用裝置實際移動到另一個 Data Domain 應用裝置
  • 更換任何使用中儲存機櫃的主機殼 (新主機殼會顯示新的序號)
  • 儲存移轉 - 移轉完成後,FS 不再需要來源板架,並將實際移除。
  • #storage移除 CLI 命令時發生問題。

Resolution

若要強制托架「persistent-id」依順序重新編號,請在 SE 模式中使用下列命令。 
           
SE# enclosure show persistent-id   
輸出內容將詳述附接在機櫃中的資訊,以及 不再附加的架子,及其對應的持續性 ID。您會看到不再附加或已從 SAS 拓撲移除的序號。我已反白顯示的那些內容已不再附加,#enclosure顯示摘要會將它們列為「離線」。

Serial No. Model No. Persistent ID
-------------- --------- -------------
APM00164936021  DS60 2      <<< Offline
APM00164802045  DS60 3      <<< Offline
APM00164802044  DS60 4      <<< Offline
APM00164902721  DS60 5      
APM00164936019  DS60 6      
APM00164936020  DS60 7      
APM00164964966  ES30 8      <<< Offline
APM00164902719  DS60 9      
APM00164902720  DS60 10     
APM00164902722  DS60 11     
APM00164964967  ES30 12   
-------------- --------- -------------
12 enclosure(s) persisted.
 
使用 #enclosure 版本 persistent-id CLI 來鬆開現有的持續性 ID。  您只能鬆開離線的元件,也可以選擇。  在下次開機時,每個附加的托架將會發出新的持續性 ID,而且在架子編號上不會有任何空隙。

注意:HA 系統上,建議您在兩個節點上執行「機櫃釋放持續性 ID 全部」,從使用中的節點開始一次一次,再發出系統重新開機。重新開機作用中節點將會觸發容錯移轉至待命節點。一旦 HA 重新開機週期完成,系統再次高可用性,請重新開機目前的使用中節點,以完成程式。 


SE# enclosure release persistent-id
              {||all}
    
 
Example:                                            
 #enclosure release persistent-id APMxxxxxxxxxxxxxx
 #enclosure release persistent-id 12
 #enclosure release persistent-id all

接下來,將系統重新開機,讓每個儲存機櫃都能發出新的持續性 ID。

#system reboot

系統重新開機後,請確認托架編號是循序的,而且沒有列出「離線」的儲存機櫃。

# enclosure show summary
Enclosure   Model No.   Serial No.       State    OEM Name   OEM Value   Capacity
---------   ---------   --------------   ------   --------   ---------   --------
1           DD9800      NVT10162700023   Online                          4 Slots 
2           DS60        APM00164802045   Online              0           60 Slots
3           DS60        APM00164802043   Online              0           60 Slots
4           DS60        APM00164802044   Online              0           60 Slots
5           DS60        APM00164851510   Online              0           60 Slots
6           DS60        APM00164936021   Online              0           60 Slots
7           DS60        APM00164802046   Online              0           60 Slots
8           ES30        APM00164964966   Online                          15 Slots
---------   ---------   --------------   ------   --------   ---------   --------
8 enclosures present. 

 
SE# enclosure show persistent-id
Serial No.       Model No.   Persistent ID
--------------   ---------   -------------
APM00164802045   DS60        2            
APM00164802043   DS60        3            
APM00164802044   DS60        4            
APM00164851510   DS60        5            
APM00164936021   DS60        6            
APM00164802046   DS60        7            
APM00164964966   ES30        8            
--------------   ---------   -------------
7 enclosure(s) persisted.
 

Affected Products

Data Domain

Products

Data Domain, DD OS, DD OS Licensed Features
Article Properties
Article Number: 000054913
Article Type: Solution
Last Modified: 19 Jul 2023
Version:  3
Find answers to your questions from other Dell users
Support Services
Check if your device is covered by Support Services.