NetWorker：ネットワーク構成のベスト プラクティス

• ネットワーキングまたはホスト接続に関連するエラー。以下が含まれますが、これらに限定されません。
• 実際のデータ転送が完了したように見えるバックアップの失敗
• 全般的なリソースの枯渇または通信の崩壊

GSS warning Session information (number hex:hex) registered by user for nsrexecd has expired because a NetWorker daemon had not requested it after 120 minutes
GSS error Session information (number hex:hex) was requested by nsrmmd but the session has expired
RPC severe Unable to query NSR database for list of configured devices: RPC receive operation failed; peer = ip_addr:port, errno = Connection timed out
RPC severe Unable to query NSR database for list of configured devices: RPC send operation failed; peer = ip_addr:port, errno = Broken pipe
NSR notice Chunking ssid ssid failed, because saveset was aborted
ddp_open_file_ext() failed for File: //mtree/vol_dir/nn/nn/long_ssid, Err: 5004-nfs lookup failed (nfs: No such file or directory) ).
NSR critical Connectivity check request is failed for: SN_CONN_REPORT_DD type data_domain device
RPC error RPC client handle: No route to host.
RPC error RPC client handle: Connection refused.
RPC error Unable to create the connection with 'portmapper' to host 'hostname' with address 'ip_addr' at port number 7938.
RPC critical Aborting client connection from ip_addr: Connection timed out.
RPC critical Check whether the firewall is blocking the client ports on the host 'hostname'.
RPC critical Check whether the client services are running on the host 'hostname'.

NetWorkerは、通常の操作中にローカルとリモート ホストの両方に多数のソケットを作成するアプリケーションです。通常、サーバーとストレージ ノードではさらに多くのデータが作成されますが、クライアント構成もジョブの成功に影響を与える可能性があります。

キープアライブ: リスナー デーモン プロセスに接続するためにNetWorkerの呼び出し元プロセスによって作成されたすべてのソケット。リソースを再利用しようとするネットワーク デバイスによって長時間アイドル状態のままになっていると、これらのソケットが中断される可能性があります。通常、これには、NetWorkerサーバーとノード、および問題が発生しているクライアントに対して、デフォルトでキープアライブが有効になっている必要があります。NetWorkerには、一部の(すべてではない)バイナリに対して独自の内部キープアライブ処理があります。オペレーティング システムには、デフォルトで実行されるキープアライブもあります

ポートの可用性: NetWorkerが確立しようとしているソケットごとに、通信元のエフェメラル範囲内のポートが必要です。ただし、この範囲はすべてのオペレーティング システムでデフォルトで制限されており、人為的に通信が制限されないように、可能な限り開く必要があります。nsrauthをデフォルトで有効にすると、1つの必要なソケットに必要なポートの数は少なくとも3つになり、各障害が迅速に再試行される可能性があり、接続が成功するまでポートはTIME_WAITのままになります。このため、使用可能なポートの最大数を増やし、理想的にはTIME_WAIT状態を下げる必要があります

他の長時間実行されるソケットも、特定の内部ソフトウェア変数で強化され、より高い回復性を実現したり、バッファリングを改善したりできます。

以下は、オペレーティング システムとホスト クラスごとの通常の推奨設定と、それらの実装コマンドです。常に、適用性はさまざまです。普遍的に望ましいと考えられるものはコメントなしで、より可変的な適合性を持つものはコメントされますが、必要に応じて使用できます。これらの設定は、一般的な推奨事項として誠意を持って提供されていますが、オペレーティング システム管理者は実装前に確認する必要があります。これらは、サーバーとストレージ ノードのすべてのケースのデフォルトのベスト プラクティスと見なされます。クライアントの適合性は、特定の環境における構成と役割によって異なる可能性があります。このような場合は、異なるアプリケーション サーバーの役割が推奨設定と競合する可能性があるため、使用する前に慎重に検討する必要があります。このような場合は、役割に必要な設定が優先されます。

Linuxの場合適切な設定はすべて、 /nsr/nsrrc ファイル。サービスの起動時に実行するには、グローバルな読み取り/実行権限(755)が必要です。デフォルトの標準エントリーはコメント解除されており、非標準オプションまたは状況依存オプションにはコメントが付けられています。関連する行で #プレフィックスを使用して、設定の可用性を変更します。ファイルを導入する場所に応じて、NetWorkerクライアント、ノード、またはサーバーに関連するファイルをトリミングします。変更が加えられた後は、サービスの再起動が必要になります。 

### LINUX - For all NetWorker hosts - Clients, Nodes and Server
NSR_KEEPALIVE_WAIT=10
export NSR_KEEPALIVE_WAIT
NSR_EXEC_MAX_AUTH_THREADS=50
export NSR_EXEC_MAX_AUTH_THREADS
# NSR_SOCK_BUF_SIZE=65536 # (262144 for 10 Gb ETH NICs)
# export NSR_SOCK_BUF_SIZE

# NetWorker internal keepalive settings for some, but not all binaries - 4.5 minutes to ensure keepalives are passed before the increasingly common 5 minute router idle socket kill timer
NW_TCP_KEEPIDLE_SECS=270
export NW_TCP_KEEPIDLE_SECS
NW_TCP_KEEPINTVL_SECS=30
export NW_TCP_KEEPINTVL_SECS
NW_TCP_KEEPCNT=10
export NW_TCP_KEEPCNT

# OS-level keepalive values - also set to 4.5 minutes for the same reason
sysctl -w "net.ipv4.tcp_keepalive_intvl=30"
sysctl -w "net.ipv4.tcp_keepalive_probes=10"
sysctl -w "net.ipv4.tcp_keepalive_time=270"

# Set kernel limits to ensure core dump generation
ulimit -Sn 262144
ulimit -Sc unlimited

### For NetWorker Storage Nodes and Server
# Set kernel limits to provide maximum file descriptor availability
ulimit -Hn 262144
ulimit -Hc unlimited

# Globally disable IPv6, if it is not necessary for operation:
# sysctl -w "net.ipv6.conf.all.disable_ipv6=1"

# Disable dynamic TCP window scaling - requires compatible equipment in the data path, as well as ECN
sysctl -w "net.ipv4.tcp_window_scaling=0"
sysctl -w "net.ipv4.tcp_ecn=0"

# Raise connection backlog (hash tables) to the maximum value allowed if desired
# sysctl -w "net.ipv4.tcp_max_syn_backlog=8192"
# sysctl -w "net.core.netdev_max_backlog=8192" # (For 10 Gb Eth use the value = 30000)

# Raise memory size available for TCP buffers as needed
# sysctl -w "net.core.rmem_default=262144"
# sysctl -w "net.core.wmem_default=262144"
# sysctl -w "net.core.rmem_max=16777216"
# sysctl -w "net.core.wmem_max=16777216"
# sysctl -w "net.ipv4.tcp_rmem=8192 524288 16777216"
# sysctl -w "net.ipv4.tcp_wmem=8192 524288 16777216"

# Increase shared memory pool if required - particularly for immediate mode on Storage Nodes
# sysctl -w kernel.shmmax = 2147483648 # - e.g. 2 GB
# sysctl -w kernel.shmall = 2147483648 # - e.g. 2 GB

# Available TCP client ephemeral port range increase from default:
sysctl -w "net.ipv4.ip_local_port_range=10000 64000"

# Enable TCP Time Wait Reuse for very high load servers and nodes to increase socket reuse availability
sysctl -w "net.ipv4.tcp_tw_recycle=0"
sysctl -w "net.ipv4.tcp_tw_reuse=2"

# Lower TIME_WAIT delay to close connections more quickly. This may not be necessary in concert with tw_reuse.
# sysctl -w "net.ipv4.tcp_fin_timeout=30"

# NFS I/O concurrency:
sysctl -w "sunrpc.tcp_slot_table_entries=128"
sysctl -w "sunrpc.udp_slot_table_entries=128"

### For NetWorker Server only
# Settings to increase device resilience for cloud operations or other potentially high-latency devices
# NSR_DEVOP_TIMEOUT=3600
# export NSR_DEVOP_TIMEOUT
# NSR_DEVOP_POLLING_INTERVAL=600
# export NSR_DEVOP_POLLING_INTERVAL
# NSR_DEVOP_INQUIRY_TIMEOUT=900
# export NSR_DEVOP_INQUIRY_TIMEOUT

### Media database tunables
# NSR_TCP_READ_LONG_WAIT=Y
# export NSR_TCP_READ_LONG_WAIT
# NSR_MAX_MEDIADB_RETRY=10
# export NSR_MAX_MEDIADB_RETRY
# MMDB_SQLITE_CONFIGURE_MEMORY=1
# export MMDB_SQLITE_CONFIGURE_MEMORY
# MMDB_SQLITE_PAGECACHE_SIZE=65536
# export MMDB_SQLITE_PAGECACHE_SIZE
# MMDB_SQLITE_PAGE_COUNT=65536
# export MMDB_SQLITE_PAGE_COUNT
# MMDB_SQLITE_HEAP_SIZE=1073741824
# export MMDB_SQLITE_HEAP_SIZE
# MDB_SQLITE_HEAP_MIN_ALLOC_SIZE=128
# export MDB_SQLITE_HEAP_MIN_ALLOC_SIZE

 

Windowsの場合：以来、 /nsr/nsrrc Windows用のファイルは現在存在しません。変更はバッチ ファイルを使用して実行する必要があります。例: nsrrc.bat またはその他の展開方法。コマンド駆動型オプションが存在する場合は、コマンドがここに表示されます。これらの変更はグローバルであり、繰り返し実行する必要はありません。Linuxのように nsrrc ファイルの場合、デフォルトの標準エントリはコメント解除され、非標準オプションまたは状況オプションはコメントされます。を使用した設定の可用性の変更 REM 接頭辞を付けます。ファイルを導入する場所に応じて、NetWorkerクライアント、ノード、またはサーバーに関連するファイルをトリミングします。変更が加えられた後は、サービスの再起動が必要になります。

REM ### WINDOWS - For all NetWorker hosts - Clients, Nodes and Server
REM # TCP window size tuning - greater throughput / Data Domain
REM reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\AFD\Parameters /v DefaultSendWindow /t REG_DWORD /d 262144 /f
REM reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\AFD\Parameters /v DefaultReceiveWindow /t REG_DWORD /d 262144 /f
REM reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v GlobalMaxTcpWindowSize /t REG_DWORD /d 262144 /f
REM reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v TcpWindowSize /t REG_DWORD /d 262144 /f

REM # Global keepalive registry settings - 270s to fall below common idle socket timer kills of 300s
reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v KeepAliveTime /t REG_DWORD /d 270000 /f
reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v KeepAliveInterval /t REG_DWORD /d 10000 /f
reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v TcpMaxDataRetransmissions /t REG_DWORD /d 10 /f

REM # Global NetWorker keepalive and connectivity variables
setx /m NW_TCP_KEEPIDLE_SECS 270
setx /m NW_TCP_KEEPINTVL_SECS 30
setx /m NW_TCP_KEEPCNT 10
setx /m NSR_KEEPALIVE_WAIT 10
setx /m NSR_EXEC_MAX_AUTH_THREADS 50
REM setx /m NSR_SOCK_BUF_SIZE=65536 # (262144 for 10 Gb Eth NICs)

REM ### For NetWorker Storage Nodes and Server
REM # Standard TCP features - disable in case of disconnections
REM netsh interface tcp set global rss=disabled
REM netsh interface tcp set global autotuning=disabled
REM netsh interface tcp set global ecncapability=disabled
REM netsh interface tcp set global timestamps=default

REM # Port range availability for TCP client callers
netsh int ipv4 set dynamicport tcp start=10000 num=54000
netsh int ipv4 set dynamicport udp start=10000 num=54000
netsh int ipv6 set dynamicport tcp start=10000 num=54000
netsh int ipv6 set dynamicport udp start=10000 num=54000

REM # Global port maximum (deprecated) and TIME_WAIT window
REM reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v MaxUserPort /t REG_DWORD /d 65535 /f
reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip\Parameters /v TcpTimedWaitDelay /t REG_DWORD /d 30 /f

REM # Disable IPv6 if not required
REM reg add HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\Tcpip6\Parameters /v DisabledComponents /t REG_DWORD /d 0x000000ff /f

REM ### For NetWorker Server only
REM # Settings to increase device resilience for cloud operations or other potentially high-latency devices
REM setx /m NSR_DEVOP_TIMEOUT 3600
REM setx /m NSR_DEVOP_POLLING_INTERVAL 600
REM setx /m NSR_DEVOP_INQUIRY_TIMEOUT 900

REM ### Settings for media database tuning
REM setx /m NSR_TCP_READ_LONG_WAIT Y
REM setx /m NSR_MAX_MEDIADB_RETRY 10
REM setx /m MDB_SQLITE_HEAP_MIN_ALLOC_SIZE 128
REM setx /m MMDB_SQLITE_CONFIGURE_MEMORY 1
REM setx /m MMDB_SQLITE_HEAP_SIZE 1073741824
REM setx /m MMDB_SQLITE_PAGE_COUNT 65536
REM setx /m MMDB_SQLITE_PAGECACHE_COUNT 65536
REM setx /m MMDB_SQLITE_TMP path_to_temp_dir