专家问答“PowerPath在Unix平台上的常见问题及处理”精彩内容重现

8 Krypton

专家问答“PowerPath在Unix平台上的常见问题及处理”精彩内容重现

专家问答“PowerPathUnix平台上的常见问题及处理”精彩内容重现

转载请在文首保留原文出处:EMC中文支持论坛https://community.emc.com/go/chinese


介绍

专家问答精彩内容重现:PowerPath命令输出中发现有dead路径应当如何处理?PowerPath认不到LUN或者认到LUN但是少路径应该怎么办?PowerPath报启动或者加载失败,相关命令(如powermt)无法正常执行怎么办?PowerPath生成的Pseudo设备名重启后发生变化,或者设备名在cluster多节点之间不同步的处理方法是什么


想知道这些问题的答案,一起来看本文。


更多信息


问题1: PowerPath命令(powermt)输出中发现有dead路径应当如何处理?


回答1: 使用PowerPath时,可以执行”powermt display dev=all”命令检查所有LUN的路径(path)的状态,如果这时看到了有路径的”state”是"dead",那么说明PowerPath无法使用这条path来发送I/O请求并将其置为"dead",一般情况下这都是由光纤链路问题(绝大数情况)LUN发生改变(在存储端把这个LUN从主机移除等)或者一些其他软件问题导致。这个时候我们需要根据当时的情况进行排查,如没有对LUN和主机端进行任何修改但发生了dead path,这时可能需要和交换机厂商一起去查一下交换机的情况,如zoning,端口状态等等。

在物理链路问题修复后,PowerPath会周期性的自动检测那些被置为deadpath,如果发现path已经恢复,就会再次将它置为alive,这样PowerPath就可以通过该path发送I/O了,客户也可以手动执行”powermt restore”或者”powermt check””powermt config”去恢复或者重新扫描路径。


问题2: PowerPath认不到LUN或者认到LUN但是少路径的时候应当如何处理?


回答2: 这类问题也非常常见。由于在主机上PowerPath是运行在HBA之上的,所以PowerPath能看到一个LUN及其Path,必须以主机HBA能看到这个LUN和它的path为前提,因此如果发生PowerPath认不到LUN或者认到LUN但是少路径的问题,我们首先需要去确定的是主机HBA是否已经看到LUN和所有的path,每个OS厂商都会提供一些命令来作检查,如Linuxfdisk –l, lsscsi(可能需要单独安装)SolarisformatHP-UXioscanAIXlsdev等等。EMC提供一个可以在各Unix操作系统上执行使用的小软件inquiry(inq),用户可以从emcgrab里面的tools/bin目录下获得,也可以从下面这个FTP上下载相应的版本:

ftp://ftp.emc.com/pub/symm3000/inquiry/

软件下载后,对其添加可执行权限就可以运行来检查目前主机上看到的LUN的具体情况了(可以加-hba/-et/-btl/-sym_wwn/-clar_wwn参数,具体可以加-h或者-help查看帮助)

这个时候,如果我们发现主机HBA都看不到LUN,就要考虑我们给主机划LUN这个操作是否有问题,或者划完LUN后在主机端的扫描操作是否正确(如AIX上的cfgmgrHP-UX上的ioscan等等),另外,如果是Solaris并且使用non-leadville driver,还需要检查persistent-binding的配置。

在主机HBA能看到所有LUNpath后,通常在powerpath级别我们只要手动执行”powermt config”扫描一下即可认到相应的LUNpath

如果主机HBA能看到所有的LUNpath,但是PowerPath里还是看不到LUN或者Path,那么可能还需要检查以下几种情况:

1.存储是否被PowerPath管理(执行powermt display options查看存储是否在”managed”状态)LUN是否之前被手动unmanaged过(执行powermt display unmanaged检查)以及在划LUN后是否执行过"powermt config"在PowerPath上扫描过。

2.如果是CLARiiON/VNX存储,failover mode配置是否正确。由于failover mode配置错误导致主机能看到LUN但是PowerPath看不到LUN的问题很常见,尤其是AIX系统(在AIX上,针对不同情况,failover mode需要配成3或者4,这个时候我们需要参照EMC的文档要求在存储端把failover mode修改成正确的值,然后重启主机,这样一般情况下PowerPath就能看到LUNpath了。(关于failover mode的配置,可以参考EMCKB文档emc99467https://support.emc.com/kb/31521

3.PowerPath的配置是否有错误,如AIX上的ODM软件包缺少或者安装错误(错误的版本、安装成MPIO的软件包等等情况),Solaris没有安装按照要求彻底关闭自带的MPxIO等等都会导致PowerPath无法管理LUN,请参考相关文档(如ODM安装包的readme文件和相关的Powerpath安装指导)进行检查。

4.安装了不正确的PowerPath安装包也会导致该问题,所以在安装PowerPath之前请确认操作系统PowerPath支持,从EMC官方下载相应的安装文件并按照文档要求进行安装。

如果以上这些都检查过了但是还是有问题,就需要打EMC 800support开一个case进一步分析了。


问题3: PowerPath报启动或者加载失败,相关命令(如powermt)无法正常执行怎么办?


回答3:如果是Linux系统的话,在第一次安装PowerPath并且还没有重启主机的情况下,需要手动启动PowerPath服务(/etc/init.d/PowerPath start)去加载相应的模块和功能(重启后会自动加载,不需要再手工启动),否则powerpath命令是无法执行的,在其他Unix系统上,PowerPath会自动载入到系统内核,这个时候如果相关命令无法执行,通常情况下我们需要首先去检查系统的兼容性,看该系统是否被powerpath支持、是否安装了正确的powerpath版本和安装包以及安装过程是否遇到了问题,如果兼容性什么的都没有问题,可以尝试卸载并按文档要求重新安装PowerPath,如果还是有问题,就需要找EMCcase进一步分析了。


问题4: PowerPath生成的Pseudo设备名重启后发生变化,或者设备名在cluster多节点之间不同步的处理方法?


回答4在Unix上我们在对PowerPath的配置进行任何的修改之后,需要执行“powermt save”命令去保存PowerPath的最新配置(一般保存到/etc/powermt_custom或者/etc/powermt_custome.xml文件中),主机在重启过程中PowerPath会自动执行powermt config配置PowerPathpowermt load去载入之前保存的配置文件。如果客户对powerpath的配置做过修改但是没有进行过保存,就很有可能导致PowerPath载入了老的配置文件从而出现Pseudo设备名发生变化的情况(当然这里也不排除一些特定版本的powerpath在一定环境下也会发生类似问题的情况,这种情况下客户就需要找EMCcase看自己使用的PowerPath是否有该问题了),所以在对PowerPath做过修改后,请执行"powermt save"去保存最新的配置。

一般在cluster环境下,客户给每个节点分配的LUN是一样的,通常PowerPath给各个LUN分配的pseudo设备名是一样的,当然可能因为种种原因,如之前某台节点分过LUN,后来被移除后有残留的PowerPath设备文件存在等等,可能会导致cluster各节点之间的pseudo设备名不一致,从而进一步导致cluster的使用问题。针对这种情况,PowerPath自带一个命令“emcpadm”,该命令可以去手动修改一个LUNpseudo设备名,或者更简单的把某一台节点的LUN和pseudo名的mapping关系export出来并拷贝到另外一台节点上import进去(不要手工修改该文件)。该命令具体的使用方法可以执行emcpadm helpman emcpadm参考帮助文档。


问题5: PowerPath命令显示异常,policy显示为BasicFailover,路径mode显示为unlicasb:iopf等等问题?


回答5:通常情况下,我们安装了powerpath并正确配置了license,所有的path都应该显示成active/alivepolicy针对具体的存储型号也会自动配置成SymmOpt/CLAROpt/Adaptive等等,如果我们在powermt display dev=all的输出中看到了PolicyBasicFailover或者path modeunlic的话,可能是由于没有正确配置license或者license是在powerpath管理LUN以后再添加进去的。

所谓basic failover,是客户没有安装license的时候的一种故障切换(failover)的policy,它只能在一个HBA口上针对后端两个存储端口发生的故障提供切换功能,打个比方,如果客户有两个HBA口,分别连到连到了两个不同的存储端口,这个时候应该有4path,但是只有两条是active/alive的(一个HBA口到两个后端存储口),其他的都是unlic的,即使再添加新的path,也都会显示成unlic。所谓unlic,就是没有被licensepath,这种path是不能被用来做故障切换的。同时需要注意的是,basic failover这种policy下,也是没有负载均衡的功能的。

解决这种问题,首先确定license已经安装好 (可以使用powermt check_registration检查,使用emcpreg命令添加/删除license)。如果license没有问题但是还有一部分pathunlic 的,可能是由于这个path被识别的时候license还没有被安装,这个时候可以根据存储型号执行powermt set policy=co|so|adco=CLAROpt, so=SymmOpt, ad=Adaptive),这样policy更改的同时就会把相应的path也变成active模式了。

还有一种常见的问题就是有path显示成asb:iopf的问题,这个是某些新版本PowerPath的一个特性,asb这里的意思是auto-standbyIOPF的意思是IPs per failure,意思是如果一条路径上发生间歇性的IO错误并且平均值达到一定阀值以后,PowerPath就会认为这条path不够稳定并把这个路径置成autostandby模式,这个时候,PowerPath会优先使用其他activepath,除非没有activepath可以用了,不然PowerPath是不会使用standby的path的。

一旦客户发现有path被置成了asb:iopf,就要考虑去检查SAN环境看这条链路是否稳定了。可以通过powermt命令去关闭/开启这个autostandby功能或者修改其阀值,也可以将一条asb:iopf的路径手工置成active,具体请看powerpath文档或者下面这篇KB

https://support.emc.com/kb/16228

问题6:VG的时候是应该使用powerpath生成的伪设备名还是应该使用通过OS识别出的路径呢


回答6通常情况下,EMC始终建议客户使用PowerPath生成的伪设备名(pseudo)而不是OS识别出来的路径,不管是做VG,还是在应用上面,甚至是用来做裸设备。但是如果客户已经配置并使用了OS路径而不是伪设备名,一般也没有关系,在Linux/Solaris/HP-UX上,只要PowerPath能正常工作,它都会截获IO并实现负责均衡以及故障切换的功能,但是需要注意的是,在AIX上,我们必须使用伪设备名(hdiskpowerxxx)而不是OS路径(hdiskxxx),由于AIX操作系统的设计原因,直接发到hdisk设备上的IO不能被PowerPath截获从而进一步实现负载均衡以及故障切换


问题7: 能否来个powerpath unix configuration common examples?

回答7由于各个平台不同,所以不是太好概括,也就是为什么EMC针对每个平台每个版本的PowerPath都有一本安装配置文档(Installation and Administration guide) 的原因了

但是在Unix/Linux上一般大致的步骤是这样的:


1. 检查兼容性和做安装前的检查

2. 安装必要的软件(如AIX的ODM)

3. 在主机级别扫描LUN

4. 安装PowerPath软件包和相关license

5. 启动PowerPath服务 (Linux)

6. 执行"powermt config"从PowerPath级别扫描LUN (前提是主机已经认到LUN)

7. 执行"powermt display dev=all"检查,“powermt save"保存配置。

以上内容非常概括,具体还是要参考相应版本的安装文档(例如如果是boot from SAN步骤不太一样),该文档可以https://support.emc.com上下载。


问题8: 如果系统里虽然安装了Powerpath但主机工程师仍然按照识别出的一组路径作为存储路径而并没有使用伪设备名,那么可以把这些配置重新改回powerpath所生成的伪设备名么?


回答8请问使用的是什么操作系统?

如果是AIX的话,是必须改掉的。如之前所说的,AIX上面如果使用LUN的某一个路径的话(hdiskx),由于操作系统本身的限制,PowerPath是没有办法截获IO从而实现负载均衡和故障切换功能的,所以必须使用伪设备(hdiskpowerx)。

如果是Linux的话,也需要改掉,由于Linux上面的路径都是sdx而不是ctd这样的形式,Linux在重启时由于扫描到的LUN的先后顺序不一样,很有可能出现sdx设备名变掉的情况从而导致应用认不到LUN的情况,如果使用伪设备(emcpowerx)就可以避免这种问题。

如果是Solaris或者HP-UX的话,也建议改成伪设备,但一般如果直接使用路径也不会有什么问题。但不管怎么样,EMC始终建议客户使用PowerPath生成的伪设备。


问题9: PP针对其他厂商的类似软件,有哪些优点?


回答9PowerPath主要是针对EMC存储开发的多路径软件,所以会针对EMC的存储(CLARiiON/VNX/Symmetrix/Vplex ...)在负载均衡性能和故障切换方面做特别的优化,同时PowerPath还提供一些高级功能如PPME(PowerPath migration enabler)、配合EMC RSA产品做加密等等。

PowerPath除了支持EMC自家的存储外,还支持如Hitachi Lightning, Hitachi TagmaStore, HP StorageWorks XP, IBM ESS storage等其他厂商的存储。

与一些其他多路径软件相比(如Linux DM-MPIO,AIX MPIO),PowerPath能为这些第三方存储提供更多的负载均衡策略从而提高性能,以及一些如autostandby自动standby不稳定的路径,PPME(PowerPath migration enabler)迁移,PowerPath RSA加密等高级功能。



参考

【专家问答】PowerPath在Unix平台上的常见问题及处理


应用于

PowerPath, AIX, Linux, Solaris, HP-UX

             

版本历史
修订号
1 / 1
上次更新时间:
‎12-29-2013 11:40 AM
更新依据: