光纤通道卡故障引发的系统宕机

某金融行业客户,业务系统采用P550小机双机HA+共享存储模式,一天业务高峰期准备切换窗口,业务报怎么也切换不过去,业务无法进行。运维接报后赶紧上P550去看,errpt查看错误日志,报其中一台光纤通道卡硬件故障,造成无法连接共享存储,马上上HACMP,准备先把资源切换到另一台服务器上去,...显示全部

某金融行业客户,业务系统采用P550小机双机HA+共享存储模式,一天业务高峰期准备切换窗口,业务报怎么也切换不过去,业务无法进行。运维接报后赶紧上P550去看,errpt查看错误日志,报其中一台光纤通道卡硬件故障,造成无法连接共享存储,马上上HACMP,准备先把资源切换到另一台服务器上去,这时候怪事出现了,无论怎么操作,资源就是切换不过去。这时候时间已经过去20分钟了,领导们听说这个事都赶过来了,围在周围商讨如何解决,同时急电IBM厂家技术支持立即赶往现场救火。

     在等待厂家技术支持的时间里,我们一面重新想办法切换,一边查阅系统建设时的设计方案跟拓扑图,检查是不是当时建设方案有什么纰漏,仔细排查系统问题,厂家技术支持到达后也跟着一起检查设计方案,细细检查了设计方案拓扑,终于发现问题:当初建设方案小机光纤通道卡存在单点故障,造成该卡故障以后依然占用资源未释放,热备机无法接管,以致业务系统宕机,无法处理业务请求。

   找出问题后,商定处理办法,重启光纤卡故障那台小机,释放占用资源,切换到另一台P550,重新接管资源,起应用系统,恢复业务处理,万幸的是业务终于可以运行了。看看时间,这时间已经过去一个小时了,相关外联单位的打来的电话已经打爆了,耽误了业务系统的处理,大家都走不了,万幸业务最终处理完了。后面在一个月食之夜对该业务系统进行升级变更,最终彻底解决了这个问题。

收起
参与77

查看其它 13 个回答ljq2184929的回答

ljq2184929ljq2184929系统运维工程师中国建材

我个人感觉针对此案例:1、方案出来后,方案评审不能走过场。2、灾难切换演练必须进行,应充分测试。3、单点故障是系统管理员及相关负责人对整体方案必需考虑的因素,必须加以重视。4、此故障案例缺乏监控手段,未有效快速故障定位。

互联网服务 · 2016-11-26
浏览4043
  • 1、方案当时是厂家评审认可过的,大家都没注意到光纤通道卡的单点,光纤交换机那些都是冗余的,2、双机切换演练是每年都有实施的,演练不可能覆盖所有异常情况的, 3、单点故障都有考虑的,必须是冗余的, 4、监控是有的,只是技术监控更多的是资源与网络情况,业务部分更多的是由业务人员监控,有异常立即通报,所以才能马上发现窗口切换异常
    2016-11-27

回答者

ljq2184929
系统运维工程师中国建材
擅长领域: 存储灾备数据库

ljq2184929 最近回答过的问题

回答状态

  • 发布时间:2016-11-26
  • 关注会员:14 人
  • 回答浏览:4043
  • X社区推广