系统集成内存泄露MQ

WMQFFSTInfo内存泄漏

公司基于IBM MQ开发了企业级综合服务管理平台(ESB),同时将用户、客户、机构等等基础信息管理功能分离出来提供基本的数据服务,而其他系统则通过综合服务管理平台进行服务访问。我方恰好设计、并开发了其中的用户信息管理系统。该系统需要管理企业范围内的所有用户信息、机构信息、系统信息、功能信息、权限信息,并提供各种用户认证服务。其中一个较为关键的功能是,我们需要将各业务系统相关的用户、机构以及功能权信息实时同步到各业务系统,并且保证同步功能的高效、稳定与可靠。

       数据信息实时同步功能,依托企业级综合服务管理平台,并且采用异步消息通信的方式,从系统Server端将变化的信息同步到各业务系统的Client端,Server端在我方部署,Client端在各业务系统部署。我方将Client端开发完成,然后通知所有需要使用我方信息的系统下载并安装Client端。Client端一旦启动,通常不会停止。除非:(1)人为的将Client端关闭;(2)Client端进程宕掉。

       近期,项目组收到业务系统发来的问题求助:该业务系统在部署Client端之后,过了一段时间之后,Client端的进程宕了。在Client端的启动目录下,产生了一批javacore和heapdump文件。希望项目组能够协助分析、并解决该问题。

由于整个企业范围内大约有上百个Client端安装,绝大多数Client端都是没有出现这样的问题的。由此分析,此案例只是个例,如果是个例,那么便于该业务系统的环境存在些许关系。

       第一步,对javacore文件进行分析

       由于javacore分析工具jca有些异样,我们只好使用Editplus将javacore打开,看看其中的内容究竟是怎么回事。

Javacore文件一开始便告诉我们:java.lang.OutOfMemoryError “java heap space received”。即,本次导致进程宕掉的主要原因,是JVM的堆空间出现了内存溢出。在Javacore后面的线程堆栈输出方面,可以看到大量的线程都处于等待状态。

既然是堆空间溢出,那么我们有必要分析下heapdump文件,看看是什么对象占用了大量的数据空间。

       第二步,对heapdump文件进行分析

       由于heapdump文件是二进制文件,并且文件大小比较庞大,不可能像javacore那样使用编辑工具软件便可以进行分析,而是需要使用专门的分析软件,例如IBM Heap Analyzer分析工具。

将heapdump文件导入到IBM Heap Analyzer工具后,可以看到:在发生内存溢出的时候,Client端JVM进程中存在大量的java对象。通过分析工具左下方Subponena Leak Suspects可以看到:

       (1) WMQFFSTInfo对象竟然占用了97%的堆内存空间。
       (2) WMQFFSTInfo中存在一个Map对象,包含7900个HashMap$Entry对象,每个Entry对象的大小为113K左右。
       (3) 每个HashMap$Entry对象都涉及到WMQMessageConsumer对象。
       于是,我们基本上可以判定,是WMQFFSTInfo发生了内存泄漏。但是至于为什么发生,还不是特别明朗。

第三步,分析WMQFFSTInfo和WMQMessageConsumer

由于MQ使用的是IBM的WebSphere MQ,属于商业版本,相关的接口jar包的代码并未开源,我们只能通过反编译工具对IBM MQ的jar包进行反编译,然后分析其中的java代码实现。

对于WMQFFSTInfo类,我们发现其存在4个属性,其中,每个属性都有对应的add和remove方法,WMQFFSTInfo类本身是没有什么问题的。
       
Public class WMQFFSTInfo{
……….
Map connection;
Map session;
Map consumer;
Map producer;
………..

Public static void addConsumer(WMQMessageConsumer consumer){
    ……….
key=func(consumer);
    consumer.put(key,consumer);
    ………
}

Public static removeConsumer(WMQMessageConsumer consumer){
    ……………
    key=func(consumer);
    consumer.remove(key);
……….
}
……….
}

       下面我们来看看WMQMessageConsumer类:

       (1) 有两个构造函数,这两个构造函数中,首先对对象属性进行this.prop=prop式的赋值,然后调用WMQFFSTInfo的addConsumer方法:WMQFFSTInfo. addConsumer(this);
       (2) 存在close方法,在close方法中会调用WMQFFSTInfo. removeConsumer(this);

       单纯从上面的类和方法中,我们并不能得出任何结论。

       第四步,分析Client端输出的日志

       从Client端输出的日志中,发现在出现JVM宕掉之前,日志中大量输出JMSException,其主要内容是说:XXXX MQ队列没有找到。

       后来与Client端开发人员交流,得知,如果Client端在建立MQ连接后,若创建MessageConsumer失败,则会每个5秒钟,再次重复创建MessageConsumer。并且,MessageConsumer的创建次数并没有上限限制。

       结合前面分析的结果,在加上Client软件运行良好的系统并没有出现此问题,可以得知:Client端每隔5秒钟创建了一个MessageConsumer对象,并且将此对象放入了WMQFFSTInfo中,等到真正需要去连接MQ队列时,却由于MQ队列信息不正确而抛出了异常,导致系统根本没有时机去调用MessageConsumer的close方法释放已经放入WMQFFSTInfo的对象,在创建7900多个MessageConsumer之后,WMQFFSTInfo成功地消耗掉了JVM进程中所有的堆空间,而且还无法进行垃圾回收,最终导致JVM堆内存溢出,进而引发JVM进程宕机。

       第五步,问题的根本原因

       根据上面的分析,基本上已经知道问题原因了,但是所有的问题的根本原因还是软件的代码存在Bug,比如,本案例的Bug产生原因是,MQ队列(queue)无法正常连接,系统抛出JMSException之后,并没有将WMQFFSTInfo中的废弃WMQMessageConsumer对象移除,导致内存泄漏。

按照正常情况,如果调用了WMQMessageConsumer的close方法,则系统必然会从WMQFFSTInfo中将consumer移除。我们进而需要分析Spring框架下,DefaultMessageListenerContainer的代码中,是否支持在异常发生的情况下,会调用consumer的close方法。

       通过反编译工具,反编译spring子项目jms的jar包,找到DefaultMessageListenerContainer的内部运行线程,可以看到线程方法中,存在一个catch(Throwable e){}finally{consumer.close();}的代码,由此判断,当consumer抛出异常时,肯定会执行close()方法。

       然而,事实是,Client端进程抛出JMSException时,根本就没有调用close()方法。即,似乎是在告诉我们,是在创建consumer对象的时候抛出的异常,而不是在创建成功之后,抛出的异常,所以,无法调用consumer的close方法。

       我们将WMQMessageConsumer的构造函数拿出来分析分析:
       
public WMQMessageConsumer(WMQDestination destination, WMQSession session, String selector, boolean nolocal, JmsPropertyContext jmsProps)
    throws JMSException
  {
    super(jmsProps);
    this.destination = destination;
    this.session = session;
    this.selector = selector;
    this.nolocal = nolocal;

    WMQFFSTInfo.addConsumer(this);

    checkDestinationValidForNPHigh();
    this.syncShadow = new WMQSyncConsumerShadow(this, session, destination, selector, nolocal, this.subscriptionName);
    this.currentShadow = this.syncShadow;
    this.currentShadow.initialize();
  }

       WMQMessageConsumer的构造函数抛出了一个JMSException,并且是在WMQFFSTInfo.addConsumer(this);之后抛出。可见,此处为问题的根本原因所在。由此,问题不难从根本上解决之。
       正常情况下,在WMQMessageConsumer的构造函数中,需将抛出JMSException的Java代码用try-catch代码块封装,并且在出现异常时,在catch代码块中显示调用WMQFFSTInfo.removeConsumer(this)方法。至于为什么IBM的工程师们,不按常规的办法做,而是使用了会产生内存泄漏的解决办法,我们无法得知其中缘由。这一缺陷IBM MQ7.5版本中依然存在。【请解释】
参与1

1同行回答

liushaoyiliushaoyi技术经理华润
我找了一下,WMQFFSTInfo是MQ客户端为JMS提供的类,这个内存溢出的问题已经上报过,如果是V7.0版的话可以打Fix Pack 7.0.1.5以上的补丁解决,参考链接如下:http://www-01.ibm.com/support/do ... 301&uid=swg1IZ86301如果是其他版本的话建议打最新补丁。...显示全部
我找了一下,WMQFFSTInfo是MQ客户端为JMS提供的类,这个内存溢出的问题已经上报过,
如果是V7.0版的话可以打Fix Pack 7.0.1.5以上的补丁解决,参考链接如下:
http://www-01.ibm.com/support/do ... 301&uid=swg1IZ86301
如果是其他版本的话建议打最新补丁。收起
互联网服务 · 2014-11-07
浏览962

提问者

ce97
ce974612
软件开发工程师某某某
擅长领域: 数据库大数据中间件

相关问题

相关资料

问题状态

  • 发布时间:2014-11-07
  • 关注会员:0 人
  • 问题浏览:4479
  • 最近回答:2014-11-07
  • X社区推广