Nginx+tomcat8负载均衡

大家好！我想请问一个问题：目前我使用Nginx+Tomcat8做负载均衡，测试2000并发，目前我单个Tomcat使用Apr协议，可达到1000并发（该并发由LoadRunner测试，梯度上升（每15S加入30个用户），然后并行执行5分钟，梯度降低（每15S降低100个用户）），1000并发没有问题，LoadRunner也不报错，然后我在另一台服务器上部署第二个Tomcat，测试2000并发，但是在1100~1400左右时，就开始报错了，有类似500错误，超时错误，还有网关错误。请问大家一下，怎么解决啊？
请教一下各位大神，这问题已经困扰几天了，谢谢大家