PHP-FPM模式下可怕的 MongoDB-PHP-Driver 连接池无节制连接问题
@郑昀汇总 创建日期:2013/1
问题发生环境:
- Nginx
- PHP 5.3.10 as php-fpm extension to nginx
- mongodb-php-driver 1.2.12
- MongoDB 2.2
此问题是 MongoDB PHP Driver 1.2.x 的官方特性导致的,描述请看 PHP-202 和 PHP-347 。简单地说,PHP-FPM模式下,每一个 PHP Worker 进程都有自己独立的 mongodb 连接池,从而导致连接数极易超标,内存数也随之倍增。
一,PHP服务背景:
某个 Web 应用是通过 Nginx+factcgi 运行的 PHP 程序提供服务的。
PHP-FPM的最大子进程数,是通过 php-fpm.conf 的 max_children 参数设置的(或pm=dynamic时由 spare_servers+start_servers 参数综合决定)。这个值曾被设置为512。
二,MongoDB服务背景:
- maxConns:默认值取决于系统的限制(如 ulimit 和 file descriptor)。如果没设置这个参数, mongodb 自己不会限制连接数。但,你不能设置超过 20,000 。
三,MongoDB PHP Driver 的可怕连接池特性(BUG?)
MongoDB 官方提供的 mongodb-php-driver 在 1.3.0 以下版本(1.2.0~1.2.1x),拥有一个可怕的连接池实现方案,在执行任何查询时,都会从连接池中请求一个连接,完成之后再归还给连接池。这里的完成是指持有该连接的变量离开了它的作用域。
PHP-FPM模式下,一个 PHP Web 应用能对 MongoDB instance 建立的并发连接数计算方式如下:
- 进程数:max-children = 512 ,那么是 512 个进程;
- 一个MongoDB实例对应一个连接池:主站配置了165和166两个副本集实例;
- 连接池中的连接数:mongodb-php-driver 对此不做任何限制,可以无限增加直到句柄耗尽为止。
——————郑昀:此计算方式出自 mongo.connecting.pools ——————
根据 mongodb 官方文档说明,虽然连接数无限增长理论上是有可能的,但实际观测发现,一个 Web Server 与一个 mongodb 实例的连接数通常会稳定在一个值上,不会有太大的起伏。
那么,假设一个 PHP Web 应用向 mongodb-165 发起的连接数为:
750 个,
该 MongoDB 实例为此需要维护的内存数至少为:
750 × 默认10MB = 7.5 GB
迅速升级到 mongodb-php driver 1.3.2。
参考文档:
2)李丹的测试结果:
“再测试一下驱动升级到1.3.2稳定版后的ab结果,发现close效果很明显,很快的连接数就下降到测试之前的数量了。虽然在峰值上大于老的驱动,但是应该可以解决现有线上的高连接持续的问题。”
4)mongodb-java-driver 定义了一个应用与 mongodb 实例能建立的最大连接数,即 (connectionsPerHost × threadsAllowedToBlockForConnectionMultiplier)个连接:
- mongo.options.connectionsPerHost:每个Application与 MongoDB 实例能建立的最大物理连接数,默认是10;
- mongo.options.threadsAllowedToBlockForConnectionMultiplier:可以等待池中有连接可用的最大线程数,默认是5。
赠图几枚:
spymemcached 相关文章: