多线程环境下调用 HttpWebRequest 存在并发连接限制
from:http://www.cnblogs.com/eaglet/archive/2012/05/18/2507179.html
WebClient 类使用 WebRequest 类提供对资源的访问。WebClient 实例可以通过任何已向 WebRequest.RegisterPrefix 方法注册的 WebRequest 子代访问数据。
WebRequest 和 WebResponce 过于庞大复杂,于是WebClient简单易用孕育而生。查看反编译后WebClient类会发现其中最核心的是包含类WebRequest 和 WebResponse调用来玩车的那个所有的访问、上传和下载的功能,也提供了虚方法为子类继承自WebClient很容易实现其功能。微软开开发此功能的目的是为更方便的抽象出对网络资源访问的封装而已。
.net 的 HttpWebRequest 或者 WebClient 在多线程情况下存在并发连接限制,这个限制在桌面操作系统如 windows xp , windows 7 下默认是2,在服务器操作系统上默认为10. 如果不修改这个并发连接限制,那么客户端同时可以建立的 http 连接数就只有2个或10个。对于一些诸如浏览器或网络蜘蛛的应用,2个或10个并发数量实在太少,大大影响应用的性能。之所以有这个并发连接限制,是因为 http 1.0 和 http 1.1 标准规定并发连接数最大为2. 不过目前主流的浏览器都已经不遵循这个规则了,但 .net framework 依然默认遵循这个规则。
很多文章说用异步方式访问 HttpWebRequest 可以提高并发性能,但我测试下来,如果不修改这个默认并发连接数,同步或异步方式访问性能都很不好。
调整这个默认并发连接限制的方法很简单
只要在程序中设置:
System.Net.ServicePointManager.DefaultConnectionLimit = 512;
这个值最好不要超过1024。
我们也可以在app.config 中对最大并发连接数进行设置,方法如下:
<configuration> <system.net> <connectionManagement> <add address = "http://www.google.com" maxconnection = "512" /> <add address = "*" maxconnection = "512" /> </connectionManagement> </system.net> </configuration>
修改了这个设置后,并发性能明显提高,从原来每秒钟20次直接上升到每秒钟1000多次。
相关资料: