转：Concurrent connection limit
原文地址：http://blog.joycode.com/musicland/archive/2005/04/16/48690.aspx
这几天在做IIS 6上Web Service (WSE 2.0)的性能测试。在这个过程中陆续发现和解决了一些问题。
其中有一个问题比较有意思。我和项目组的同事发现，不论我们用C#写的模拟客户端用多少并发量来连接Web Service，服务器端监测到的并发连接数（性能记数器中的Web Service\Current Connections）总是每客户端最高2个。这使得我们无法查看服务器在大并发量下的真切反应。
那么为什么服务器会对每客户端做出最高2个并发量的限制呢？
通过查找资料，我找到了问题的根源。原来，在HTTP 1.1 Spec中针对Persistent Connections提出了这样的Practical considerations：
Clients that use persistent connections SHOULD limit the number of simultaneous connections that they maintain to a given server. A single-user client SHOULD NOT maintain more than 2 connections with any server or proxy. A proxy SHOULD use up to 2*N connections to another server or proxy, where N is the number of simultaneously active users. These guidelines are intended to improve HTTP response times and avoid congestion.
以上内容表明，为了提高HTTP响应时间以及避免产生网络堵塞，HTTP连接中的客户端不应该与服务器端建立超过2个的HTTP连接。如果有更多的请求需要，那么这些请求将被pipeline到这两个HTTP连接之中，并以异步的方式传送给服务器端。举个例子：有上百辆汽车（requests）想从天津开往北京，但是天津与北京之间最多只允许修建两条公路（HTTP connection），因此这些汽车要想从天津驶往北京的话，就只能走这两条公路。
但是，有时的确需要突破这样的限制。比如我一开始提到的性能测试，我需要用尽可能少的客户端程序来模拟尽可能多的用户访问，而不能为了模拟1000个并发量同时使用500台机器来测。那么应该怎样通过一个测试应用程序来产生指定的并发数量呢？
不难看出，为了提高单一测试应用程序所产生的并发量，就应该增加两个指标：网络客户端数量和单一客户端的HTTP连接数量。就我所知，可以通过以下两种方法来分别提高这两个指标。
方法一：使用AppDomain
在. NET中，一个AppDomain就被视为网络连接中的一个客户端，因此如果希望用一个测试应用程序模拟多个客户端，那么只须创建多个AppDomain 即可。需要注意的是，对于每一个AppDomain，最高2个的连接限额仍然存在，不同之处只是我们可以使用一个测试应用程序发送超过2个的并发请求了（现在为了模拟1000个并发量就不需要找500台测试机器了）。请看下面的代码：
AppDomain appDomain = AppDomain.CreateDomain("");
appDomain.ExecuteAssembly(@"TestClient.exe");
AppDomain.Unload(appDomain);
在这里，我通过调用AppDomain的静态方法CreateDomain创建了一个新的应用程序域，并要求该应用程序域执行一个应用程序 TestClient.exe。该应用程序将负责向服务器发送请求（最多只能建立两个连接）。你可以通过多线程的方式来驱动上述代码，使得大量应用程序域在近乎相同的时间里被创建，从而就可以模拟指定数量的客户端，并产生所希望的并发访问量。
方法二：使用配置文件
除了增加客户端数量以外，我们还可以增加单一客户端所能建立的HTTP连接数量。在.NET中实现这一目标非常容易，只需要在客户端（没错，是客户端！）的配置文件中增加以下几行即可：
<system.net>
<connectionManagement>
<add address="*" maxconnection="100"/>
</connectionManagement>
</system.net>
其中，connectionManagement节点负责指定客户端与某一网络主机之间所能建立的最高连接数量。它在Machine.config文件中的默认取值就是2。我们完全可以在应用程序级的配置文件中对这一限额做出更改。address属性表明该连接限额针对的是哪一个网络地址，*表明所有的网络主机；如果写成address="www.google.com"就表明后面的maxconnection只适用于对google的访问。
好了，现在就可以根据自己的需要来更改配置了。如果你把maxconnection的取值改成了1000，那么你的测试应用程序与服务器之间所能建立的最高连接数量就是测试用应用程序域的数量 * 1000，测吧！
