【转】Linux下消息队列和socket绝对速度比拼

在当今的网络时代，我们常常见到的进程间通信方式都是socket，比如Java的EJB调用，Java和C通信，Web Service服务等。socket是最常用的通讯技术，几乎所有的系统、语言都支持，socket也是面向网络的，通信的两方可以跨越IP网络进行传输。

在本地通信中(同一台机器上的进程间通讯)，socket的网络特性却成了累赘，组装解析网络报头、报文确认、CRC校验等都是针对网络的，本地通信没有必要，反而会影响传输效率。本地通信的一些传统技术，如管道、FIFO、消息队列等，没有网络功能的负担，传输速度应该高于socket，那到底高多少以至于值得在应用中替换socket技术呢，今天就来一场小测试，就System V消息队列和socket之间，做一次全面的速度比拼。

 

比拼场地

本人的笔记本：赛扬1.5G 内存1.5G
系统：Ubuntu8.04 Desktop (Linux 2.6.24-24-generic)
JDK：1.6

第一回合： Java测试

先说明一下，Java并不支持System V消息队列，因此特为Java提供了JNI接口，我们使用lajp_9.09提供C源码编译的so动态连接库，lajp的下载地址和文档：http://code.google.com/p/lajp/

首先上场的是System V消息队列。

发送端程序：

  1. package test;
  2.  
  3. import lajp.MsgQ;
  4.  
  5. public class TestSend
  6. {
  7. /** 消息队列KEY */
  8. static final int IPC_KEY = 0×20021230;
  9.  
  10. static
  11. {
  12. //JNI
  13.  System.loadLibrary("lajpmsgq");
  14. }
  15.  
  16. public static void main(String[] args)
  17. {
  18. //创建或获得现有的消息队列
  19. int msqid = MsgQ.msgget(IPC_KEY);
  20. //发送字节数组
  21. byte[] msg = new byte[1024];
  22.  
  23. for (int i = 0; i < 1024 * 5000; i++)
  24. {
  25. //每次发送1204字节到消息队列，9527是消息类型
  26. MsgQ.msgsnd(msqid, 9527, msg, msg.length);
  27. }
  28.  
  29.  System.out.println("发送结束.");
  30. }
  31. }

 

接收端程序：

  1. package test;
  2.  
  3. import lajp.MsgQ;
  4.  
  5. public class TestRcv
  6. {
  7. /** 消息队列KEY */
  8. static final int IPC_KEY = 0×20021230;
  9.  
  10. static
  11. {
  12. //JNI
  13.  System.loadLibrary("lajpmsgq");
  14. }
  15.  
  16. public static void main(String[] args)
  17. {
  18. //创建或获得现有的消息队列
  19. int msqid = MsgQ.msgget(IPC_KEY);
  20. //接收缓冲区
  21. byte[] msg = new byte[1024];
  22.  
  23. long start = System.currentTimeMillis(); //开始时间
  24.  
  25. for (int i = 0; i < 1024 * 5000; i++)
  26. {
  27. //每次从消息队列中接收消息类型为9527的消息，接收1204字节
  28. MsgQ.msgrcv(msqid, msg, msg.length, 9527);
  29. }
  30.  
  31. long end = System.currentTimeMillis(); //结束时间
  32.  System.out.println("用时:" + (end – start) + "毫秒");
  33. }
  34. }

 

程序很简单，需要说明的是三个JNI方法调用：

msgget()方法: System V消息队列的技术要求，含义是通过一个指定的KEY获得消息队列标识符。
msgsnd()方法: 发送。
msgrcv()方法: 接收。

发送方进行了(1024 * 5000)次发送，每次发送1024字节数据，接收方进行了(1024 * 5000)次接收，每次接收1024字节，共计发送接收5G数据。测试时先启动TestSend程序，再启动TestRcv程序，共进行5轮次测试，测试结果如下：

用时:29846毫秒
用时:29591毫秒
用时:29935毫秒
用时:29730毫秒
用时:29468毫秒
平均速度：29714毫秒

用top命令监控测试期间的CPU、内存的使用：

java_msgq

接下来上场的是socket。

发送端程序：

  1. import java.io.IOException;
  2. import java.io.OutputStream;
  3. import java.net.Socket;
  4.  
  5. public class SocketSend
  6. {
  7. public static void main(String[] args) throws IOException
  8. {
  9. //Socket
  10.  Socket socket = new Socket("127.0.0.1", 9527);
  11. //输出流
  12.  OutputStream out = socket.getOutputStream();
  13. //发送字节数组
  14. byte[] msg = new byte[1024];
  15.  
  16. long start = System.currentTimeMillis(); //开始时间
  17.  
  18. for (int i = 0; i < 1024 * 5000; i++)
  19. {
  20. //发送
  21. out.write(msg);
  22. }
  23.  
  24. long end = System.currentTimeMillis(); //结束时间
  25.  System.out.println("用时:" + (end – start) + "毫秒");
  26. }
  27. }

 

接收端程序：

  1. import java.io.IOException;
  2. import java.io.InputStream;
  3. import java.net.ServerSocket;
  4. import java.net.Socket;
  5.  
  6. public class SocketRecv
  7. {
  8. public static void main(String[] args) throws IOException
  9. {
  10. //侦听9527端口
  11.  ServerSocket serverSocket = new ServerSocket(9527);
  12. //Socket
  13.  Socket socket = serverSocket.accept();
  14. //输入流
  15.  InputStream in = socket.getInputStream();
  16. //接收缓冲区
  17. byte[] msg = new byte[1024];
  18.  
  19. for (int i = 0; i < 1024 * 5000; i++)
  20. {
  21. //每次接收1204字节
  22. in.read(msg);
  23. }
  24.  
  25.  System.out.println("接受结束.");
  26. }
  27. }

 

程序同样很简单，同样发送接收了(1024 * 5000)次，同样5G数据，socket程序必须先启动服务方SocketRecv，然后启动客户方SocketSend，共进行5轮次测试，测试结果如下：

用时:33951毫秒
用时:33448毫秒
用时:33987毫秒
用时:34638毫秒
用时:33957毫秒
平均速度：33996.2毫秒

用top命令监控测试期间的CPU、内存的使用：

java_socket

测试结果让人对消息队列有点失望，性能优势微弱大约只领先了13%，且程序复杂性要大的多(使用了JNI)。不过重新审视测试过程有一个疑问：消息队列程序调用了自定义的JNI接口，而socket是Java内嵌的功能，是否JVM对 socket有特殊的优化呢？

怀着这个疑问，进行第二场纯C程序的测试。

第二回合： C程序测试

首先上场的还是System V消息队列。

发送端程序：

  1. #include <sys/ipc.h>
  2. #include <sys/msg.h>
  3. #include <stdio.h>
  4.  
  5. #define IPC_KEY 0×20021230 /* 消息队列KEY */
  6.  
  7. /*消息结构*/
  8. struct message
  9. {
  10. long msg_type; /* 消息标识符 */
  11. char msg_text[1024]; /* 消息内容 */
  12. };
  13.  
  14. int main()
  15. {
  16. /* 创建或获得现有的消息队列 */
  17. int msqid = msgget(IPC_KEY, IPC_CREAT | 0666);
  18. /* 消息结构 */
  19. struct message msgq;
  20. msgq.msg_type = 9527; /* 消息类型 */
  21.  
  22. int i;
  23. for (i = 0; i < 1024 * 5000; i++)
  24. {
  25. /* 接收 */
  26. msgsnd(msqid, &msgq, 1024, 0);
  27. }
  28.  
  29.  printf("msgq发送结束，共发送%d次\n", i);
  30. return 0;
  31. }

 

接收端程序：

  1. #include <sys/ipc.h>
  2. #include <sys/msg.h>
  3. #include <stdio.h>
  4.  
  5. #define IPC_KEY 0×20021230 /* 消息队列KEY */
  6.  
  7. /*消息结构*/
  8. struct message
  9. {
  10. long msg_type; /* 消息标识符 */
  11. char msg_text[1024]; /* 消息内容 */
  12. };
  13.  
  14. int main()
  15. {
  16. /* 创建或获得现有的消息队列 */
  17. int msqid = msgget(IPC_KEY, IPC_CREAT | 0666);
  18. /* 消息结构 */
  19. struct message msgq;
  20.  
  21. int i;
  22. for (i = 0; i < 1024 * 5000; i++)
  23. {
  24. /* 接收 */
  25. msgrcv(msqid, &msgq, 1024, 9527, 0);
  26. }
  27.  
  28.  printf("msgq接收结束，共接收%d次\n", i);
  29. return 0;
  30. }

 

和第一场一样，发送接收了(1024 * 5000)次，同样5G数据，先启动接收端程序msgrecv，然后以$time msgsend方式启动客户端程序，共进行5轮次测试，time的测试结果如下：

用户 系统 时钟
第一次： 0.992s 7.084s 18.202s
第二次： 0.888s 7.280s 18.815s
第三次： 1.060s 7.656s 19.476s
第四次： 1.048s 7.124s 20.293s
第五次： 1.008s 7.160s 18.655s

用top命令监控测试期间的CPU、内存的使用：

c_msgq

接下来上场的是socket。

发送端程序：

  1. #include <stdio.h>
  2. #include <string.h>
  3. #include <netdb.h>
  4.  
  5. char msg[1024]; /* 发送消息 */
  6.  
  7. int main()
  8. {
  9. char *ip = "127.0.0.1"; /* 发送地址 */
  10. int port = 9527; /* 发送端口 */
  11.  
  12. struct hostent *server_host = gethostbyname(ip);
  13.  
  14. /* 客户端填充 sockaddr 结构 */
  15. struct sockaddr_in client_addr; /* 客户端地址结构 */
  16. bzero(&client_addr, sizeof(client_addr));
  17. client_addr.sin_family = AF_INET; /* AF_INET:IPV4协议 */
  18. client_addr.sin_addr.s_addr = ((struct in_addr *)(server_host->h_addr))->s_addr; /* 服务端地址 */
  19. client_addr.sin_port = htons(port); /* 端口 */
  20.  
  21. /* 建立socket */
  22. int sockfd = socket(AF_INET, SOCK_STREAM, 0);
  23. /* 连接 */
  24. connect(sockfd, (struct sockaddr *)(&client_addr), sizeof(client_addr));
  25.  
  26. int i;
  27. for (i = 0; i < 1024 * 5000; i++)
  28. {
  29. /* 发送 */
  30. send(sockfd, msg, 1024, 0);
  31. }
  32.  
  33.  printf("发送结束，共发送%d次\n", i);
  34. return 0;
  35. }

 

接收端程序：

  1. #include <stdio.h>
  2. #include <string.h>
  3. #include <netdb.h>
  4.  
  5. char msg[1024]; /* 接收缓冲区 */
  6.  
  7. int main()
  8. {
  9. int listen_port = 9527; /* 侦听端口 */
  10. int listenfd = socket(AF_INET, SOCK_STREAM, 0); /* 建立侦听socket */
  11.  
  12. /* 服务端填充 sockaddr 结构 */
  13. struct sockaddr_in server_addr; /* 服务端地址结构 */
  14. bzero(&server_addr, sizeof(server_addr));
  15. server_addr.sin_family = AF_INET; /* AF_INET:IPV4协议 */
  16. server_addr.sin_addr.s_addr = htonl(INADDR_ANY); /* INADDR_ANY:通配地址，表示内核选择IP地址 */
  17. server_addr.sin_port = htons(listen_port); /* 端口 */
  18.  
  19. /* 绑定端口 */
  20. bind(listenfd, (struct sockaddr *)(&server_addr), sizeof(server_addr));
  21. /* 侦听 */
  22. listen(listenfd, 5);
  23. int sockfd = accept(listenfd, NULL, NULL);
  24.  
  25. int i;
  26. for (i = 0; i < 1024 * 5000; i++)
  27. {
  28. /* 接收 */
  29. recv(sockfd, msg, 1024, 0);
  30. }
  31.  
  32.  printf("接收结束，共接收%d次\n", i);
  33. return 0;
  34. }

 

C语言中，socket程序复杂了不少。测试标准和Java相同，发送接收了(1024 * 5000)次，5G数据，先启动接收端程序，然后以time方式启动发送端，测试结果如下：

用户 系统 时钟
第一次： 0.524s 9.765s 20.666s
第二次： 0.492s 9.825s 20.530s
第三次： 0.468s 9.493s 21.831s
第四次： 0.512s 9.205s 20.059s
第五次： 0.440s 9.605s 21.888s

用top命令监控测试期间的CPU、内存的使用：

c_socket

C语言的socket程序系统用时多一些，消息队列程序用户用时多一些，这和他们的实现方式相关，从时钟比较看，消息队列比socket快10%左右，和Java测试结果相似。比较Java和C，C只领先了三分之一，看来当前的Java效率已经相当高了。

还不能忙于下结论，socket的通信方式一般有两种：长连接和短连接。长连接指发送端和接收端建立连接后，可以保持socket通道进行多次消息传输，在这种场景基本不用计算socket建立和关闭的时间，前面的测试都是基于长连接方式；短连接一般在建立socket通道后，只进行一次通信，然后就关闭 socket通道，这种场景必须考虑socket建立和关闭的时间（socket建立连接需要三次握手，关闭连接要四次通信）。

第三回合： Java测试(短连接)

将第一回合中的Java程序稍作修改，先看socket的：

发送端程序：

  1. import java.io.IOException;
  2. import java.io.OutputStream;
  3. import java.net.Socket;
  4.  
  5. public class SocketSend2
  6. {
  7. public static void main(String[] args) throws IOException
  8. {
  9. long start = System.currentTimeMillis(); //开始时间
  10. //发送字节数组
  11. byte[] msg = new byte[1024];
  12.  
  13. for (int i = 0; i < 1024 * 1000; i++)
  14. {
  15. //建立Socket连接
  16.  Socket socket = new Socket("127.0.0.1", 9527);
  17. //输出流
  18.  OutputStream out = socket.getOutputStream();
  19. //发送
  20. out.write(msg);
  21.  
  22. //关闭输出流
  23. out.close();
  24. //关闭socket连接
  25. socket.close();
  26. }
  27.  
  28. long end = System.currentTimeMillis(); //结束时间
  29.  System.out.println("用时:" + (end – start) + "毫秒");
  30. }
  31. }

 

建立socket的语句放在了循环内部，这样每次发送都是新建的连接，025行的关闭语句是必须的，因为socket是系统的有限资源，支持不了这么大规模的申请。

接收端程序：

  1. import java.io.IOException;
  2. import java.io.InputStream;
  3. import java.net.ServerSocket;
  4. import java.net.Socket;
  5.  
  6. public class SocketRecv2
  7. {
  8. public static void main(String[] args) throws IOException
  9. {
  10. //侦听9527端口
  11.  ServerSocket serverSocket = new ServerSocket(9527);
  12. //接收缓冲区
  13. byte[] msg = new byte[1024];
  14.  
  15. for (int i = 0; i < 1024 * 1000; i++)
  16. {
  17. //接到客户端Socket连接请求
  18.  Socket socket = serverSocket.accept();
  19. //输入流
  20.  InputStream in = socket.getInputStream();
  21. //每次接收1204字节
  22. in.read(msg);
  23.  
  24. //关闭输入流
  25. in.close();
  26. //关闭socket连接
  27. socket.close();
  28. }
  29.  
  30.  System.out.println("接受结束.");
  31. }
  32. }

 

接收端也做了相应的改动，发送和接收次数降低到(1024 * 1000)次，测试结果：431280毫秒，不要吃惊，没错是431.280秒，这也是书本上为什么总在强调使用数据库连接池的原因。

消息队列没有像socket那样的连接概念，为了做个参考，将第一回合中的消息队列程序也修改一下：

发送端程序：

  1. package test;
  2.  
  3. import lajp.MsgQ;
  4.  
  5. public class TestSend2
  6. {
  7. /** 消息队列KEY */
  8. static final int IPC_KEY = 0×20021230;
  9.  
  10. static
  11. {
  12. //JNI
  13.  System.loadLibrary("lajpmsgq");
  14. }
  15.  
  16. public static void main(String[] args)
  17. {
  18. //发送字节数组
  19. byte[] msg = new byte[1024];
  20.  
  21. for (int i = 0; i < 1024 * 1000; i++)
  22. {
  23. //创建或获得现有的消息队列
  24. int msqid = MsgQ.msgget(IPC_KEY);
  25.  
  26. //每次发送1204字节
  27. MsgQ.msgsnd(msqid, 9527, msg, msg.length);
  28. }
  29.  
  30.  System.out.println("发送结束.");
  31. }
  32. }

 

将024行的msgget()方法放在循环内部，作为和socket比较的“连接”。

接收段程序：

  1. package test;
  2.  
  3. import lajp.MsgQ;
  4.  
  5. public class TestRcv2
  6. {
  7. /** 消息队列KEY */
  8. static final int IPC_KEY = 0×20021230;
  9.  
  10. static
  11. {
  12. //JNI
  13.  System.loadLibrary("lajpmsgq");
  14. }
  15.  
  16. public static void main(String[] args)
  17. {
  18. long start = System.currentTimeMillis(); //开始时间
  19. //接收缓冲区
  20. byte[] msg = new byte[1024];
  21.  
  22. for (int i = 0; i < 1024 * 1000; i++)
  23. {
  24. //创建或获得现有的消息队列
  25. int msqid = MsgQ.msgget(IPC_KEY);
  26.  
  27. //每次接收1204字节
  28. MsgQ.msgrcv(msqid, msg, msg.length, 9527);
  29. }
  30.  
  31. long end = System.currentTimeMillis(); //结束时间
  32.  System.out.println("用时:" + (end – start) + "毫秒");
  33. }
  34. }

 

测试结果：6617毫秒。

总结：

在能够使用socket长连接的应用中，建议使用socket技术，毕竟很通用熟悉的人也多，而消息队列能够提高的效率有限；在只能使用socket短连接的应用中，特别是并发量大的场景，强烈建议使用消息队列，因为能够极大的提高通信速率。

 

（长连接指发送端和接收端建立连接后，可以保持socket通道进行多次消息传输，在这种场景基本不用计算socket建立和关闭的时间，前面的测试都是基于长连接方式；短连接一般在建立socket通道后，只进行一次通信，然后就关闭 socket通道，这种场景必须考虑socket建立和关闭的时间（socket建立连接需要三次握手，关闭连接要四次通信）。）

posted @ 2017-04-05 14:11  琳麻雀  阅读(7625)  评论(1)  编辑  收藏  举报