TeamTalk源码分析之login_server
login_server是TeamTalk的登录服务器，负责分配一个负载较小的MsgServer给客户端使用，按照新版TeamTalk完整部署教程来配置的话，login_server的服务端口就是8080，客户端登录服务器地址配置如下(这里是win版本客户端)：
1、login_server启动流程
login_server的启动是从login_server.cpp中的main函数开始的，login_server.cpp所在工程路径为server\src\login_server。下表是login_server启动的大致流程汇总。
|
signal(SIGPIPE, SIG_IGN) |
|
|
忽略SIGPIPE信号，向一端关闭的socket写数据会触发该信号 |
|
CconfigFileReader:: CconfigFileReader() |
|
|
读取login_server.conf配置文件 |
|
netlib_init() |
|
|
初始化网络连接，Linux下无操作 |
|
netlib_listen(client_listen_ip和port) |
|
|
貌似是让msg_server建立连接用的，不过不是很清楚 |
|
netlib_listen(msg_server_listen_ip和port) |
|
|
监听msg_server连接，msg_server会主动与login_server建立连接 |
|
netlib_listen(http_listen_ip和port) |
|
|
监听客户端连接，客户端首先会与login_server建立连接。listen端口时，会设置回调函数，并把相应事件添加到事件监听器中 |
|
|
CBaseSocket::Listen() |
|
底层listen函数 |
|
init_login_conn(); init_http_conn(); |
|
|
一些初始化操作，比如会添加定时事件 |
|
netlib_eventloop |
|
|
进入事件循环(接收请求/发送响应) |
2、客户端连接login_server流程
login_server在启动之后就进入了事件循环中，即netlib_eventloop()，而netlib_eventloop()实际调用的是CEventDispatch::Instance()->StartDispatch(wait_timeout)(我们简称为事件分发器)，事件分发器在Linux下使用epoll，会处理读事件、写事件、异常等事件，当客户端建立连接时，相当于是读事件。客户端发送请求格式如下(ps:下图为wireshark抓包结果，运行TeamTalk的主机IP是192.168.1.150)：
在事件分发器中会处理读事件，其他事件处理流程也大致类似，相应代码如下(注意：以下代码只是截取能够说明流程那部分代码，并不完整，...为省略部分)：
1 void CEventDispatch::StartDispatch(uint32_t wait_timeout) 2 { 3 ... 4 while (running) 5 { 6 nfds = epoll_wait(m_epfd, events, 1024, wait_timeout); 7 for (int i = 0; i < nfds; i++) { 8 ... 9 if (events[i].events & EPOLLIN) { 10 pSocket->OnRead(); 11 } 12 _CheckTimer(); 13 _CheckLoop(); 14 } 15 ...
到达OnRead()时，流程如下：
1 void CBaseSocket::OnRead() 2 { 3 if (m_state == SOCKET_STATE_LISTENING) { 4 _AcceptNewSocket(); 5 } 6 else { 7 u_long avail = 0; 8 // 得到缓冲区中有多少个字节要被读取，然后将字节数放入b里面。 9 if ( (ioctlsocket(m_socket, FIONREAD, &avail) == SOCKET_ERROR) || (avail == 0) ) { 10 m_callback(m_callback_data, NETLIB_MSG_CLOSE, (net_handle_t)m_socket, NULL); 11 } 12 else { 13 m_callback(m_callback_data, NETLIB_MSG_READ, (net_handle_t)m_socket, NULL); 14 } 15 } 16 }
1 // 接收一个新连接 2 void CBaseSocket::_AcceptNewSocket() 3 { 4 ... 5 // accept为非阻塞的，所以这里可以用while()循环 6 while ( (fd = accept(m_socket, (sockaddr*)&peer_addr, &addr_len)) != INVALID_SOCKET ) { 7 CBaseSocket* pSocket = new CBaseSocket(); 8 ... 9 pSocket->SetSocket(fd); 10 pSocket->SetCallback(m_callback); 11 pSocket->SetCallbackData(m_callback_data); 12 pSocket->SetState(SOCKET_STATE_CONNECTED); // 设置m_state状态为建立连接 13 pSocket->SetRemoteIP(ip_str); 14 pSocket->SetRemotePort(port); 15 16 _SetNoDelay(fd); 17 _SetNonblock(fd); 18 AddBaseSocket(pSocket); 19 CEventDispatch::Instance()->AddEvent(fd, SOCKET_READ | SOCKET_EXCEP); 20 // 这里会调用回调函数 21 m_callback(m_callback_data, NETLIB_MSG_CONNECT, (net_handle_t)fd, NULL); 22 } 23 }
最后到达启动流程中在监听http_listen中设置的回调函数，流程如下：
1 void http_callback(void* callback_data, uint8_t msg, uint32_t handle, void* pParam) 2 { 3 if (msg == NETLIB_MSG_CONNECT) { 4 CHttpConn* pConn = new CHttpConn(); 5 pConn->OnConnect(handle); 6 } 7 ...
1 // 建立连接成功后读取数据 2 void CHttpConn::OnConnect(net_handle_t handle) 3 { 4 m_sock_handle = handle; 5 m_state = CONN_STATE_CONNECTED; 6 g_http_conn_map.insert(make_pair(m_conn_handle, this)); 7 8 // 这里重新设置回调函数为httpconn_callback 9 netlib_option(handle, NETLIB_OPT_SET_CALLBACK, (void*)httpconn_callback); 10 netlib_option(handle, NETLIB_OPT_SET_CALLBACK_DATA, reinterpret_cast<void *>(m_conn_handle) ); 11 netlib_option(handle, NETLIB_OPT_GET_REMOTE_IP, (void*)&m_peer_ip); 12 }
当读取客户端发送上来的数据时，会到达事件监听函数并且是读事件，这样会到达CBaseSocket::OnRead()中，然后就会调用设置好的回调函数，即httpconn_callback()函数中，最后调用OnRead()中，其流程如下：
1 void httpconn_callback(void* callback_data, uint8_t msg, uint32_t handle, uint32_t uParam, void* pParam) 2 { 3 // convert void* to uint32_t, oops 4 uint32_t conn_handle = *((uint32_t*)(&callback_data)); 5 CHttpConn* pConn = FindHttpConnByHandle(conn_handle); 6 if (!pConn) { 7 return; 8 } 9 10 switch (msg) { 11 case NETLIB_MSG_READ: 12 pConn->OnRead(); 13 break; 14 case NETLIB_MSG_WRITE: 15 pConn->OnWrite(); 16 break; 17 case NETLIB_MSG_CLOSE: 18 pConn->OnClose(); 19 break; 20 ...
流程走到CHttpConn::OnRead()，表示login_server准备读取客户端发送的http数据了，这个代码比较多，就不复制了，简单说一下流程：
- 调用netlib_recv()接收客户端发送的请求，请求长度不能超过1024字节
- 解析http数据信息，解析请求行、请求头、请求体(此次客户端请求无请求体)
- 如果url为"/msg_server"则调用_HandleMsgServRequest(url, content);继续处理，否则关闭连接
- 在_HandleMsgServRequest()中会选择一个msg_server来，并把该msg_server信息作为应答体发送回客户端，这样客户端就用收到的msg_server信息建立新的连接。注意：应答体格式为json格式的。
响应客户端的json数据格式如下：
1 { 2 "backupIP" : "192.168.1.150", 3 "code" : 0, 4 "discovery" : "http://192.168.1.150/api/discovery", 5 "msfsBackup" : "http://192.168.1.150:8700/", 6 "msfsPrior" : "http://192.168.1.150:8700/", 7 "msg" : "", 8 "port" : "8000", 9 "priorIP" : "192.168.1.150" 10 }
3、小结
OK，到这里login_server已经启动完成并且开始工作了(进入事件循环)，login_server只是TeamTalk中一个小的模块，它只负责等待客户端的连接，服务端口是8080，如果客户端发送数据格式正确，则分配一个负载相对较小的msg_server给客户端，它相当于是客户端与msg_server之间的连接模块。msg_server才是TeamTalk的核心模块，这个等到后续博客在分析...
TeamTalk底层网络库是自己实现的，相应源码在server\src\base下的netlib.h和netlib.cpp中。
博客中难免会有错误或者不恰当的地方，恳请读者批评指正。
