CS144学习（2）TCP协议实现
Lab1-4 分别是完成一个流重组器，TCP接收端，TCP发送端，TCP连接四个部分，将四个部分组合在一起就是一个完整的TCP端了。之后经过包装就可以进行TCP的接收和发送了。
代码全部在github上了。
Lab1 流重组器
这一个实验是要实现一个流重组器，传入数据的片段以及起始位置，之后对其进行重组，并尽快将以及重组完成的数据输出。
这里我使用的是红黑树来实现，也就是C++的std::set来实现。将未重组完成的碎片保存在红黑树中，当新碎片到达时就尽可能地将该碎片与已有的碎片进行合并，保证红黑树中没有重叠的碎片。
这一个实验的问题就是要考虑的情况有很多，当用lower_bound()找到插入位置后，要对前面和后面的碎片判断能否合并，合并的情况也有很多种，包括部分重叠、正好接上、完全覆盖等情况；而且一个新的碎片可能会一次覆盖掉很多碎片。这一部分代码我写的比较混乱，因为写完之后测试发现有情况没考虑到，然后就只能打补丁，于是就越来越混乱了。
而尽快输出这个条件还是很容易的，如果当前到达碎片能够直接输出的话，就再判断一下树中第一个碎片能否输出，因为前面保证了不会有重叠碎片，所以可以只对第一个碎片进行判断。
Lab2 TCP接收端
这个实验是基于上一个的流重组器来实现一个TCP接收端，这一个还是比较简单的。就是前面流重组器的一些BUG可能会在这个实验里面被检测到，要回去改代码。
首先是实现一个WrappingInt32，因为TCP的序号是32位的，并且是可能发生溢出的，而在流重组器里面使用的序列号是64位，因此需要实现函数来进行转换，将64位的相对序列号根据ISN转换成32位的绝对序列号。
#include "wrapping_integers.hh"
using namespace std;
WrappingInt32 wrap(uint64_t n, WrappingInt32 isn) {
uint64_t res = isn.raw_value() + n;
return WrappingInt32{static_cast<uint32_t>(res)};
}
uint64_t abs(uint64_t a, uint64_t b) {
if (a > b) {
return a - b;
} else {
return b - a;
}
}
uint64_t unwrap(WrappingInt32 n, WrappingInt32 isn, uint64_t checkpoint) {
uint64_t pre = checkpoint & 0xffffffff00000000;
uint64_t num;
if (n.raw_value() >= isn.raw_value()) {
num = n.raw_value() - isn.raw_value();
} else {
num = 0x0000000100000000;
num += n.raw_value();
num -= isn.raw_value();
}
uint64_t a = pre + num;
uint64_t b = a + 0x0000000100000000;
uint64_t c = a - 0x0000000100000000;
// b a c
if (abs(a, checkpoint) < abs(b, checkpoint)) {
if (abs(a, checkpoint) < abs(c, checkpoint)) {
return a;
} else {
return c;
}
} else {
return b;
}
}
最后就是对流重组器进行一下包装，计算出ackno和window_size提供给后面使用，处理一下SYN和FIN标记就行了。
#include "tcp_receiver.hh"
using namespace std;
void TCPReceiver::segment_received(const TCPSegment &seg) {
if (!_isn.has_value()) {
if (seg.header().syn) {
_isn = seg.header().seqno + 1;
} else {
std::cerr << "Error: connection not build" << std::endl;
return;
}
}
bool eof = seg.header().fin;
std::string&& payload = std::string(seg.payload().str());
if (seg.header().seqno == _isn.value() - 1 && !seg.header().syn && _reassembler.expect() < 0x0000ffff) {
// wrong packet seqno == isn
return;
}
uint64_t index = unwrap(seg.header().seqno + (seg.header().syn ? 1 : 0), _isn.value(), _reassembler.expect());
_reassembler.push_substring(payload, index, eof);
}
optional<WrappingInt32> TCPReceiver::ackno() const {
if (_isn.has_value()) {
return { wrap(_reassembler.expect(), _isn.value()) + (_reassembler.stream_out().input_ended() ? 1 : 0) };
} else {
return std::nullopt;
}
}
size_t TCPReceiver::window_size() const {
return _capacity - _reassembler.stream_out().buffer_size();
}
Lab3 TCP发送端
在这个实验里面就要考虑到TCP的一些细节了，包括SYN和FIN包的发送，ACK的处理，超时重传的实现了。
SYN包
之前我还在考虑客户端和服务端的SYN包应该是不同的，应该如何处理；而实际上两个包是相同的，都是携带SYN和初始序列号，不同的地方就是服务端的SYN要同时对客户端的SYN的包进行ACK。但ACK的处理是在TCP连接部分进行处理的，也就是说在TCP发送端里，只要发出一个SYN包就行了，剩下的不需要考虑。
而应该在什么时候发出SYN包呢，一开始我是在构造函数中就构造一个SYN包放到发送队列里面。这个做法在这个实验的测试里面是没有问题的，但是对于下一个实验就有问题了。因为服务端一开始是处于LISTEN状态，而这个状态下不应该有包被发出。因此，SYN包的发送应该放在fill_window()函数中，如果没有发送过SYN包，就先将SYN包发送出去。
对于一个最简单的SYN包，就只需要将SYN位置1，设置初始序列号seqno就行了。注意SYN是要占用一个序列号的。
FIN包
当发送流被用户程序结束后，就可以发送FIN包来关闭一个方向的连接了。这一个包的发送还是比较简单的，只要在fill_window中判断是否结束就行了。FIN包是可以和数据包一起发送的，在发送数据时发现流结束了，就将该数据包的FIN标志置1就行了。FIN也是要占用一个序列号的。当收到对方对FIN包的ACK后，就说明顺利关闭了。
ACK的处理
ACK数据会通过ack_received函数来通知发送端，当收到一个ACK后，就可以将发送窗口向右滑动，注意判断一下ACK是不是之前的ACK，避免窗口左移。最后将所有被ACK了的包从等待确认的队列中移除就行了。
重传
在这个实验里面只要求实现的是超时重传机制，但我也加入了快速重传机制。理论上当一个包超时之后就要对其进行重传，也就是每个包都要有定时器来负责重传，而这样的代价是很高的。因此，实现中是对每个TCP连接设置一个定时器，当时间超过RTO后进行重传，定时器的规则如下：
- 当发送一个包并且定时器为关闭状态：打开定时器
- 当发送一个包并且定时器为打开状态：不做任何修改
- 当收到一个ACK并且所有包都被ACK了：关闭定时器
- 当收到一个ACK并且仍有包未被ACK：重开定时器
超时重传使用的是指数退避算法，当进行了一次超时重传后，下一次超时的时间就会翻倍，也就是1RTO，2RTO，4RTO，8RTO…
当定时器超时后，就需要对包进行重传，在本实验里面只要重传第一个包就行了。这种方法的缺点就是后面丢失的包也要等到第一个被ACK了才能重发，时间会比较长。另一种选择是重传所有包，而这种的缺点就是会加大网络负担。因此，为了解决这种问题，就引入了其他的机制。
快速重传
快速重传是指当收到三个重复ACK（不包括第一次ACK）的时候，就立即进行重传，这种方法是数据驱动而不是时间驱动，可以避免超时重传的速度较慢的问题。而这仍然存在是重传一个还是所有的问题。
SACK
SACK也就是选择重传机制，接收端通过SACK来确认已收到的片段，从而对重传算法进行优化，可以不用对所有包进行重传。
而SACK存在接收方Reneging的问题，即接收方有权把已经SACK的数据给丢弃。这种丢弃是不被鼓励但还是可能发生的。因此，发送方不能完全依赖SACK，还是要依赖ACK，并维护定时器，如果后续的ACK没有增长，那么还是要对已经SACK的数据进行重传。同时，接收端也永远不能把SACK的包标记为ACK。
#include "tcp_sender.hh"
#include "tcp_config.hh"
#include <random>
#include <cassert>
using namespace std;
TCPSender::TCPSender(const size_t capacity, const uint16_t retx_timeout, const std::optional<WrappingInt32> fixed_isn)
: _isn(fixed_isn.value_or(WrappingInt32{random_device()()}))
, _initial_retransmission_timeout{retx_timeout}
, _stream(capacity) { }
uint64_t TCPSender::bytes_in_flight() const {
return _next_seqno - _expect_ack;
}
void TCPSender::fill_window() {
if (!_syn_sent) {
TCPSegment seg;
seg.header().syn = true;
seg.header().seqno = wrap(0, _isn);
_segments_out.push(seg);
_seg_not_ack.push(seg);
_next_seqno = 1;
_retrans_timer = _tick + _initial_retransmission_timeout;
_syn_sent = true;
}
uint64_t remain = _window_size - bytes_in_flight();
bool send = false;
if (_expect_ack != 0) {
// SYN received
while (remain > 0 && _stream.buffer_size() > 0) {
// send segment
uint64_t send_bytes = min(remain, TCPConfig::MAX_PAYLOAD_SIZE);
string payload = _stream.read(send_bytes);
TCPSegment seg;
seg.header().seqno = wrap(_next_seqno, _isn);
seg.payload() = move(payload);
_next_seqno += seg.length_in_sequence_space();
remain = _window_size - bytes_in_flight();
if (_stream.eof() && remain > 0 && !_fin_sent) {
seg.header().fin = true;
_next_seqno += 1;
_fin_sent = true;
}
_segments_out.push(seg);
_seg_not_ack.push(seg);
send = true;
}
}
if (_stream.eof() && remain > 0 && !_fin_sent) {
// send FIN
TCPSegment seg;
seg.header().fin = true;
seg.header().seqno = wrap(_next_seqno, _isn);
_segments_out.push(seg);
_seg_not_ack.push(seg);
_next_seqno += 1;
_fin_sent = true;
send = true;
}
if (send && _retrans_timer == 0) {
// open timer
_retrans_timer = _tick + _initial_retransmission_timeout;
_consecutive_retransmissions = 0;
_rto_back_off = 0;
}
}
void TCPSender::ack_received(const WrappingInt32 ackno, const uint16_t window_size) {
_window_size = window_size;
_do_back_off = 1;
if (_window_size == 0) {
_window_size = 1;
_do_back_off = 0;
}
uint64_t ack = unwrap(ackno, _isn, _expect_ack);
if (ack <= _next_seqno && ack > _expect_ack) {
if (ack == _expect_ack) {
_same_ack++;
} else {
_same_ack = 0;
}
_expect_ack = ack;
if (bytes_in_flight() == 0) {
// close timer
_retrans_timer = 0;
_consecutive_retransmissions = 0;
_rto_back_off = 0;
} else {
// reopen timer
_retrans_timer = _tick + _initial_retransmission_timeout;
_consecutive_retransmissions = 0;
_rto_back_off = 0;
}
}
// remove all acked packets
while (!_seg_not_ack.empty()) {
TCPSegment seg = _seg_not_ack.front();
if (seg.length_in_sequence_space() + unwrap(seg.header().seqno, _isn, _expect_ack) <= _expect_ack) {
_seg_not_ack.pop();
} else {
break;
}
}
// faster retransmit
if (_same_ack == 3 && !_seg_not_ack.empty()) {
// cout << "!! FASTER RETRANSMIT" << endl;
_same_ack = 0;
TCPSegment seg = _seg_not_ack.front();
_segments_out.push(seg);
_consecutive_retransmissions += 1;
_rto_back_off += _do_back_off;
_retrans_timer += _initial_retransmission_timeout << _rto_back_off;
}
}
void TCPSender::tick(const size_t ms_since_last_tick) {
_tick += ms_since_last_tick;
if (!_seg_not_ack.empty() && _tick >= _retrans_timer) {
// retransmit the first packet
// cout << "retransmit" << endl;
TCPSegment seg = _seg_not_ack.front();
_segments_out.push(seg);
_consecutive_retransmissions += 1;
_rto_back_off += _do_back_off;
_retrans_timer = _tick + (_initial_retransmission_timeout << _rto_back_off);
}
}
unsigned int TCPSender::consecutive_retransmissions() const { return _consecutive_retransmissions; }
void TCPSender::send_empty_segment() {
TCPSegment seg;
seg.header().seqno = wrap(_next_seqno, _isn);
_segments_out.push(seg);
}
Lab4 TCP连接
这个实验就是将之前的发送端和接收端组合起来，成为一个完整的TCP peer。
主要的工作就是将发送的数据从发送端的队列中取出，再放到发送队列中去；发送ack包进行确认；对RST进行处理；对连接的关闭和TIME_WAIT状态进行处理。
当调用connect函数时，就可以调用fill_window生成SYN包，然后发送出去。
当收到一个包之后，就将对于信息交给发送端和接收端进行处理，然后进行ACK，当发送队列有包时直接附带ACK就行了，如果没有就要生成一个空包进行ACK，注意当接收的包只是一个ACK包而没有任何数据的话就不要进行ACK。当接收端收到所有数据以及FIN包之后就会关闭接收端的输入流。
当连接的输入流关闭，就可以调用发送端的end_input和fill_window来生成FIN包并发送。
连接的关闭
TCP连接的关闭分为两种情况，主动关闭和被动关闭。
当发送流先结束时，就要进行主动关闭，发送FIN进入FIN_WAIT_1状态，收到ACK后进入FIN_WAIT_2状态，当收到对方的FIN包并进行ACK之后，就进入TIME_WAIT状态，在TIME_WAIT状态下要等待2MSL（Linux中一般为60s）才能释放连接。
TIME_WAIT状态的目的就是保证最后一个ACK包被对方接收到，因为不会对ACK进行ACK，就只能使用这种方式。如果ACK没有被对方接收到，那么对方就会重发FIN包，这时候就可以再次进行ACK。如果直接释放而不进行TIME_WAIT的话，那么下一个使用该端口的连接就可能会收到上一个连接重传的FIN包，从而导致混乱。
当对方先关闭时就是被动关闭，当收到FIN并ACK后，就进入CLOSE_WAIT状态。等到发送流结束后，发送FIN进入LAST-ACK状态，收到对方ACK后就可以关闭连接了，当被动关闭时，就不需要TIME_WAIT了。
#include "tcp_connection.hh"
#include <iostream>
using namespace std;
void TCPConnection::send_all_segments() {
if (_closed) return;
while (!_sender.segments_out().empty()) {
TCPSegment& seg = _sender.segments_out().front();
if (_receiver.ackno().has_value()) {
seg.header().ack = true;
seg.header().ackno = _receiver.ackno().value();
}
size_t max_win = numeric_limits<uint16_t>().max();
seg.header().win = min(_receiver.window_size(), max_win);
_segments_out.push(seg);
_sender.segments_out().pop();
}
if (_sender.stream_in().eof() && _sender.bytes_in_flight() == 0 && _receiver.stream_out().input_ended()) {
if (_linger_after_streams_finish) {
_time_wait = true;
}
}
}
size_t TCPConnection::remaining_outbound_capacity() const {
return _sender.stream_in().remaining_capacity();
}
size_t TCPConnection::bytes_in_flight() const {
return _sender.bytes_in_flight();
}
size_t TCPConnection::unassembled_bytes() const {
return _receiver.unassembled_bytes();
}
size_t TCPConnection::time_since_last_segment_received() const {
return _ticks - _last_ack_time;
}
void TCPConnection::segment_received(const TCPSegment &seg) {
if (!_syn_sent && !seg.header().syn) return;
if (seg.header().rst) {
// reset connection
_sender.stream_in().set_error();
_receiver.stream_out().set_error();
_linger_after_streams_finish = false;
}
_last_ack_time = _ticks;
_receiver.segment_received(seg);
_sender.ack_received(seg.header().ackno, seg.header().win);
_sender.fill_window();
_syn_sent = true;
if (_receiver.stream_out().input_ended() && !_sender.stream_in().eof()) {
// passive close
_linger_after_streams_finish = false;
}
if (!_receiver.ackno().has_value()) {
return; // no need for ack
}
if (_sender.segments_out().empty()) {
// generate an empty segment to ack
if (_receiver.stream_out().input_ended() && !seg.header().fin) {
// no need to ack, server closed and seg not fin
} else if (seg.length_in_sequence_space() == 0) {
// no need to ack the empty-ack
} else {
_sender.send_empty_segment();
}
}
// send with ack
send_all_segments();
}
bool TCPConnection::active() const {
if (_sender.stream_in().error() && _receiver.stream_out().error()) return false;
return !(_sender.stream_in().eof() && _sender.bytes_in_flight() == 0 && _receiver.stream_out().input_ended()) || _time_wait;
}
size_t TCPConnection::write(const string &data) {
size_t wrote = _sender.stream_in().write(data);
_sender.fill_window();
send_all_segments();
return wrote;
}
void TCPConnection::tick(const size_t ms_since_last_tick) {
_ticks += ms_since_last_tick;
_sender.tick(ms_since_last_tick);
if (_time_wait && _ticks >= _last_ack_time + _cfg.rt_timeout * 10) {
// closed
_time_wait = false;
_closed = true;
}
if (_sender.consecutive_retransmissions() > _cfg.MAX_RETX_ATTEMPTS) {
// RST
_sender.stream_in().set_error();
_receiver.stream_out().set_error();
_linger_after_streams_finish = false;
while (!_sender.segments_out().empty()) {
// pop all segments
_sender.segments_out().pop();
}
_sender.send_empty_segment();
TCPSegment& seg = _sender.segments_out().front();
seg.header().rst = true;
}
send_all_segments();
}
void TCPConnection::end_input_stream() {
_sender.stream_in().end_input();
_sender.fill_window();
send_all_segments();
}
void TCPConnection::connect() {
// send SYN
if (!_syn_sent) {
_sender.fill_window();
_syn_sent = true;
TCPSegment& seg = _sender.segments_out().front();
size_t max_win = numeric_limits<uint16_t>().max();
seg.header().win = min(_receiver.window_size(), max_win);
_segments_out.push(seg);
_sender.segments_out().pop();
}
}
TCPConnection::~TCPConnection() {
try {
if (active()) {
cerr << "Warning: Unclean shutdown of TCPConnection\n";
_sender.stream_in().set_error();
_receiver.stream_out().set_error();
_linger_after_streams_finish = false;
while (!_sender.segments_out().empty()) {
// pop all segments
_sender.segments_out().pop();
}
_sender.send_empty_segment();
TCPSegment& seg = _sender.segments_out().front();
seg.header().rst = true;
send_all_segments();
}
} catch (const exception &e) {
std::cerr << "Exception destructing TCP FSM: " << e.what() << std::endl;
}
}
测试
至此整个简单的TCP协议就实现完了，使用这个TCP协议修改Lab0中的webget，然后就可以对网站进行访问了。使用抓包软件就可以看到完整的连接建立、数据发送、连接关闭的过程了。但这里有一个问题不知道是为什么，使用webget访问cs144.keithw.org，bilibili.com都能正常访问，但是访问www.baidu.com的时候，就会丢失连接建立之后的一个包，抓包看根本没收到那个包（tcp previous segment not captured），不知道是我的代码有问题还是百度的服务器使用了什么特殊的策略。
