【Python3爬虫】斗鱼弹幕爬虫
在网上找到了一份斗鱼弹幕服务器第三方接入协议v1.6.2，有了第三方接口，做起来就容易多了。
一、协议分析
斗鱼后台协议头设计如下：
这里的消息长度是我们发送的数据部分的长度和头部的长度之和，两个消息长度是一样。然后要注意的是该协议使用的是小端整数，所以我们要对数据进行处理后再发送，这里可以使用int.to_bytes()将整数转变成小端整数的形式。示例如下：
int.to_bytes(12,4,'little') # b'\x0c\x00\x00\x00'
int.to_bytes(12,4,'big') # b'\x00\x00\x00\x0c'
然后消息类型是689（689表示客户端发送给服务器，690表示服务器发送给客户端），加密字段和保留字段都是默认为0。这里由于消息类型是两个字节的，加密字段和保留字段都是一个字节，但是因为加密字段和保留字段都是0，所以这四个字节可以使用int.to_bytes(689,4,'little')来表示。最后该协议使用的是utf-8编码，所以我们需要对整个数据进行编码后再发送。
二、具体步骤
1、连接服务器
第三方客户端通过 TCP 协议连接到弹幕服务器(依据指定的 IP 和端口)，其中IP 地址为openbarrage.douyutv.com，端口为8601，相关代码如下：
client = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
host = socket.gethostbyname("openbarrage.douyutv.com")
port = 8601
client.connect((host, port))
2、发送登录请求
客户端向弹幕服务器发送登录请求，登录弹幕服务器，格式如下：
type@=loginreq/roomid@=房间号/
3、发送加组请求
客户端收到登录成功消息后发送进入弹幕分组请求给弹幕服务器，格式如下：
type@=joingroup/rid@=房间号/gid@=-9999/
gid表示分组号，第三方平台建议选择-9999即海量弹幕模式。
4、接收广播消息
接收服务器发送的广播消息，包括用户发的弹幕和送的礼物信息，然后解析得到具体的内容。但这些数据里只有礼物的id而没有具体的礼物名称，然后我通过抓包找到了两个链接，里面包含了礼物id和名称的对应关系，相关代码如下：
1 gift_dict = {} 2 headers = { 3 "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.75 Safari/537.36" 4 } 5 url1 = "https://webconf.douyucdn.cn/resource/common/gift/flash/gift_effect.json" 6 res1 = requests.get(url1, headers=headers) 7 js1 = json.loads(res1.text.lstrip('DYConfigCallback(').rstrip(');')) 8 gift_data1 = js1['data']['flashConfig'] 9 for i in gift_data1.keys(): 10 gift_dict[gift_data1[i]['id']] = gift_data1[i]['name'] 11 12 url2 = "https://webconf.douyucdn.cn/resource/common/prop_gift_list/prop_gift_config.json" 13 res2 = requests.get(url2, headers=headers) 14 js2 = json.loads(res2.text.lstrip('DYConfigCallback(').rstrip(');')) 15 gift_data2 = js2['data'] 16 for i in gift_data2.keys(): 17 gift_dict[int(i)] = gift_data2[i]['name']
5、发送心跳消息
客户端每隔45秒给服务器发送一次心跳消息，用于维护和服务器后台间的联系，格式如下：
keep_msg = "type@=keeplive/tick@=十位时间戳" # 旧版心跳消息
keep_msg = "mrkl/" # 新版心跳消息
6、核心代码
在发送数据的时候，有可能会出现一次无法发送完的情况，所以就需要多发送几次，确保把数据都发送出去：
1 msg = msg + '\0' # 数据以'\0'结尾 2 msg = msg.encode('utf-8') # 使用utf-8编码 3 length = len(msg) + 8 # 消息长度 4 code = 689 # 消息类型 5 # 消息头部：消息长度+消息长度+消息类型+加密字段(默认为0)+保留字段(默认为0) 6 head = int.to_bytes(length, 4, 'little') + int.to_bytes(length, 4, 'little') + int.to_bytes(code, 4, 'little') 7 # 发送头部部分 8 client.send(head) 9 # 发送数据部分 10 sent = 0 11 while sent < len(msg): 12 n = client.send(msg[sent:]) # 返回已发送的数据长度 13 sent = sent + n
三、运行结果
运行截图：
进入数据库查看结果：
db.getCollection('DouYu-6039226').find({"data_type":"gift"})
结果如下：
还可以看看大家都发了什么弹幕：
db.getCollection('DouYu-6039226').find({"data_type":"chat"},{"user_name":1,"chat_txt":1,"_id":0})
结果如下：
完整代码已上传到GitHub！
