netty优化 （-） websocket解码异常后自动断开连接处理
背景：
公司需要25台设备组网，用户通过客户端登录后对25台机子进行监控操作（包括视频播放）。
技术方案：
产品分为设备端、客户端、服务端。为兼容以后的浏览器访问，选java搭建服务器。服务器主要业务包括客户端用户管理、客户端业务指令、权限；设备端登记、发现、在线监测、分组管理、权限。
由于环境比较简单,后台服务采用netty的websocket协议进行通信，消息指令进行权限管理。
问题描述：
1、25台设备搭建后进行压力测试，百兆路由可25路视频的2个客户端，3个客户端同时打开会导致设备掉线频繁，（添加重连限制客户端个数）。
2、OOM，outof direct memory，此问题很懵逼。netty中derectmemory 是框架中进行计数处理的，测试中计数增长到一定值后保持稳定不存在超出；channelread0方法中会自动释放bytebuf； 此问题无法重现，只好添加jvm内存待以后重现再处理！
3、长时间挂机无任何操作出现客户端或者设备掉线问题，查看日志多是和decode解码有关，消息异常解码出错，netty自动关闭通道断开了连接。
测试结果：设备端掉线明显；消息解析错误后直接关闭了连接；偶尔出现一个大的数据包接收一半后断开连接；
websocket基于TCP协议，在不稳定的网络环境下发送大量数据，并且发送频率非常高，很可能会出现错误（1、程序处理逻辑错误；2、多线程同步问题；3、缓冲区溢出等）。这掉线的频率让人很难接收，抓包也是抓的崩溃， 放弃了！ 几个同事之间可能也都踢了好几周的皮球，呵呵，感觉对不起公司的同事们。首先让客户端和设备端全部添加了断线重连、优化设备端发送频率、服务端缓存一些消息。
业务上做了优化之后，掉线有所缓解，但是偶尔一次的掉线的确让人抓狂，尤其是这么小的局域网中，为了从这个锅中脱离， 决定还是要有所优化， 可怕的框架bug ~~
A.下netty参数，消息队列默认128 ，加到1024 ; 避免数据包的缓存
ServerBootstrap b = new ServerBootstrap();
b.option(ChannelOption.SO_BACKLOG, 1024)
.childOption(ChannelOption.TCP_NODELAY,true)
B. 异常不关闭
重写WebSocketDecoderConfig.closeOnProtocolViolation修改默认值。
ByteToMessageDecoder 中解析完后，
callDecode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) 方法中 将 WebSocket08FrameDecoder的 state 重置为 WebSocket08FrameDecoder.State.READING_FIRST
重写ByteToMessageDecoder .java 中callDecode 添加抽象方法initState
protected void callDecode(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) {
try {
while(true) {
if (in.isReadable()) {
int outSize = out.size();
if (outSize > 0) {
fireChannelRead(ctx, out, outSize);
out.clear();
if (ctx.isRemoved()) {
return;
}
outSize = 0;
}
int oldInputLength = in.readableBytes();
this.decodeRemovalReentryProtection(ctx, in, out);
if (!ctx.isRemoved()) {
if (outSize == out.size()) {
if (oldInputLength != in.readableBytes()) {
continue;
}
} else {
if (oldInputLength == in.readableBytes()) {
throw new DecoderException(StringUtil.simpleClassName(this.getClass()) + ".decode() did not read anything but decoded a message.");
}
if (!this.isSingleDecode()) {
continue;
}
}
}
}
if ( ctx.name().equals("wsdecoder")){
try{
this.initState(ctx, in, out);
}catch (Exception E){
}
}
return;
}
} catch (DecoderException var6) {
throw var6;
} catch (Exception var7) {
throw new DecoderException(var7);
}
}
protected abstract void initState(ChannelHandlerContext var1, ByteBuf var2, List<Object> var3) throws Exception;
重写WebSocket08FrameDecoder.java 中添加initState
protected void initState(ChannelHandlerContext ctx, ByteBuf in, List<Object> out) throws Exception {
if(this.state == WebSocket08FrameDecoder.State.CORRUPT){
this.state = WebSocket08FrameDecoder.State.READING_FIRST;
}
}
不将state 设置为READING_FIRST ，通道解析出现异常后，WebSocket08FrameDecoder每次消息解析都会走CORRUPT，跳过了正常解析 。
