走进异步世界:EnyimMemcached异步化改造引起的内存泄漏

6月30日我们发布了异步化改造后的博客程序之后,出现了高内存、高CPU、高线程数的不理想情况

经过一周的追查,终于水落日出——引起不理想情况的根源是我们修改过的EnyimMemcached代码存在内存泄漏问题。

而造成内存泄漏的根源是我们没有对SocketAsyncEventArgs进行Dispose,实际情况是我们当时根本没注意到SocketAsyncEventArgs实现了IDispose接口,而这个小小的疏忽竟然折腾了我们一个星期。

存在内存泄漏问题的代码是这样写的:

a) 异步从Socket中读取数据:

public async Task<byte[]> ReadBytesAsync(int count)
{
    var args = new SocketAsyncEventArgs();
    args.SetBuffer(new byte[count], 0, count);
    var awaitable = new SocketAwaitable(args);
    await this.socket.ReceiveAsync(awaitable);            
    return args.Buffer;
}

b) 异步向Socket中写入数据:

public async Task WriteSync(IList<ArraySegment<byte>> buffers)
{
    var args = new SocketAsyncEventArgs();
    args.BufferList = buffers;
    var awaitable = new SocketAwaitable(args);
    await this.socket.SendAsync(awaitable);
}

解决内存泄漏问题的方法很简单,using+Buffer.BlockCopy,代码如下:

a) 改进后的异步从Socket中读取数据:

public async Task<byte[]> ReadBytesAsync(int count)
{
    using (var args = new SocketAsyncEventArgs())
    {
        args.SetBuffer(new byte[count], 0, count);
        var awaitable = new SocketAwaitable(args);
        await this.socket.ReceiveAsync(awaitable);
        var receivedBytes = new Byte[args.BytesTransferred];
        Buffer.BlockCopy(args.Buffer, 0, receivedBytes, 0, args.BytesTransferred);
        return receivedBytes;
    }
}

b) 改进后的异步向Socket中写入数据:

public async Task WriteSync(IList<ArraySegment<byte>> buffers)
{
    using (var args = new SocketAsyncEventArgs())
    {
        args.BufferList = buffers;
        var awaitable = new SocketAwaitable(args);
        await this.socket.SendAsync(awaitable);
    }            
}

改进后的代码已发布至github:https://github.com/cnblogs/EnyimMemcached

你也许会问我们是如何监测到内存泄漏情况的呢?

我们借助于两个工具:Windows任务管理器与性能监视器。

1. 通过任务管理器,我们观察到w3wp占用的内存会持续增长,当到达5G左右,在8核8G的阿里云虚拟机上CPU就开始做坐过山车,只有回收程序池(重启w3wp进程)才能恢复正常。

2. 通过性能监视器,我们监测了两个指标:

a) \.NET CLR Memory(w3wp)\# Bytes in all Heaps (针对托管内存)

b) \Process(w3wp)\Private Bytes (针对非托管内存)

观察到的情况见下图:

性能监视器Bytes in all Heaps与Private Bytes

(绿色是Private Bytes

Bytes in all HeapsPrivate Bytes都会出现持续增长。

而对SocketAsyncEventArgs进行Dispose之后,性能监视器看到的\.NET CLR Memory\# Bytes in all Heaps变成了这样:

性能监视器Bytes in all Heaps

\Process\Private Bytes也与Bytes in all Heaps相映成辉:

性能监视器Private Bytes

一看到这样的图形,你应该和我们一样感觉到了GC在背后辛勤工作的身影。 

posted @ 2014-07-06 18:58  博客园团队  阅读(5065)  评论(17编辑  收藏  举报