zl程序教程

您现在的位置是:首页 >  Java

当前栏目

走进异步世界:EnyimMemcached异步化改造引起的内存泄漏

2023-03-09 22:25:38 时间

6月30日我们发布了异步化改造后的博客程序之后,出现了高内存、高CPU、高线程数的不理想情况。

经过一周的追查,终于水落日出——引起不理想情况的根源是我们修改过的EnyimMemcached代码存在内存泄漏问题。

而造成内存泄漏的根源是我们没有对SocketAsyncEventArgs进行Dispose,实际情况是我们当时根本没注意到SocketAsyncEventArgs实现了IDispose接口,而这个小小的疏忽竟然折腾了我们一个星期。

存在内存泄漏问题的代码是这样写的:

a) 异步从Socket中读取数据:

  1. public async Task<byte[]> ReadBytesAsync(int count)  
  2. {  
  3.     var args = new SocketAsyncEventArgs();  
  4.     args.SetBuffer(new byte[count], 0, count);  
  5.     var awaitable = new SocketAwaitable(args);  
  6.     await this.socket.ReceiveAsync(awaitable);              
  7.     return args.Buffer;  

b) 异步向Socket中写入数据:

  1. public async Task WriteSync(IList<ArraySegment<byte>> buffers)  
  2. {  
  3.     var args = new SocketAsyncEventArgs();  
  4.     args.BufferList = buffers;  
  5.     var awaitable = new SocketAwaitable(args);  
  6.     await this.socket.SendAsync(awaitable);  

解决内存泄漏问题的方法很简单,using+Buffer.BlockCopy,代码如下:

a) 改进后的异步从Socket中读取数据:

  1. public async Task<byte[]> ReadBytesAsync(int count)  
  2. {  
  3.     using (var args = new SocketAsyncEventArgs())  
  4.     {  
  5.         args.SetBuffer(new byte[count], 0, count);  
  6.         var awaitable = new SocketAwaitable(args);  
  7.         await this.socket.ReceiveAsync(awaitable);  
  8.         var receivedBytes = new Byte[args.BytesTransferred];  
  9.         Buffer.BlockCopy(args.Buffer, 0, receivedBytes, 0, args.BytesTransferred);  
  10.         return receivedBytes;  
  11.     }  

b) 改进后的异步向Socket中写入数据:

  1. public async Task WriteSync(IList<ArraySegment<byte>> buffers)  
  2. {  
  3.     using (var args = new SocketAsyncEventArgs())  
  4.     {  
  5.         args.BufferList = buffers;  
  6.         var awaitable = new SocketAwaitable(args);  
  7.         await this.socket.SendAsync(awaitable);  
  8.     }              

改进后的代码已发布至github:https://github.com/cnblogs/EnyimMemcached

你也许会问我们是如何监测到内存泄漏情况的呢?

我们借助于两个工具:Windows任务管理器与性能监视器。

1. 通过任务管理器,我们观察到w3wp占用的内存会持续增长,当到达5G左右,在8核8G的阿里云虚拟机上CPU就开始做坐过山车,只有回收程序池(重启w3wp进程)才能恢复正常。

2. 通过性能监视器,我们监测了两个指标:

a) \.NET CLR Memory(w3wp)\# Bytes in all Heaps (针对托管内存)

b) \Process(w3wp)\Private Bytes (针对非托管内存)

观察到的情况见下图:

性能监视器Bytes in all Heaps与Private Bytes

(绿色是Private Bytes

Bytes in all HeapsPrivate Bytes都会出现持续增长。

而对SocketAsyncEventArgs进行Dispose之后,性能监视器看到的\.NET CLR Memory\# Bytes in all Heaps变成了这样:

性能监视器Bytes in all Heaps

\Process\Private Bytes也与Bytes in all Heaps相映成辉:

性能监视器Private Bytes

一看到这样的图形,你应该和我们一样感觉到了GC在背后辛勤工作的身影。 

原文链接:http://www.cnblogs.com/cmt/p/sokcet_memory_leak.html