文件并发(日志处理)--队列--Redis+Log4Net

多线程操作同一个文件时会出现并发问题。解决的一个办法就是给文件加锁(lock),但是这样的话,一个线程操作文件时,其它的都得等待,这样的话性能非常差。另外一个解决方案,就是先将数据放在队列中,然后开启一个线程,负责从队列中取出数据,再写到文件中。

在这之前,有必要先了解下Redis,关于Redis的介绍可以参考我的这篇博文:ASP.NET Redis 开发

Redis工具和所需资料代码全下载,地址:http://pan.baidu.com/s/155F6A

下面我们讲解一个实际项目中应用的案例,关于日志的处理.这里是使用ASP.NET MVC项目作为Demo

方式一:使用队列

思路:把所有产生的日志信息存放到一个队列里面,然后通过新建一个线程,不断的从这个队列里面读取异常信息,然后往日志里面写。也就是所谓的生产者、消费者模式。

1、新建一个类MyErrorAttribute,

  1. using System.Web.Mvc;  
  2.     public class MyErrorAttribute : HandleErrorAttribute  
  3.     {  
  4.         public static Queue<Exception> ExceptionQueue = new Queue<Exception>();  
  5.         public override void OnException(ExceptionContext filterContext)  
  6.         {  
  7.             ExceptionQueue.Enqueue(filterContext.Exception);  
  8.             filterContext.HttpContext.Response.Redirect("~/Error.html");  
  9.             base.OnException(filterContext);  
  10.         }  
  11. }  

2、在FilterConfig类中进行如下修改:

  1. public class FilterConfig  
  2.   {  
  3.       public static void RegisterGlobalFilters(GlobalFilterCollection filters)  
  4.       {  
  5.           //filters.Add(new HandleErrorAttribute());  
  6.   
  7.           filters.Add(new MyErrorAttribute());  
  8.       }  
3、在Gobal.asax.cs中的Application_Start事件里添加如下代码:
  1. string filePath = Server.MapPath("~/Logs/");  
  2.            ThreadPool.QueueUserWorkItem(o => {   
  3.            while(true)  
  4.            {  
  5.                if (MyErrorAttribute.ExceptionQueue.Count > 0)  
  6.                {  
  7.                    Exception ex = MyErrorAttribute.ExceptionQueue.Dequeue();  
  8.                    if (ex != null)  
  9.                    {  
  10.                        string fileName = filePath + DateTime.Now.ToString("yyyy-MM-dd") + ".txt";  
  11.                        File.AppendAllText(fileName, ex.Message);  
  12.                    }  
  13.                    else  
  14.                    {  
  15.                        Thread.Sleep(50);  
  16.                    }  
  17.                }  
  18.                else  
  19.                {  
  20.                    Thread.Sleep(50);  
  21.                }  
  22.            }  
  23.            });  

方式二:使用RedisLog4Net完成分布式日志记录

Log4Net是用来记录日志的,可以将程序运行过程中的信息输出到一些地方(文件、数据库、EventLog等),日志就是程序的黑匣子,可以通过

日志查看系统的运行过程,从而发现系统的问题。日志的作用:将运行过程的步骤、成功失败记录下来,将关键性的数据记录下来分析系统问题所在。

对于网站来讲,不能把异常信息显示给用户,异常信息只能记录到日志,出了问题把日志文件发给开发人员,就能知道问题所在。

配置Log4Net环境

(1)新建一个WebApplication

(2)添加对log4net.dll的引用(bin\net\2.0\release 不能引用debug版本)(把相应的dll文件拷贝到项目中的lib文件夹下。)

(3)Web.Config (或App.Config)添加配置

(4)初始化:在程序最开始加入log4net.Config.XmlConfigurator.Configure()

在要打印日志的地方LogManager.GetLogger(typeof(Program)).Debug(“信息”); 。通过LogManager.GetLogger传递要记录的日志类类名获得这个类的ILog(这样在日志文件中就能看到这条日志是哪个类输出的了),然后调用Debug方法输出消息。因为一个类内部不止一个地方要打印日志,所以一般把ILog声明为一个static字段。

Private static ILog logger=LogManager.GetLogger(typeof(Test))

输出错误信息用ILog.Error方法,第二个参数可以传递Exception对象。log.Error("***错误"+ex)log.Error("***错误",ex)

Appender:可以将日志输出到不同的地方,不同的输出目标对应不同的AppenderRollingFileAppender(滚动文件)、AdoNetAppender(数据库)、SmtpAppender (邮件)等。

level(级别):标识这条日志信息的重要级别None>Fatal>ERROR>WARN>DEBUG>INFO>ALL,设定一个

Level,那么低于这个Level的日志是不会被写到Appender中的.

Log4Net还可以设定多个Appender,可以实现同时将日志记录到文件、数据、发送邮件等;可以设定不同的Appender的不同的Level,可以实现普通级别都记录到文件,Error以上级别发送邮件;可以实现对不同的类设定不同的Appender;还可以自定义Appender,这样可以自己实现将Error信息发短信等.

示例:

1、配置Log4Net,在Web.config中添加如下配置:

  1. <configSections>  
  2.     <!-- For more information on Entity Framework configuration, visit http://go.microsoft.com/fwlink/?LinkID=237468 -->  
  3.     <section name="entityFramework" type="System.Data.Entity.Internal.ConfigFile.EntityFrameworkSection, EntityFramework, Version=5.0.0.0,   
  4. Culture=neutral, PublicKeyToken=b77a5c561934e089" requirePermission="false" />  
  5.     <section name="log4net" type="log4net.Config.Log4NetConfigurationSectionHandler, log4net"/>  
  6.   </configSections>  
  7.   <log4net>  
  8.     <!-- OFF, FATAL, ERROR, WARN, INFO, DEBUG, ALL -->  
  9.     <!-- Set root logger level to ERROR and its appenders -->  
  10.     <root>  
  11.       <level value="ALL"/>  
  12.       <appender-ref ref="SysAppender"/>  
  13.     </root>  
  14.     <!-- Print only messages of level DEBUG or above in the packages -->  
  15.     <logger name="WebLogger">  
  16.       <level value="DEBUG"/>  
  17.     </logger>  
  18.     <appender name="SysAppender" type="log4net.Appender.RollingFileAppender,log4net" >  
  19.       <param name="File" value="App_Data/" />  
  20.       <param name="AppendToFile" value="true" />  
  21.       <param name="RollingStyle" value="Date" />  
  22.       <param name="DatePattern" value=""Logs_"yyyyMMdd".txt"" />  
  23.       <param name="StaticLogFileName" value="false" />  
  24.       <layout type="log4net.Layout.PatternLayout,log4net">  
  25.         <param name="ConversionPattern" value="%d [%t] %-5p %c - %m%n" />  
  26.         <param name="Header" value="----------------------header--------------------------" />  
  27.         <param name="Footer" value="----------------------footer--------------------------" />  
  28.       </layout>  
  29.     </appender>  
  30.     <appender name="consoleApp" type="log4net.Appender.ConsoleAppender,log4net">  
  31.       <layout type="log4net.Layout.PatternLayout,log4net">  
  32.         <param name="ConversionPattern" value="%d [%t] %-5p %c - %m%n" />  
  33.       </layout>  
  34.     </appender>  
  35.   </log4net>  

2、添加ServiceStack.dllServiceStack.Interfaces.dllServiceStack.ServiceInterface.dlllog4net.dll的引用,然后新建一个类MyErrorAttribute,

  1. using System.Web.Mvc;  
  2. using ServiceStack.Redis;  
  3.  public static IRedisClientsManager clientsManager = new PooledRedisClientManager(new string[] { "127.0.0.1:6379"});  
  4.         public static IRedisClient redisClient = clientsManager.GetClient();  
  5.   
  6.         public override void OnException(ExceptionContext filterContext)  
  7.         {  
  8.             redisClient.EnqueueItemOnList("errorMsg", filterContext.Exception.ToString());  
  9.             filterContext.HttpContext.Response.Redirect("~/Error.html");  
  10.             base.OnException(filterContext);  
  11.         }  

3、在FilterConfig类中进行如下修改:

  1.  public class FilterConfig  
  2.     {  
  3.         public static void RegisterGlobalFilters(GlobalFilterCollection filters)  
  4.         {  
  5.             //filters.Add(new HandleErrorAttribute());  
  6.   
  7.             //filters.Add(new MyErrorAttribute());  
  8.             filters.Add(new MyExceptionAttribute());  
  9.         }  
  10. }  

4、在Gobal.asax.cs中的Application_Start事件里添加如下代码:

  1. log4net.Config.XmlConfigurator.Configure(); //获取Log4Net配置信息  
  2.             ThreadPool.QueueUserWorkItem(o =>  
  3.             {  
  4.                 while (true)  
  5.                 {  
  6.                     if (MyExceptionAttribute.redisClient.GetListCount("errorMsg") > 0)  
  7.                     {  
  8.                         string msg = MyExceptionAttribute.redisClient.DequeueItemFromList("errorMsg");  
  9.                         if (!string.IsNullOrEmpty(msg))  
  10.                         {  
  11.                             ILog logger=LogManager.GetLogger("testError");  
  12.                             logger.Error(msg); //将异常信息写入Log4Net中  
  13.                         }  
  14.                         else  
  15.                         {  
  16.                             Thread.Sleep(50);  
  17.                         }  
  18.                     }  
  19.                     else  
  20.                     {  
  21.                         Thread.Sleep(50);  
  22.                     }  
  23.                 }  
  24.             }); 
posted @ 2015-04-08 20:40  邹琼俊  阅读(5912)  评论(11编辑  收藏  举报
-->