通常在大数据量计算的应用程序里,CPU大部分时间处理等待状态.在一个单线程的应用程序里,这些查询会导致window消息处理能力阻塞,这里会导致计算时间很长,CPU利用率也非常低.
最近一直在研究,提高处理性能的方法.
开始利用,多线程,异步的方法来实现,
下面的语句是用来分段进行数据整合, (如按天,或按月,对中间数据进行整合)整合SQL通过批量生成
在单线程的执行时间,CPU利用率一般在1-10%,(服务器HP 580 4 CPU XEON 3.0G 16G内存,加盘柜),这样整合时间太长。
如果分段整合,CPU利用率就在40-80%得到比较大的利用。
FileInfo[] files;
private void button1_Click(object sender, System.EventArgs e)

{
if(folderBrowserDialog1.ShowDialog() == DialogResult.OK)

{
System.IO.DirectoryInfo di = new DirectoryInfo(folderBrowserDialog1.SelectedPath);
files = di.GetFiles();
ThreadStart ts = new ThreadStart(start);
Thread thread = new Thread(ts);
thread.Start();
}
}
public delegate string myMethodDelegate( object[] args);
static int t = 0;
void start()

{
foreach(FileInfo file in files)

{
System.IO.StreamReader sr = new StreamReader(file.FullName,System.Text.Encoding.Default);
string txt = sr.ReadToEnd();
sr.Close();
myMethodDelegate ddd= new myMethodDelegate(Work2);

ddd.BeginInvoke(new object[]
{txt_connectString.Text,txt,file.FullName},new AsyncCallback(EndWorkBack), null);

Write(string.Format("T:{0}|{1} {1}\r\n",DateTime.Now,file.FullName,t));
//_Task.StartTask(new TaskDelegate(_Task.Work2),new object[]{txt_connectString.Text,txt});
}
}
public string Work2( object[] args)

{
using(SqlConnection conn = new SqlConnection(args[0].ToString()))

{
using(SqlCommand comm = new SqlCommand(args[1].ToString(),conn))

{
comm.CommandTimeout = 60000;
conn.Open();
comm.ExecuteNonQuery();
}
conn.Close();
}
return args[2].ToString();

}
int i =0;
protected void EndWorkBack( IAsyncResult ar )

{
myMethodDelegate ddd = (myMethodDelegate)ar.AsyncState;
string result = ddd.EndInvoke( ar );
i++;
Write(string.Format("T:{3}:{2}:{0} {1}\r\n",result,DateTime.Now,i,t));
}
public void Write(string msg)

{
System.IO.StreamWriter sw = new StreamWriter("C:\\install.log",true,System.Text.Encoding.Default);
sw.WriteLine(msg);
sw.Close();

}
不过上面程序也有一点问题,就是异步线程数据没有好的控制。如果同时执行线程,过多,CPU时间片分配就不合理,执行速度反而慢。
后来就一直想用线程池的来合理处理线程。
。Net自带的线程池使用起来比较简单。
通过System.Threading.ThreadTool类就可以使用,
定义回调方法
WaitCallback async = new WaitCallback(FExeute);
通过ThreadPool.QueueUserWorkItem(async,service);加入队列
回调方法执行运算
public void FExeute(object Param)

{
//myResetEvent.WaitOne();
using(TG_EvaluteBaseDatasSet service = (TG_EvaluteBaseDatasSet)Param)

{
service.doResult();
writeFile(Path,service) ;
OnTgReport(new ReportEvent(service.TE_PASS_RANGE,service.TE_YEAR,service.TE_MONTH,int.Parse(service.TE_I_E_FLAG),int.Parse(service.TE_ENTRY_TYPE)));
}
Interlocked.Decrement(ref number);
//number--;
}
其中Interlocked.Decrement,是调用原子操作,进行减操作,
Interlocked.Increment(ref number);是调用原子操作,进行加
原子操作在多线程中不会有冲突。
线程池有几点好处,
1。多线程执行,
2。根据CPU个数,性能等,合理安排执行的线程,(在实际操作过程中,通过SQL SERVER企业管理器中查看当前活动的进程数,可以看到当前正在执行的线程数)
3。异步操作。
相关资源:
http://www.ddvip.net/program/c-/index2/15.htm
http://www.codeproject.com/csharp/threadtests.asp
http://www.microsoft.com/china/MSDN/library/netFramework/netframework/NECLRT.mspx
源码下载:
https://files.cnblogs.com/edobnet/Report.rar
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· [AI/GPT/综述] AI Agent的设计模式综述