代码改变世界

高效能,大数据量存储方案SqlBulkCopy

  温森特  阅读(875)  评论(0编辑  收藏  举报

       前些日子,公司要求做一个数据导入程序,要求将Excel数据,大批量的导入到数据库中,尽量少的访问数据库,高性能的对数据库进行存储。于是在网上进行查找,发现了一个比较好的解决方案,就是采用SqlBulkCopy来处理存储数据。SqlBulkCopy存储大批量的数据非常的高效,就像这个方法的名字一样,可以将内存中的数据表直接的一次性的存储到数据库中,而不需要一次一次的向数据库Insert数据。初次实验,百万级别的数据表,也只需几秒时间内就可以完全的存入数据库中,其速度,比传统的Insert方法不止快很多倍。下面,我将用代码,介绍其用法。

   

复制代码
/// <summary>
        
/// LaborReport Data Import To Database
        
/// </summary>
        
/// <param name="laborReport">laborReport data table</param>
        
/// <param name="laborReportDetail">laborReportDetail data table</param>
        public void LaborReportInsert(DataTable laborReport, DataTable laborReportDetail)
        {
            
using (SqlConnection conn = new SqlConnection(this.Connection))
            {
                
if (conn.State != ConnectionState.Open)
                    conn.Open();            

                
using (SqlBulkCopy sqlBCLaborReport = new SqlBulkCopy(conn))
                {
                    sqlBCLaborReport.BatchSize 
= laborReport.Rows.Count;
                    sqlBCLaborReport.BulkCopyTimeout 
= 60;
                    sqlBCLaborReport.DestinationTableName 
= "LaborReport";
                    sqlBCLaborReport.WriteToServer(laborReport);
                }

                
using (SqlBulkCopy sqlBCLaborReportDetails = new SqlBulkCopy(conn))
                {
                    sqlBCLaborReportDetails.BatchSize 
= laborReportDetail.Rows.Count;
                    sqlBCLaborReportDetails.BulkCopyTimeout 
= 60;
                    sqlBCLaborReportDetails.DestinationTableName 
= "LaborReportDetails";
                    sqlBCLaborReportDetails.WriteToServer(laborReportDetail);
                }

                
if (conn.State != ConnectionState.Closed)
                    conn.Close();
            }
        }
复制代码

 

      上边的示例代码,将内存中的两个DataTable 数据一次性的存入数据库中,只要内存中的数据表格的结构跟数据库中的表格结构一样,就可以了,如果数据库中包含自增列字段,我们可以不需要在内存表中定义,当数据保存到数据库中的时候,自增列会自动生成数据的。

 

编辑推荐:
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
阅读排行:
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构
点击右上角即可分享
微信分享提示