Java 使用JDBC 批量删除千万级数据
对于千万级表的清理有三种办法;
1.drop table 表名:用来删除表对象 。风险较大,后续不再使用,可以使用该方法。
2.truncate table 表名:清空表中所有数据,表结构还存在。所有数据不再使用,可以使用该方法
3.对于表结构不能删除,且只是按照条件删除表中某个条件数据,建议使用如下方法。高效删 除数据,且不会删除其他条件数据。自动循环查询删除。
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 | import java.sql.*; import java.util.Date; /** * @Author BlueFire * @Date 2020/4/17 -22:13 */ public class InsertTest { public static void main(String[] args) throws ClassNotFoundException, SQLException { final String url = "jdbc:mysql://127.0.0.1:3306/mooding?autoReconnect=true&useUnicode=true&characterEncoding=utf8&serverTimezone=Asia/Shanghai" ; final String name = "com.mysql.jdbc.Driver" ; final String user = "root" ; final String password = "123456" ; Connection conn = null ; Class.forName(name); //指定连接类型 conn = DriverManager.getConnection(url, user, password); //获取连接 if (conn != null ) { System. out .println( "获取连接成功" ); deleteBatch(conn); //批量删除数据 } else { System. out .println( "获取连接失败" ); } conn.close(); } //批量删除 千万条数据 public static void deleteBatch(Connection conn) throws SQLException { //数据中需要删除的数据量 Long expiredCount = 0L; //已经删除数据量 Long totalDeleted = 0L; //要删除表的名字 String table = "t_users" ; //要删除的条件 String schoolName = "XX大学" ; // 开始时间 Long begin = new Date().getTime(); //带有占位符的sql String sql = "delete from ? where school_name = ? limit 100000 " ; PreparedStatement pstmt = conn.prepareStatement(sql); //循环批量删除 do { pstmt.setString(1, table); pstmt.setString(2, schoolName); // 返回值代表收到影响的行数 int result = pstmt.executeUpdate(); //已经删除条数 totalDeleted += result; //还有条数 expiredCount = queryCount(table, schoolName, conn); } while (expiredCount > 0); // 结束时间 Long end = new Date().getTime(); // 耗时 System. out .println( "千万条数据删除花费时间 : " + (end - begin) / 1000 + " s" ); System. out .println( "删除完成" ); } //查询过期记录数量 private static long queryCount(String table, String schoolName, Connection conn) throws SQLException { String sql = "SELECT COUNT (*) as cnt FROM ? where school_name = ? " ; PreparedStatement pstmt = conn.prepareStatement(sql); pstmt.setString(1, table); pstmt.setString(2, schoolName); ResultSet rs = pstmt.executeQuery(sql); while (rs.next()) { long count = rs.getInt( "cnt" ); return count; } return 0L; } } |
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 如何调用 DeepSeek 的自然语言处理 API 接口并集成到在线客服系统
· 【译】Visual Studio 中新的强大生产力特性
· 2025年我用 Compose 写了一个 Todo App