springboot设置定时任务(2)
上次了解到springboot也内置了对应调度任务的支持,当时就觉得很有用,但也一时没有想到在生产中具体应该怎么用。
最近接到一个需求,正好可以用到它。
我需要开发一个接口用来接收其他部门发来的数据,并将数据存入mysql数据库。
这个需求实现不难,关键在于当数据一条一条post过来的时候,一条一条insert到数据库,可能会把数据库搞挂!
那么第一个问题来了:能不能缓存多次post的数据,攒到一定数量批次insert?
答案:可以,我们可以在springboot中实现一个Queue,在service层将接收到的数据加入Queue,另起一个线程作为消费者来消费Queue
消费者可以无限循环消费Queue中的数据,我们用一个List攒够100条就往mysql批量插入一次
这时产生了一个新问题:我们如何知道对方的数据已经发完了?
如果不确定对方什么时候发完,缓存中的数据不足100条的时候就永远没有机会存进mysql,所以这种方式不可行
这个时候我想到了调度的方式,也就是我并不启动一个常驻的线程,而是每隔固定时间启动一下消费者,消费者设定超时时间(比方1s)消费数据,
消费不到就直接break出while循环。
测试了一下,还挺好用,上代码:
/** *构造一个Queue供生产者、消费者使用 */ @Configuration public class QueueConfig { @Bean public ArrayBlockingQueue<GasAccumulate> queue() { return new ArrayBlockingQueue<GasAccumulate>(1000); } }
生产者:
@Service public class GasServiceImpl implements GasService { @Autowired private GasAccumulateMapper gasAccumulateMapper; @Autowired private ArrayBlockingQueue<GasAccumulate> queue; @Override public void saveGasAccumulate(GasAccumulateParam gasAccumulateParam) { GasAccumulate gasAccumulate = new GasAccumulate(); //数据加入队列设定超时时间 try { queue.offer(gasAccumulate, 1, TimeUnit.SECONDS); } catch (InterruptedException e) { e.printStackTrace(); //队列满时对数据进行简单单条insert gasAccumulateMapper.insert(gasAccumulate); } }
消费者:
@Component public class GasAccumulateConsumer { private static Logger logger = LoggerFactory.getLogger(GasAccumulateConsumer.class); @Autowired private GasAccumulateMapper gasAccumulateMapper; @Autowired private ArrayBlockingQueue<GasAccumulate> queue; /** * 如果队列没有数据,1秒后超时退出while循环 * 这样就不能作为一个常驻线程,而应该处理为一个调度线程 */ @Scheduled(fixedDelay = 60000) public void run() { logger.info("scheduler start at:" + LocalDateTime.now()); List<GasAccumulate> arrayList = new ArrayList<>(100); GasAccumulate gasAccumulate = null; while (true) { try { gasAccumulate = queue.poll(1, TimeUnit.SECONDS); } catch (InterruptedException e) { e.printStackTrace(); } if (gasAccumulate != null) { arrayList.add(gasAccumulate); if (arrayList.size() == 100) { gasAccumulateMapper.batchInsert(arrayList); arrayList.clear(); } } else { gasAccumulateMapper.batchInsert(arrayList); arrayList.clear(); break; } } logger.info("scheduler end at:" + LocalDateTime.now()); } }
启动类:
//开启调度的注解 @EnableScheduling @EnableSwagger2 @SpringBootApplication public class Application { public static void main(String[] args) { SpringApplication.run(Application.class, args); } }
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列:基于图像分类模型对图像进行分类
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 25岁的心里话
· 闲置电脑爆改个人服务器(超详细) #公网映射 #Vmware虚拟网络编辑器
· 零经验选手,Compose 一天开发一款小游戏!
· 通过 API 将Deepseek响应流式内容输出到前端
· AI Agent开发,如何调用三方的API Function,是通过提示词来发起调用的吗