随笔分类 - Apache DolphinScheduler
摘要:近日,在 2025 上海开源创新菁英荟上,由中国团队主导的Apache DolphinScheduler荣获 「优秀开源项目奖」。这个从中国走向全球的大数据调度平台,凭借技术突破与行业实践,成为全球 3000 余家企业的核心调度引擎。
阅读全文
摘要:亲爱的 DolphinScheduler 开发者与用户们,DolphinScheduler 社区 5、6 月月报重磅发布啦!本期月报记录了社区在过去两个月的重要进展。
阅读全文
摘要:近日,“开源之夏 2025”项目正式进入公示期,Apache DolphinScheduler 社区传来喜讯!本次共有两项学生项目成功入选,分别聚焦在 Kubernetes 调度优化与插件体系增强方向,展现出社区在调度引擎可扩展性和云原生兼容性方面的持续演进。
阅读全文
摘要:Apache DolphinScheduler作为一款开源的分布式任务调度系统,在实际生产环境中经常需要根据业务需求对集群进行扩容或缩容操作。本文将详细介绍DolphinScheduler集群的扩容和缩容操作流程,帮助运维人员安全、高效地调整集群规模。
阅读全文
摘要:Apache DolphinScheduler单节点部署及测试报告。
阅读全文
摘要:Apache DolphinScheduler 的存储系统提供统一接口,支持跨多种存储后端(如本地文件系统、云存储)进行文件存取。其核心功能是管理工作流和任务所需的资源文件(如脚本、JAR包、配置文件),并通过抽象底层存储技术,实现无缝切换存储方案而无需修改应用代码。
阅读全文
摘要:开源之夏2025 已进入学生报名冲刺阶段!全球知名的大数据调度平台 Apache DolphinScheduler 再次加入这一开源盛会,为高校学子提供两大技术挑战任务,助力提升开发能力与开源贡献经验。无论你是想深入云原生技术,还是探索分布式系统优化,这里都有你的舞台!
阅读全文
摘要:点击链接获取宣讲直播回放+PPT资料: https://www.whaleops.com/846839-846849.html?newsid=3160733&_t=1745373594
阅读全文
摘要:某公司在迁移从阿里云DataWorks到自建大数据平台过程中,遇到海豚调度器在定时任务触发时导致CPU负载激增甚至系统崩溃的问题。经过排查,发现并非任务数量过多引起,而是调度器配置不当。通过调整海豚调度器的线程数和CPU限制值,成功解决了CPU飙升问题,确保了任务的平稳运行。参考此案例,用户在调整线程数时需平衡机器负载和并发任务需求。
阅读全文
摘要:Apache DolphinScheduler 将亮相 DataOps Track。
阅读全文
摘要:近期,Apache DolphinScheduler进行了版本更新,发布了3.3.0 alpha版本。Apache DolphinScheduler 3.3.0 alpha版本在任务管理、容错能力、扩展性等方面实现跨越式升级,为大规模工作流调度提供更稳定、灵活的解决方案。但需要提醒的是,此版本为alpha版本,请谨慎更新使用。
阅读全文
摘要:2025年“开源之夏”(OSPP)再次启航!Apache DolphinScheduler作为全球领先的分布式可视化DAG工作流任务调度系统,连续多年入选这一开源盛典,今年将继续携手社区开发者,面向社区招募1名资深导师,共同推动大数据调度技术的创新与落地。
阅读全文
摘要:在数据驱动系统(如分析平台)中,一个常见的挑战是管理数据管道之间的依赖关系。
阅读全文
摘要:输出变量是 DolphinScheduler 任务调度中实现数据流动与任务协作的核心机制,通过显式定义和传递参数,解决了跨节点数据共享、优先级冲突等问题,同时支持复杂流程编排(如子流程、条件分支)。合理使用输出变量能显著提升工作流的灵活性和可维护性。本文将介绍 DolphinScheduler 中重要的输出变量及其使用方法。
阅读全文
摘要:一定不要错过这场精彩的线上用户交流会!在这里,你将有机会深入了解网易邮箱关于Apache DolphinScheduler平台的实际应用案例,汲取大厂的前沿实践经验。
阅读全文
摘要:作者 | Alireza Sadeghi 译自Practical Data Engineering 2025年开源数据工程领域呈现蓬勃创新与生态重构的双重态势,九大技术赛道在实时化、轻量化与云原生架构驱动下加速演进。一份来自外网的2025年开源数据工程全景图全面地展示了这一领域的发展态势与走向,现翻
阅读全文
摘要:DS缩写风云:从“小海豚”到“深度求索”的魔幻现实 曾几何时,技术圈提到DS,人们脑海中浮现的是一只灵动的“小海豚”——Apache DolphinScheduler(简称DS)。这个2019年诞生的分布式任务调度系统,凭借可视化DAG界面、多租户支持和对Hadoop/Spark生态的深度集成,一度
阅读全文
摘要:2024年社区高光时刻总结! 亲爱的朋友们,让我们把时间的快门按下,一起回顾这一年的点点滴滴。就像翻阅一本精彩的相册,每一张照片都记录着我们Apache DolphinScheduler社区的欢笑和泪水。那么,准备好了吗?让我们一起跳进时光机,回顾社区里2024年那些难忘的瞬间吧! 时光荏苒,新年将
阅读全文
摘要:这里将记录 DolphinScheduler 社区每月的重要更新,欢迎关注!
阅读全文
摘要:在会上,白鲸开源CEO 郭炜于「开放原子开源数据库生态论坛」上发分享了题为 《大模型时代下DataOps驱动企业数智化升级》 的演讲,并在「开源与闭源,在行业应用中的发展潜能」的圆桌对话中分享了自己的开源心得体会与经验。
阅读全文