Apache DolphinScheduler 是一个分布式易扩展的可视化 DAG 工作流任务调度系统。致力于解决数据处理流程中错综复杂的依赖关系，使调度系统在数据处理流程中开箱即用。 主要特性 易于部署，提供四种部署方式，包括Standalone、Cluster、Docker和Kubernetes ...

启动远程图形界面登录的工具 [root@db11g ~]# vncserver 监听 监听的启动 [oracle@db11g ~]$ lsnrctl start 判断监听是否启动 [oracle@db11g ~]$ netstat -tulnp | grep 1521 (Not all proces ...

本手册将分为三部分发布，以帮助读者逐步深入理解数据仓库的设计与实践。 第一部分介绍数据仓库的整体架构概述； 第二部分深入讨论ETL在数仓中的应用理论，ODS层的具体实现与应用； 第三部分将围绕DW数据仓库层、ADS层和数据仓库的整体趋势展开； 通过这样的结构，您可以系统地学习每一层次的内容和设计原则 ...

【GreatSQL优化器-03】查询开销估算 一、cost和read_time介绍 GreatSQL的优化器在创建执行计划的时候是根据每张表的行数和数据分布以及读数据硬盘消耗等信息来判断先查询哪张表后查询哪张表，要不要使用索引，这些表资源信息就被称为cost，俗称为"开销"。在这之前已经执行了upd ...

目录简介安装安装概述CentOS编译安装使用命令行配置文件迁移可能遇到的错误更多配置参考总结引用 简介 pgloader是一个数据同步工具，用来将数据从其它地方迁移到postgresql中，支持从如下源迁移： 文件：CSV、Fixed Format、Postgres COPY text format ...

五种常见数据类型 Redis中的数据类型指的是 value存储的数据类型，key都是以String类型存储的，value根据场景需要，可以以String、List等类型进行存储。 各数据类型介绍： Redis数据类型对应的底层数据结构 String 类型的应用场景 常用命令 存放键值：set key ...

1. 数据可靠性 1.1. 数据可靠性指的是一个组织在整个数据生命周期中提供高数据可用性和健康状况的能力 1.1.1. 是高数据质量带来的结果 1.1.1.1. 高质量的大数据是这个大规模转型平台的核心 1.1.2. 随着公司接收到比以往更多的事务型数据和第三方数据，以及组织中的所有员工在数据生命周 ...

使用SeaTunnel需要安装Spark或者Flink这样的引擎么？ 不需要，SeaTunnel 支持 Zeta、Spark 和 Flink 作为同步引擎的选择，您可以选择之一就行，社区尤其推荐使用 Zeta 这种专为同步场景打造的新一代超高性能同步引擎。Zeta 被社区用户亲切的称为 “泽塔奥特曼 ...

导读 在 LLM 蓬勃发展的今天，数据工程已成为支持大规模 AI 模型训练的基石。DataOps 作为数据工程的重要方法论，通过优化数据集成、转换和自动化运维，加速数据到模型的闭环流程。本文聚焦新一代数据 & AI 集成工具- Apache SeaTunnel 在 DataOps 中的核心作用，并介 ...

Apache DolphinScheduler 是一个分布式、易扩展的可视化数据工作流任务调度系统，广泛应用于数据调度和处理领域。 在大规模数据工程项目中，数据质量的管理至关重要，而 DolphinScheduler 也提供了数据质量检查的计算能力。本文将对 Apache DolphinSchedu ...

该版本为MacOS专用，最新稳定版，相比旧版本，性能更高、资源占用更小、修复了频繁崩溃的bug。 navicat最新破解版本都需要关闭SIP，如何关闭可参考这篇文章 Navicat Premium 是一款非常强大的数据库管理工具，允许您在一个应用程序中同时连接到 MySQL、SQLite、Mongo ...

概述 使用 explain 输出 SELECT 语句执行的详细信息，包括以下信息： 表的加载顺序 sql 的查询类型 可能用到哪些索引，实际上用到哪些索引 读取的行数 Explain 执行计划包含字段信息如下：分别是 id、select_type、table、partitions、type、poss ...

1. Python和机器学习扩展异常检测 1.1. 机器学习有助于大规模数据可观测性和数据监控 1.1.1. 配备了机器学习的检测器可以更灵活地应用到更多的数据表上，从而消除了随着数据仓库或数据湖的增长进行手动检查和手动操作的需要 1.1.2. 机器学习检测器可以实时学习和适应数据，并且可以捕获到人 ...

[20241118]NLS_LANG设置问题2.txt--//链接 https://www.itpub.net/thread-2155589-1-1.html上的讨论。--//PiscesCanon指出：--//NLS_LANG设置错了，如果你的客户端是sqlplus，那么应该是NLS_LANG=. ...

安装MySQL8 MySQL Community Server 社区版本，开源免费，自由下载，但不提供官方技术支持，适用于大多数普通用户。 MySQL Enterprise Edition 企业版本，需付费，不能在线下载，可以试用30天。提供了更多的功能和更完备的技术支持，更适合于对数据库的功能和可 ...

Quartz是一个开源的Java作业调度框架，它提供了强大的定时任务调度功能。在DolphinScheduler中，Quartz用于实现定时任务的调度和管理。DolphinScheduler通过QuartzExecutorImpl类与Quartz集成，将工作流及其定时管理操作与Quartz调度框架相 ...

视频链接：58集团大数据平台基于Apache SeaTunnel的架构演进 https://www.bilibili.com/video/BV19GUPYcEgB/?vd_source=e139ecc995ab936267a7991b9de55f6c 引言 在数字化时代，数据已成为企业最宝贵的资产之 ...

deletion vector 是通过一组向量, 维护一个文件中被删除的行, 可以理解为一种索引. 这种方式可以以 Merge On Write 的方式, 来避免 Merge On Read 的过程, 从而以写入性能换取读取性能. 对于写少读多, 或者对读取性能有更高要求的场景会比较适合. 避免 M ...

1. 监控和异常检测 1.1. 在数据方面，所有明面上的测试和数据质量检查都不能完全保护你免受数据宕机的影响 1.1.1. 宕机可能由于各种原因而出现在管道内部和外部的各个阶段 1.1.2. 这些原因通常与数据本身无关 1.2. 要了解数据何时中断，最好的做法是依靠数据监控，特别是异常检测技术 1. ...

环境 CentOS-7-x86_64-DVD-2009.iso https://mirrors.aliyun.com/centos/7/isos/x86_64/CentOS-7-x86_64-DVD-2009.iso elasticsearch-7.10.0-linux-x86_64.tar.gz ...