2019年1月8日

Singer 学习三 使用Singer进行mongodb 2 postgres 数据转换

摘要: Singer 可以方便的进行数据的etl 处理,我们可以处理的数据可以是api 接口,也可以是数据库数据,或者 是文件 备注: 测试使用docker-compose 运行&&提供数据库内容,使用virtualenv && python 3.5 以及以上 环境准备 docker-compose 文件 阅读全文

posted @ 2019-01-08 21:37 荣锋亮 阅读(666) 评论(0) 推荐(0) 编辑

Singer 学习二 使用Singer进行gitlab 2 postgres 数据转换

摘要: Singer 可以方便的进行数据的etl 处理,我们可以处理的数据可以是api 接口,也可以是数据库数据,或者 是文件 备注: 测试使用docker-compose 运行&&提供数据库内容,使用virtualenv && python 3.5 以及以上 环境准备 docker-compose 文件 阅读全文

posted @ 2019-01-08 15:58 荣锋亮 阅读(558) 评论(0) 推荐(0) 编辑

Singer 学习一 使用Singer进行mysql 2 postgres 数据转换

摘要: Singer 因为版本的问题,推荐的运行方式是使用virtualenv,对于taps&& target 的运行都是 推荐使用此方式,不然包兼容的问题太费事了 备注: 使用docker-compose 运行数据库服务 环境准备 docker-compose 文件 数据库准备 version: "3" 阅读全文

posted @ 2019-01-08 15:13 荣锋亮 阅读(1352) 评论(0) 推荐(0) 编辑

Singer 开源便捷的ETL 工具

摘要: singer 是一个强大,灵活的etl 工具,我们可以方便的提取web api,file,queue,基本上各种你可以想到的 数据源。 singer 有一套自己的数据处理规范, taps, targets,同时官方提供了好多taps(好多是基于api 的),而且 在这个api first 的开发时代 阅读全文

posted @ 2019-01-08 08:29 荣锋亮 阅读(1610) 评论(0) 推荐(0) 编辑

导航