随笔分类 -  持续集成

上一页 1 ··· 22 23 24 25 26 27 28 29 30 ··· 39 下一页

rustup 使用
摘要:rustup 可以帮助我们安装不同版本的rust 编程需要的工具连,同时可以方便的进行不同版本 之间的切换,类似nodejs 的nvm,n, ruby 的 rvm python 的 venv 。。。 rustup 基本使用 我们在首次使用安装脚本,或者安装包安装完成rust 之后就会附带rustup 阅读全文

posted @ 2019-06-16 10:19 荣锋亮 阅读(4552) 评论(0) 推荐(0) 编辑

pgloader 学习(八) pg 2 pg 简单demo
摘要:pg 数据到pg 数据的迁移,同时支持名称的变更 环境准备 docker-compose文件 内容偏多可以忽略部分 version: "3" services: pgloader-csv: image: dimitri/pgloader volumes: - "./init-db:/opt/db" 阅读全文

posted @ 2019-06-13 21:11 荣锋亮 阅读(902) 评论(0) 推荐(0) 编辑

pgloader 学习(七) 从归档文件加载数据
摘要:我们可以直接从zip,tar,gzip 文件获取内容 command file 参考格式 LOAD ARCHIVE FROM /Users/dim/Downloads/GeoLiteCity-latest.zip INTO postgresql:///ip4r ​ BEFORE LOAD DO $$ 阅读全文

posted @ 2019-06-13 20:31 荣锋亮 阅读(464) 评论(0) 推荐(0) 编辑

pgloader 学习(六) 加载csv 数据
摘要:关于加载的配置参数都是使用comand file command file 参考格式 LOAD CSV FROM 'GeoLiteCity-Blocks.csv' WITH ENCODING iso-646-us HAVING FIELDS ( startIpNum, endIpNum, locId 阅读全文

posted @ 2019-06-13 20:17 荣锋亮 阅读(819) 评论(0) 推荐(0) 编辑

pgloader 学习(五)pgloader 参考手册
摘要:pgloader将各种来源的数据加载到PostgreSQL中。它可以转换动态读取的数据,并在加载前后提交原始SQL。 它使用COPY PostgreSQL协议将数据流式传输到服务器,并通过填充一对reject.dat和reject.log文件来管理错误 pgloader 的操作,可以使用命令行参数, 阅读全文

posted @ 2019-06-13 14:48 荣锋亮 阅读(3991) 评论(0) 推荐(0) 编辑

pgloader 学习(四)一些简单操作例子
摘要:上边已经说明了pgloader 的基本使用(篇理论),但是对于实际操作偏少,以下是一个简单的操作 不像官方文档那样,我为了方便,直接使用docker-compose 运行,同时这个环境,会在后边大部分场景使用,同时 对于pgloader 的dsl暂时不会仔细说明,后边会有介绍 环境准备 docker 阅读全文

posted @ 2019-06-13 11:13 荣锋亮 阅读(1665) 评论(0) 推荐(0) 编辑

pgloader 学习(三)快速使用
摘要:pgloader 支持多种数据源数据的加载,以下列出简单的操作命令,后边会有详细的使用说明 csv 格式内容加载 预备说明 需要先在pg 数据库创建表 create table districts_longlat ( usps text, geoid text, aland bigint, awat 阅读全文

posted @ 2019-06-13 09:44 荣锋亮 阅读(1233) 评论(0) 推荐(0) 编辑

pgloader 学习(二)特性矩阵&&命令行
摘要:pgloader 对于各种数据库支持的还是很完整的,同时有一套自己的dsl 特性矩阵 操作命令 命令格式 pgloader [<options>] [<command-file>]... pgloader [<options>] SOURCE TARGET pgloader [<options>] 阅读全文

posted @ 2019-06-13 09:24 荣锋亮 阅读(551) 评论(0) 推荐(0) 编辑

pgloader 学习(一)支持的特性
摘要:pgloader 是一个不错的多种格式数据同步到pg 的工具,pgloader 使用postrgresql 的copy 协议进行高效的数据同步处理 特性 加载文件到内容pg 多种数据源格式的支持 csv、fixed 列、dbase、sqlte、ibm ixf、postgresql、mysql、sql 阅读全文

posted @ 2019-06-13 09:19 荣锋亮 阅读(600) 评论(0) 推荐(0) 编辑

使用readthedocs 发布 sphinx doc文档
摘要:readthedocs 是由社区驱动的开源sphinx doc 托管服务,我们可以用来方便的构建以及发布文档 这是一个简单的demo 项目,使用了用的比较多的sphinx_rtd_theme 主题,主要是试用 注册账户 sphinx 文档需要让readthedocs 托管,我们需要一个账户,注册地址 阅读全文

posted @ 2019-06-12 10:55 荣锋亮 阅读(2140) 评论(0) 推荐(0) 编辑

pgloader 方便的数据迁移工具
摘要:pgloader 是一个支持多种数据源迁移到pg 数据库的工具,高性能,使用灵活同时作者 也提供了docker 版本的镜像,今年3月份使用此工具的时候,发现好久都没更新了,但是 最近作者有了新版本的发布,同时支持pg to pg,修复了部分bug,同时也有了新的官方 文档。 同时作者提出的Conti 阅读全文

posted @ 2019-06-12 10:00 荣锋亮 阅读(688) 评论(0) 推荐(0) 编辑

sphinx doc 文档生成脚手架工具
摘要:sphinx 在python 语言开发中,是一个使用的比较多文档生成脚手架工具,我们帮助我们生成 专业的帮助文档,同时也有远端的免费saas 托管服务,方便分发 安装 sphinx 的安装好多方便,mac 的可以使用brew,或者我们可以使用pip 安装,详细的可以参考官方文档 mac brew 安 阅读全文

posted @ 2019-06-10 15:29 荣锋亮 阅读(1661) 评论(0) 推荐(0) 编辑

testinfra 基础设施测试工具
摘要:testinfra 是基于python 开发的基础设施测试工具,我们可以用来方便的测试基础设施 是否符合我们的要求(系统,软件。。。) 一个参考demo def test_passwd_file(host): passwd = host.file("/etc/passwd") assert pass 阅读全文

posted @ 2019-06-06 10:50 荣锋亮 阅读(1436) 评论(0) 推荐(0) 编辑

tox 试用
摘要:安装 pip install tox pip install tox pip install tox pip install tox pip install tox pip install tox pip install tox pip install tox pip install tox tox 阅读全文

posted @ 2019-06-06 09:52 荣锋亮 阅读(1258) 评论(0) 推荐(0) 编辑

tox python项目虚拟环境管理自动化测试&&构建工具
摘要:tox 是一个方便的工具,可以帮助我们管理python 的虚拟环境,同时可以进行项目自动测试以及构建 tox 如何工作的 说明 从上图我们也可以看出如何在我们项目中使用tox 参考资料 https://github.com/tox-dev/tox https://tox.readthedocs.io 阅读全文

posted @ 2019-06-06 08:48 荣锋亮 阅读(1025) 评论(0) 推荐(0) 编辑

使用singer tap-postgres 同步数据到pg
摘要:singer 是一个很不错的开源etl 解决方案,以下演示一个简单的数据从pg 同步到pg 很简单就是使用tap-postgres + target-postgres 环境准备 对于测试的环境的数据库使用docker-compose 运行 docker-compose 文件 version: "3" 阅读全文

posted @ 2019-06-05 15:07 荣锋亮 阅读(1282) 评论(1) 推荐(0) 编辑

graphql-inspector graphql schema比较&&文档校验&&查找破坏性变动工具
摘要:graphql-inspector 是一个方便的graphql 周边工具,可以加速graphql 应该的开发,同时可以帮助我们排查问题 包含以下特性: 进行schema 的比较 文档校验(通过schema) 相似以及重复类型查找 查找破坏性或者危险的变动 查看基于文档的schema 覆盖率 mock 阅读全文

posted @ 2019-06-05 13:29 荣锋亮 阅读(516) 评论(0) 推荐(0) 编辑

packr 方便的潜入静态资源文件到golang 二进制文件中
摘要:类似的工具以前有介绍过statik,今天使用的工具是packr 也是很方便的golang tools 安装 go get -u github.com/gobuffalo/packr/packr 或者我们可以直接使用二进制文件 下载地址:https://github.com/gobuffalo/pac 阅读全文

posted @ 2019-06-04 19:27 荣锋亮 阅读(2418) 评论(0) 推荐(0) 编辑

使用terraform 生成自签名证书
摘要:terraform 是一个很不错的基础设施工具,我们可以用来做关于基础设施部署的事情,可以实现基础设施即代码 以下演示一个简单的自签名证书的生成(使用tls provider) main.tf 文件 resource "tls_private_key" "example" { algorithm = 阅读全文

posted @ 2019-05-29 10:31 荣锋亮 阅读(747) 评论(0) 推荐(0) 编辑

Kapitan 通用terraform&& kubernetes 配置管理工具
摘要:Kapitan 是一个通用的配置管理工具,可以帮助我们管理terraform 、kubernetes 以及其他的配置。 Kapitan 自生基于jsonnet 开发,对于我们日常进行软件的部署(tf以及k8s)是一个很方便的工具 一张参考图 说明 github 上对于Kapitan有详细的说明,对于 阅读全文

posted @ 2019-05-28 19:04 荣锋亮 阅读(845) 评论(0) 推荐(0) 编辑

上一页 1 ··· 22 23 24 25 26 27 28 29 30 ··· 39 下一页

导航