2019年1月23日

摘要: 采集过程中的,有的网站使用了字体加密,写了一个字体解码的接口,用户post传入json字符串,参考里面的测试页面源码,解析后的内容在console.log里面。 https://github.com/xuyingzhong/zitijiema 阅读全文
posted @ 2019-01-23 14:28 徐应钟 阅读(245) 评论(0) 推荐(0) 编辑

2018年11月15日

摘要: 用于大数据采集用的代理池 在数据采集的过程中,最需要的就是一直变化的代理ip。 自建adsl为问题是只有一个区域的IP。 买的代理存在的问题是不稳定,影响采集效率。 云vps不允许安装花生壳等,即使有花生壳,它的解析也不及时,跟不上3分钟变一次。 本项目的作用是将目前的云vps,安装代理软件,然后使 阅读全文
posted @ 2018-11-15 11:42 徐应钟 阅读(318) 评论(0) 推荐(0) 编辑
摘要: python3用于mongodb数据库之间倒数据,特别是分片和非分片之间。 本项目是一个集合一个集合的倒. 参考了logstash,对于只增不减而且不修改的数据的可以一直同步,阻塞同步,断点同步。改进的地方就是: 1、单线程改成了可以控制线程数量的多线程,可以更快速的同步。 2、增加了更为详细的日志 阅读全文
posted @ 2018-11-15 11:16 徐应钟 阅读(133) 评论(0) 推荐(0) 编辑

2018年11月9日

摘要: mongodb分片: 本次是用三台主机搭建3个集群(主、备、仲裁)作为三个分片,一个集群(主、备、备)做为config服务器,三个mongos单点做路由,每台5个,一共15个。 新建一个mongodb用户,作为mongo用户useradd mongodb 新建文件夹及设置权限mkdir -p /da 阅读全文
posted @ 2018-11-09 11:18 徐应钟 阅读(217) 评论(0) 推荐(0) 编辑

2018年10月9日

摘要: 同样的分非认证授权和认证授权: 非认证授权: 认证授权: 创建 kube-scheduler 证书和私钥创建证书签名请求: 创建和分发 kubeconfig 文件kubeconfig 文件包含访问 apiserver 的所有信息,如 apiserver 地址、CA 证书和自身使用的证书; # scp 阅读全文
posted @ 2018-10-09 17:47 徐应钟 阅读(493) 评论(0) 推荐(0) 编辑
摘要: 本文档介绍部署高可用 kube-controller-manager 集群的步骤。 该集群包含 3 个节点,启动后将通过竞争选举机制产生一个 leader 节点,其它节点为阻塞状态。当 leader 节点不可用后,剩余节点将再次进行选举产生新的 leader 节点,从而保证服务的可用性。 以下是非认 阅读全文
posted @ 2018-10-09 17:42 徐应钟 阅读(5010) 评论(0) 推荐(1) 编辑
摘要: kubernetes部署 kube-apiserver 组件 本文档讲解使用 keepalived 和 haproxy 部署一个 3 节点高可用 master 集群的步骤。 kube-apiserver 集群各节点的名称和 IP 如下: kube-node0:192.168.111.10kube-n 阅读全文
posted @ 2018-10-09 17:22 徐应钟 阅读(6623) 评论(0) 推荐(0) 编辑
摘要: 也可以用nginx、keepalived做负载均衡,看大家的需求。 # yum -y install haproxy keepalived haproxy的配置文件(三台一样): 启动haproxy: # for SERVICES in haproxy;do systemctl enable $SE 阅读全文
posted @ 2018-10-09 17:11 徐应钟 阅读(768) 评论(0) 推荐(0) 编辑

2018年9月18日

摘要: 在后面的部署过程中,有很多的docker镜像文件,由于kubernetes是使用国外的镜像,可能会出现下载很慢或者下载不下来的情况,我们先搭建一个简单的镜像服务器,我们将需要的镜像下载回来,放到我们自己的镜像服务器,然后调用我们自己服务器的镜像就快很多。 本文安装在192.168.111.10上 1 阅读全文
posted @ 2018-09-18 22:48 徐应钟 阅读(1253) 评论(0) 推荐(0) 编辑
摘要: docker 容器相对比较简单,不涉及认证授权,只需要本地启动起来即可,唯一需要注意就是添加flannel网络。 # yum remove docker-latest-logrotate docker-logrotate docker-selinux dockdocker-engine #清除以前的 阅读全文
posted @ 2018-09-18 22:22 徐应钟 阅读(599) 评论(0) 推荐(0) 编辑

导航