摘要: etcd中用lease租约实现过期。 简单纪录一下在etcd中利用lease实现kv过期的功能。 其实思路很简单: 1.申请一个lease,且给这个租约设置一个ttl,比如设置这个ttl为1秒。 2.然后将这个lease与kv的操作关联起来,那么1s后这个就过期了。 需要注意的是: 1.centos 阅读全文
posted @ 2020-05-28 17:02 公子若不胖天下谁胖 阅读(2393) 评论(0) 推荐(0) 编辑
摘要: undefined: resolver.BuildOption 在用clientv3连接etcd时。 遇到一个坑,略记录一下,其报错如下: C:\Users\anmut\go\pkg\mod\github.com\coreos\etcd@v3.3.22+incompatible\clientv3\b 阅读全文
posted @ 2020-05-25 11:16 公子若不胖天下谁胖 阅读(6319) 评论(1) 推荐(2) 编辑
摘要: 就简单用队列调度器实现了并发的爬虫。 阅读全文
posted @ 2020-04-24 09:00 公子若不胖天下谁胖 阅读(877) 评论(0) 推荐(2) 编辑
摘要: 上篇文章当中实现了单任务版爬虫。 那么这篇文章就大概说下,如何在上一个版本中进行升级改造,使之成为一个多任务版本的爬虫。加快我们爬取的速度。 话不多说,先看图: 其实呢,实现方法就是加了一个scheduler的模块,所有的request都由scheduler去交给worker。 另外呢,这里的wor 阅读全文
posted @ 2020-04-19 21:58 公子若不胖天下谁胖 阅读(687) 评论(0) 推荐(0) 编辑
摘要: 目的是写一个golang并发爬虫版本的演化过程。 那么在演化之前,当然是先跑通一下单任务版本的架构。 正如人走路之前是一定要学会爬走一般。 首先看一下单任务版本的爬虫架构,如下: 这是单任务版本爬虫的一个架构: 第一步是将seed送到engine里去。 第二步是将seed里的url给到fetcher 阅读全文
posted @ 2020-04-18 13:54 公子若不胖天下谁胖 阅读(784) 评论(0) 推荐(0) 编辑
摘要: KNN笔记 先简单加载一下sklearn里的数据集,然后再来讲KNN。 看一下鸢尾花的keys: 结果是: 看一下文档: 文档结果: Iris Plants Database Notes Data Set Characteristics: :Number of Instances: 150 (50 阅读全文
posted @ 2018-01-28 01:05 公子若不胖天下谁胖 阅读(261) 评论(0) 推荐(0) 编辑
摘要: elasticsearch-head 集群健康值: 未连接 现在用elasticsearch-head发现连接不上我们的elasticsearch。界面上显示着:“集群健康值: 未连接”。如下图: 这个原因是因为elasticsearch的安全机制是不允许。现在的这个head插件是在另外的一个端口, 阅读全文
posted @ 2017-01-21 22:54 公子若不胖天下谁胖 阅读(940) 评论(0) 推荐(0) 编辑
摘要: Observer Pattern 通知者接口: 具体通知者: 抽象接收者: 具体接收者: 主函数代码: 效果: 阅读全文
posted @ 2016-06-18 22:30 公子若不胖天下谁胖 阅读(221) 评论(0) 推荐(0) 编辑
摘要: 关于data-属性 现有需求如下,也就是类似做一个tab页的切换如下图:因为这里要记录一下jquery里的“data-属性”的用法,所以忽略类似的组件。往HTML标签上添加任意以 "data-自定义名称"开头的属性,这些属性页面上是不显示的,它不会... 阅读全文
posted @ 2016-01-24 14:50 公子若不胖天下谁胖 阅读(351) 评论(0) 推荐(0) 编辑
摘要: Python中的装饰器假定现有如下需求:已经定义了一个函数,想在运行时动态增加其功能,又不想改动函数本身的代码。应该如何实现呢?比如现在定义了f1函数如下: def f1(x): return x*2 print f1(5)那么... 阅读全文
posted @ 2015-09-22 01:29 公子若不胖天下谁胖 阅读(464) 评论(0) 推荐(0) 编辑