摘要: 最近在做一个超大爬虫,总的http请求数量接近一万次,而且都是对同一个url发出的请求,只是请求的body有所不同。 测试发现,经常会出现request error: read ECONNRESET、request error: socket hang up 这样的错误,查看日志发现每次出错的请求的 阅读全文
posted @ 2020-05-21 13:29 略略略—— 阅读(3828) 评论(0) 推荐(0) 编辑
摘要: 使用Fiddler监控手机的网络流量,照抄某一软件的http请求(header和body完全相同),使用nodejs的request发出同样的请求,本来期待获得和Fiddler中看到的一样的JSON数据. 但却获得了一堆乱码: 使用gedit打开,尝试各种编码方式,都是乱码。 使用decrypt.j 阅读全文
posted @ 2020-05-14 16:45 略略略—— 阅读(869) 评论(0) 推荐(0) 编辑
摘要: (property) aqiType: { 2: string; 3: string; 4: string; 5: string; 6: string; 7: string;} Parsing error: Unexpected token [eslint 报错如上。但如果要动态读取aqiType的 阅读全文
posted @ 2020-05-14 16:13 略略略—— 阅读(1860) 评论(0) 推荐(0) 编辑
摘要: 今天有一个爬虫挂了,测试发现报错: unable to verify the first certificate 这里给出一种有效解决方法,参考:https://www.reddit.com/r/node/comments/7vyc2q/cant_get_https_request_with_cer 阅读全文
posted @ 2020-04-21 17:41 略略略—— 阅读(13659) 评论(0) 推荐(0) 编辑
摘要: 系统版本:Ubuntu 18.04.4 LTS 输入系统:IBus 今天在用拼音输入法打字时发现,z和y的位置反了,明明是中文键盘(布局和美式键盘一样),但敲y出来z敲z出来y。 后来发现是系统多语言键盘的情况下有bug,我装了4种语言的输入法——法语、英语、德语、中文拼音。而德语键盘的布局中字母z 阅读全文
posted @ 2020-04-14 13:44 略略略—— 阅读(371) 评论(0) 推荐(0) 编辑
摘要: 直接截取官网文档的定义: 之前一直不是很明白最后那个customizer有什么用,今天正好碰到,记录一下。 关键在于第二个参数中,路径是数字时会产生歧义。 数字大小并不会有影响: 如果使用_.setWith并最后添加Object参数,便可以得到本来想要的对象 如果路径中没有纯数字字符串,则set和s 阅读全文
posted @ 2020-04-14 12:17 略略略—— 阅读(1407) 评论(0) 推荐(1) 编辑
摘要: 参考:https://docs.aws.amazon.com/general/latest/gr/root-vs-iam.html 所有AWS账户都有用户凭证(user credentials),这些凭证是访问账户内所有资源的钥匙。在你的账户中,你无法调用任何策略来显式地拒绝根用户的访问。你只能使用 阅读全文
posted @ 2020-04-05 18:22 略略略—— 阅读(2736) 评论(0) 推荐(0) 编辑
摘要: 根据定义: match方法让字符串和一个正则表达式进行匹配。它依据g标识来决定如何进行匹配。如果没有g标识,那么调用String.match(regexp)的结果与调用regexp.exec(string)的结果相同。然而,如果regexp带有g标识,那么它生成一个包含所有匹配(除捕获分组之外)的数 阅读全文
posted @ 2020-03-31 21:08 略略略—— 阅读(1579) 评论(0) 推荐(0) 编辑
摘要: 参考:https://stackoverflow.com/questions/1988483/jquery-selector-classname-with-space 今天在写nodejs爬虫,用的是cheerio,不过和jQuery基本没差别 比如要选择其中的<table>,但class名称包含空 阅读全文
posted @ 2020-03-31 17:55 略略略—— 阅读(574) 评论(0) 推荐(0) 编辑
摘要: 主要方法: 参考:https://www.cnblogs.com/LLGemini/p/4725952.html 一些数据类型的定义: Seperate strongly connected components in a directed graph with DFS: 1 int MaxInde 阅读全文
posted @ 2019-12-18 01:31 略略略—— 阅读(283) 评论(0) 推荐(0) 编辑