摘要:
要提取google搜索的部分数据,发现google对于软件抓取它的数据屏蔽的厉害,以前伪造下 USER-AGENT就可以抓数据,但是现在却不行了。利用抓包数据发现,Google判断了cookies,当你没有cookies的时候,直接返回302跳转,而且是连续几十个302跳转,根本抓不了数据。因此,在发送搜索命令时,需要先提取cookies并保存,然后利用保存下来的这个cookies再次发送搜索命令即可正常抓数据了。这其实和论坛的模拟登录一个道理,先POST登录,获取cookies并保存,然后利用这个cookies访问就可以了。一、定义Cookie存储路径必须使用绝对路径$cookie_jar 阅读全文