五杀摇滚小拉夫

  博客园  :: 首页  :: 新随笔  :: 联系 :: 订阅 订阅  :: 管理

2018年9月17日

摘要: 由于App没有像浏览器一样直观的后台请求工具,主要用一些抓包技术抓取数据。(目前也在学习安装,参考书籍。)首先呢,一些简单的接口通过Charles或mitmproxy分析,找出规律,直接用程序去抓取就行。但是遇到麻烦的接口,就需要用到mitmdump对接python来对抓取到的请求和响应进行实时处理和保存。规模性的采集,可以借助工具appium,自动化模拟app的点击、下拉操作。一.安装Char... 阅读全文
posted @ 2018-09-17 16:49 五杀摇滚小拉夫 阅读(431) 评论(0) 推荐(0) 编辑

摘要: pymysql、pymongo、redis-py安装1.将数据存入mysql借助pymysql2.和MongoDB进行交互,借助pymongopip3 install pymysql(pip 安装对应包) 阅读全文
posted @ 2018-09-17 16:16 五杀摇滚小拉夫 阅读(279) 评论(0) 推荐(0) 编辑

摘要: 将 E:\Soft\soft\phantomjs-2.1.1-windows\bin 加入到环境变量path里面(也可以直接把可执行文件phantomjs.exe放到python的scripts文件夹) 3.运行phantomjs 如图: 4.py文件 运行结果如下: 阅读全文
posted @ 2018-09-17 15:39 五杀摇滚小拉夫 阅读(293) 评论(0) 推荐(0) 编辑