【JS 逆向 AES逆向加密】Python爬虫实战,日子越来越有判头了
大家好,我是辣条。
这是我爬虫实战项目的第22篇,目标是写到100篇,希望大家能关注这个专栏。
一个建筑行业的堂哥为了搞一些商业数据前前后后花了1w,辣条我半个小时就能解决的事情,这就是技术的魅力【爬取是的公开数据!】
爬取目标
网址:
工具使用
开发工具:pycharm 开发环境:python3.7, Windows10 使用工具包:requests,AES,json
涉及AES对称加密问题 需要 安装node.js环境 使用npm install 安装 crypto-js
项目思路解析
-
确定数据 在这个网页可以看到数据是动态返回的 但是 都是加密的 如何确定是我们需要的?
突然想到 如果我分页 是不是会直接加载第二个页面 然后查看相似度 找到第一个页面, 我真是太聪明了
数据找到了 现在开始寻找加密 但是突然发现没有 加密的关键字? 那我们通过url 下手试试 在All里面全局 搜索 query/comp/list(url后面的参数)
找到这个接口 鼠标右键 可以在源代码查看他
慢慢调试 中间调试太多了 我就不一一截图出来了 跑到这里 发现data 里面的参数 和我们看到的加密一致
h(t.data) 加密位置
进去h里面 (鼠标光标放到 h上面 会显示他的 js地址 如果没有显示 就是证明你还没有执行到这里 需要在前面打上断点 刷新页面调试)
发现这个采用AES加密算法 使用模型CBC模式 采用填充方式为 Pkcs7
AES.decrypt() # 参数说明 秘钥 模式 偏移值 f = 'jo8j9wGw%6HbxfFn' # 秘钥 m = '0123456789ABCDEF' # 偏移值
证明数据推导正确 在 return r.toString() 打上断点
r里面数据正常返回
简易源码分享(后面保存没有写 可以自己尝试 不会的 关注 私聊)
🍅 行业资料:关注即可领取PPT模板、简历模板、行业经典书籍PDF。
🍅 面试题库:由技术群里的小伙伴们共同投稿,热乎的大厂面试真题,持续更新中。
🍅 学习资料:含编程语言、算法、大数据生态圈组件(Mysql、Hive、Spark、Flink)