【Python数据采集】国家自然科学基金大数据知识管理服务门户数据采集
【Python数据采集】国家自然科学基金大数据知识管理服务门户数据采集
具体需求:从https://kd.nsfc.cn/网站中根据关键词搜索项目信息,收集列表中展示的信息以及详情页面中的参与人员信息等。
在开始干活之前,我们首先要做的是弄清楚需求,然后分析目标网址,确定目标数据所在接口及请求参数等信息。
经过分析,列表数据存在于接口/api/baseQuery/completionQueryResultsData中,并且请求返回的数据为加密信息。
经过调试分析发现,接口数据使用的是DES解密算法进行的数据解密。接下来那就简单一点了,扣一下JS脚本或者使用python语言还原解密算法即可。
至此,列表数据已解密完毕。示例数据如下:
详情页面的接口并未加密,找出相应的接口然后按照需要的参数进行传参即可。
如有需要可扫描下方二维码联系我。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 地球OL攻略 —— 某应届生求职总结
· 提示词工程——AI应用必不可少的技术
· 字符编码:从基础到乱码解决
· Open-Sora 2.0 重磅开源!