Loading

摘要: 多任务场景中,为了节省大量子任务串行执行的耗时,通常采用并发方式充分利用 cpu 和 内存来节省整体任务运行时间。 对于多任务并发,常见的做法自然是抽象出功能函数,借助 multiprocess 类在主进程中并发出多个子进程,或者构建进程池,将任务构造好后丢入进程池中来实现并发。这种方式对于逻辑结构 阅读全文
posted @ 2024-03-21 16:17 sinatJ 阅读(985) 评论(0) 推荐(1) 编辑
摘要: 记录下一般的 Python web 项目开发后如何部署到外部服务器上,供用户访问。 1 简要 本质三件事: 租个服务器(含公网 ip)+配置环境电脑 + 公网IP 自己电脑 + 拉专线 代码放在服务器 程序运行起来 2 搞一台云服务器 租一个 linux 系统的云服务器,并获得一个公网 IP,例如直 阅读全文
posted @ 2024-02-02 15:14 sinatJ 阅读(731) 评论(0) 推荐(0) 编辑
摘要: 参考: https://blog.csdn.net/qq_38122800/article/details/132663030 https://blog.csdn.net/weixin_42289273/article/details/122912938 https://zhuanlan.zhihu 阅读全文
posted @ 2023-12-26 17:07 sinatJ 阅读(748) 评论(0) 推荐(0) 编辑
摘要: 1 基础命令 1 - 新建虚拟环境: conda create -n you_env_name python=3.7 2 - 查看当前有哪些虚拟环境: conda env list 3 - 激活某个虚拟环境: conda.bat activate your_env_name 4 - 在虚拟环境中安装 阅读全文
posted @ 2023-09-13 22:38 sinatJ 阅读(112) 评论(0) 推荐(0) 编辑
摘要: 今天在爬取一个反爬措施较严格的网站时,使用 selenium 做自动化登录时,无法定位输入框的问题。 查看网页源代码确实没有登录相关元素的标签,可以判定是采用的动态加载,但是即使使用的动态加载,等待页面渲染完毕之后应该还是能定位的。 看了下渲染完毕之后的网页源码,发现了在当前 html 页面中,又嵌 阅读全文
posted @ 2023-08-05 18:37 sinatJ 阅读(87) 评论(0) 推荐(0) 编辑
摘要: ### 1 重构说明 这是项目 [Python 自建 IP 代理池](https://www.cnblogs.com/zishu/p/17316593.html) 的重构版本,学习了 scrapy 框架的使用,并用该框架对之前项目进行了重构,得益于 scrapy 框架本身的优秀设计,之前手撸的小框架 阅读全文
posted @ 2023-06-30 16:17 sinatJ 阅读(149) 评论(0) 推荐(0) 编辑
摘要: 一般情况下,每个网页有自己的编码,在使用 requests 请求对应网页时,如果遇到中文编码的问题,大多数情况下直接显式指定 encoding 就可以了,但是今天遇到一个网站,还真是怎么指定都不行:https://www.medchemexpress.cn/ 以下所列的参考文档可能能解决编码问题,所 阅读全文
posted @ 2023-06-27 11:36 sinatJ 阅读(47) 评论(0) 推荐(0) 编辑
摘要: 1 define partial() 是被用作“冻结”某些函数的参数或者关键字参数,同时会生成一个带有新标签的对象(即返回一个新的函数)。 2 function 把一个函数的某些参数给固定住(也就是设置默认值),返回一个新的函数。 直观来看有点类似于装饰器函数,但是其作用主要是对参数进行固定,而不是 阅读全文
posted @ 2023-05-10 15:32 sinatJ 阅读(285) 评论(0) 推荐(0) 编辑
摘要: paper:https://arxiv.org/pdf/1611.07004.pdf [CVPR 2017] code: https://github.com/junyanz/pytorch-CycleGAN-and-pix2pix https://phillipi.github.io/pix2pi 阅读全文
posted @ 2023-05-05 21:34 sinatJ 阅读(155) 评论(0) 推荐(0) 编辑
摘要: 国内视频地址:https://www.bilibili.com/video/BV17441137fa/?spm_id_from=333.880.my_history.page.click&vd_source=bda72e785d42f592b8a2dc6c2aad2409 1 NLP 基础 1.1 阅读全文
posted @ 2023-04-28 21:39 sinatJ 阅读(251) 评论(0) 推荐(0) 编辑