我的图片爬虫demo
本来是根据scrapy教程写了一个下载图片的简易爬虫,但是搞了一天,死活下载不了图片。
然后换了一个网站,用原生的库写了一个图片爬虫。
import urllib.request
import os
def crawl():
for i in range(2000,2100):
for j in range(1,10):
imgurl="http://img1.mm131.com/pic/"+str(i)+"/"+str(j)+".jpg"
imgname="F:/CrawlDownload/mm131/mm"+str(i)+"/"+"mm"+str(i)+"_"+str(j)+".jpg"
try:
os.mkdir(r'F:/CrawlDownload/mm131/mm'+str(i))
urllib.request.urlretrieve(imgurl,filename=imgname)
except Exception as e:
print(imgurl+" not found")
crawl()
但是最终还是有点问题,每个美女只能下载一个图片,害的我新建文件夹的功能白弄了。。
然后新建文件夹其实没判断是否已经存在此目录的情况。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· TypeScript + Deepseek 打造卜卦网站:技术与玄学的结合
· 阿里巴巴 QwQ-32B真的超越了 DeepSeek R-1吗?
· 【译】Visual Studio 中新的强大生产力特性
· 10年+ .NET Coder 心语 ── 封装的思维:从隐藏、稳定开始理解其本质意义
· 【设计模式】告别冗长if-else语句:使用策略模式优化代码结构