urllib中的User-Agent使用
下面主要是python3中的urllib库中的相关知识及User-Agent设置:
一、什么是User-Agent?
User-Agent是Http协议中的一部分,属于头域的组成部分,User Agent也简称UA。用较为普通的一点来说,是一种向访问网站提供你所使用的浏览器类型、操作系统及版本、CPU 类型、浏览器渲染引擎、浏览器语言、浏览器插件等信息的标识。UA字符串在每次浏览器 HTTP 请求时发送到服务器!
浏览器UA 字串的标准格式为: 浏览器标识 (操作系统标识; 加密等级标识; 浏览器语言) 渲染引擎标识 版本信息。
二、User-Agent在python3中的urllib使用:
#如果一个网站屏蔽了你 #解决办法: (1)模拟浏览器 ; (2)伪装浏览器 import urllib.request def download1(url): headers={"User-Agent" : "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36 QIHU 360SE"} #header 字典形式 #选择代码 ctrl + 鼠标左键 查看变量或者函数或者类的定义 request=urllib.request.Request(url,headers=headers) # 发送请求 #也可以通过调用Request.add_header() 添加/修改一个特定的 header request.add_header("Connection","keep-alive") #一直活着 response=urllib.request.urlopen(request) #打开请求 data=response.read() #读取数据 print(response.code) #可以查看相应状态码 return data url="https://sou.zhaopin.com/?jl=538&kw=python&kt=3" print(download1(url).decode("utf-8")) #decode("utf-8") 二进制解码为utf-8
标签:
User-Agent
, urllib
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?