curl 用法以及验证代理ip
说明:
1)在程序中,使用代理ip请求目标网站时,有的网站会返回403或其它错误,这时可以通过命令方式来验证代理ip是否可用。
在linux中,使用curl ,下面使用阿布云代理ip请求目标网站,来确认是否能正确响应数据
curl -x "http://http-dyn.abuyun.com:9020" --proxy-basic --proxy-user H73IJ788GTJ0Q7BD:489EF431796F1xxx https://e2echina.ti.com/blogs_/b/analogwire/posts/4-1889139685
2)当程序中,使用代理ip请求目标网站时,有时获取不到set-cookie,这时可以通过命令方式来验证代理ip是否能获取到cookie。
在linux中,使用curl ,下面使用阿布云代理ip请求目标网站,录网站将cookie值存储到当前目录的txt文件中
curl -c icnetcookies.txt -x "http://http-dyn.abuyun.com:9020" --proxy-basic --proxy-user H73IJ788GTJ0Q7BD:489EF431796F1xxx https://member.ic.net.cn/asyncCall/login.asy.php?callback=jQuery18106679991950725863_1680255135392&IC_Method=userlogin&UserName=18682161586&Pwd=tt123456&RndCode=&_=1680255172031 HTTP/1.1
3)下面是简单的保存文件用法
curl -o 1.html https://www.bom2buy.com/capacitors/array-network-capacitors/
4)多个请求头参数示例
curl -o digikey.html -x "http://http-dyn.abuyun.com:9020" --proxy-basic --proxy-user H73IJ788GTJ0Q7BD:489EF431796F1xxx https://www.digikey.cn/zh/products \ -H 'User-Agent:Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/115.0.0.0 Safari/537.36; Accept:*/*; Accept-Encoding:gzip, deflate, br; Accept-Language:zh-CN,zh;q=0.9'
或者这种多参数请求
curl -x http://http-dyn.abuyun.com:9020 --proxy-basic --proxy-user H73IJ788GTJ0Q7BD:489EF431796F1xxx 'https://member.ic.net.cn/asyncCall/login.asy.php?callback=jQuery18101149550369391572_1680255493304&IC_Method=userlogin&UserName=13763343372&Pwd=tt123456&RndCode=&_=1680255513023' \ -H 'authority: member.ic.net.cn' \ -H 'accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8,application/signed-exchange;v=b3;q=0.7' \ -H 'accept-language: zh-CN,zh;q=0.9' \ -H 'cache-control: no-cache' \ -H 'pragma: no-cache' \ -H 'user-agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36 Edg/111.0.1661.54'
更多参数见:https://www.cnblogs.com/hujiapeng/p/8470099.html