随笔 - 82  文章 - 2 评论 - 1 阅读 - 29061
< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5

辽宁又有病例了,中招的是位沈阳大爷。大家被新闻震一懵的同时,又照例研究起大爷的行程轨迹。结果全国人民发现了一位沈阳民间美食家。大爷平均每天下两次馆子,鸡架、炖肉、抻面,硬把流调记录整成了沈阳美食攻略,来旅游直接照着吃一圈,没毛病。三天三次鸡架的好胃口,更让人发出天问:沈阳鸡架到底有多好吃?每次流调记录都有它?

今天通过python来对沈阳的美食店进行一次数据的采集,通过数据来分享下那么我们没吃过甚至没有听过的美食都有多少人去享用。对一个地方美食的数据获取最直接的方式就是通过美团。但是想现在的美团网站之严格,想要获取点数据,爬虫的歌方面都需要做好准备,尤其是代理ip。通过多年经验和多家代理的测试对比,终于有一家让人满意的代理商,那就是亿牛云代理。我们主要分享下通过爬虫代理动态转发模式的来采集一次数据,在获取数据的同时还可以学习下新的代理使用模式。

完成代码如下:

#! -*- encoding:utf-8 -*-

    import requests
    import random

    # 要访问的目标页面
    targetUrl = "http://www.meituan.com"

    # 要访问的目标HTTPS页面
    # targetUrl = "https://www.meituan.com"

    # 代理服务器(产品官网 www.16yun.cn)
    proxyHost = "t.16yun.cn"
    proxyPort = "31111"

    # 代理验证信息
    proxyUser = "username"
    proxyPass = "password"

    proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
        "host" : proxyHost,
        "port" : proxyPort,
        "user" : proxyUser,
        "pass" : proxyPass,
    }

    # 设置 http和https访问都是用HTTP代理
    proxies = {
        "http"  : proxyMeta,
        "https" : proxyMeta,
    }


    #  设置IP切换头
    tunnel = random.randint(1,10000)
    headers = {"Proxy-Tunnel": str(tunnel)}



    resp = requests.get(targetUrl, proxies=proxies, headers=headers)

    print resp.status_code
    print resp.text

posted on   小橙子11  阅读(54)  评论(0编辑  收藏  举报
编辑推荐:
· go语言实现终端里的倒计时
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· DeepSeek如何颠覆传统软件测试?测试工程师会被淘汰吗?
· 使用C#创建一个MCP客户端
点击右上角即可分享
微信分享提示