Chinaunix首页 | 论坛 | 博客
  • 博客访问: 186008
  • 博文数量: 83
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 846
  • 用 户 组: 普通用户
  • 注册时间: 2018-03-27 14:41
个人简介

宁为玉碎,不为瓦全

文章分类
文章存档

2024年(27)

2023年(28)

2022年(17)

2021年(10)

2019年(1)

我的朋友

分类: Python/Ruby

2022-11-15 16:28:05

今天,全球人口达到80亿,这是联合国《世界人口展望2022》给出的{BANNED}最佳新数据。相较于“80亿”这个对大部分人来说只是一个抽象概念的数据,联合国报告所透露的很多更为细节的变化,更值得关注,比如,全球人口增速在持续放缓。联合国有人口数据记录以来,20世纪60年代末,世界人口的增速达到了每年略高于2%的历史峰值。再比如,世界{BANNED}中国第一人口大国即将易主。印度预计{BANNED}最佳早将于2023年超过中国,成为全球{BANNED}中国第一人口大国。

如今又是以数据为主的时代,那作为爬虫工作者,这里我们就以全球人口数据为背景来获取下各个国家的人口数量,并进一步做一份数据分析,看下各个国家人口增长是怎么样的。数据来源于,简单的分析了下这个网站,反爬机制不是很严,爬虫程序只要加上代理就能轻松的搞定。代理的选择也很简单,之前项目一直在使用亿牛云代理,效果一直都不错,这里就继续使用亿牛云代理。动态转发模式的代理不知道大家是否使用过,对爬虫来说是一种更简单高效的方式,实现方式这里示例下:

#! -*- encoding:utf-8 -*-


    import requests
    import random


    # 要访问的目标页面
    targetUrl = ""


    # 要访问的目标HTTPS页面
    # targetUrl = ""


    # 代理服务器(产品官网 )
    proxyHost = "t.16yun.cn"
    proxyPort = "31111"


    # 代理验证信息
    proxyUser = "username"
    proxyPass = "password"


    proxyMeta = "http://%(user)s:%(pass)s@%(host)s:%(port)s" % {
        "host" : proxyHost,
        "port" : proxyPort,
        "user" : proxyUser,
        "pass" : proxyPass,
    }


    # 设置 http和https访问都是用HTTP代理
    proxies = {
        "http"  : proxyMeta,
        "https" : proxyMeta,
    }




    #  设置IP切换头
    tunnel = random.randint(1,10000)
    headers = {"Proxy-Tunnel": str(tunnel)}






    resp = requests.get(targetUrl, proxies=proxies, headers=headers)


    print resp.status_code
    print resp.text

实现过程就是这么简单,爬虫小伙伴们对代理有需要的可以去官网咨询下具体产品

从获取的数据分析来看,全球人口近几年的增长暂缓,联合国宣告地球人口跨过80亿大关,终究是一个新的里程碑,预示着我们距离人口峰值又近了一步。同时也意味着,在平衡人口增长与生态环境和资源保护上,人类需要有更积极的作为。

阅读(221) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~