Chinaunix首页 | 论坛 | 博客
  • 博客访问: 809190
  • 博文数量: 167
  • 博客积分: 7173
  • 博客等级: 少将
  • 技术积分: 1671
  • 用 户 组: 普通用户
  • 注册时间: 2009-08-04 23:07
文章分类

全部博文(167)

文章存档

2018年(1)

2017年(11)

2012年(2)

2011年(27)

2010年(88)

2009年(38)

发布时间:2018-09-15 07:56:52

当业务需要对外大量爬取数据的时候,往往会碰到被目标网站限流或者直接封堵。这时候就要进行层层应对,代码要被改造成模拟人的行为浏览器访问目标网站,这中操作,当需要获取目标网站数据量不大,时间充裕的情况下,足够了。但当我们需要短时间内大并发爬取内容的时候,这只从代码上进行改造往往达不到效果;这个时候就需要进行大量的IP配合。......【阅读全文】

阅读(375) | 评论(0) | 转发(0)
给主人留下些什么吧!~~

chinaunix网友2010-12-26 14:23

牛人一个

回复 |  删除 |  举报

chinaunix网友2010-06-28 19:50

很好 不错

回复 |  删除 |  举报
留言热议
请登录后留言。

登录 注册