热门文章
爬虫抓取数据使用代理ip还是被风控拦截?
作者:小橙子 发布时间:2020-12-15 09:12:24 阅读量:382
当我们在使用爬虫抓取数据时,非常容易被网站的反爬虫机制给禁用IP,为了更好的避免这种情况,HTTP代理IP就出现了, 那为什么有时候使用了代理IP还是被封呢?
1、代理IP不是高匿的,没办法很好的隐藏你的本来的IP地址
2、程序伪装不到位,被目标网站识别成机器了,所以拒绝了你的请求
3、如果cookie、UserAgent等没有清理,当到达目标网站设置的阈值后,IP便会被封
4、访问目标网站的频率如果过快,也会被封IP