如何应对爬虫请求频繁

相信很多爬虫工作者在进行数据爬取过程中经常会遇到“您的请求太过频繁，请稍后再试”，这个时候心里莫名的慌和烦躁、明明爬虫代码也没有问题啊，怎么突然爬不动了呢？那么，很有可能，你的爬虫被识破了，这只是友好的提醒，如果不降低请求就会拉黑你的ip了。 我们都知道遇到这种情况使用代理就解决了，用代理IP确实不失为一个解决问题的好办法。IP被封了就换新IP继续爬，或者用很多IP同时多线程爬，都很给力的。但是有时候没有爬多久又被提示“您的请求太过频繁，请稍后再试”。再换IP还是被封，再换再封，封的越来越快，效率非常低下，这是为什么呢？ 那是因为，你用的代理IP凑巧也是别人用来访问相同的网站的，而且用的还比较频繁。可能你们使用了共享ip池，或者使用的代理ip池很小。所以我们在找代理IP的时候，在保证IP有效率的同时IP池越大越好的，这样可以保证IP的新鲜度。例如亿牛云…列如还有的在使用代理的过程中也出现这样的情况。HTTPHTTPS代理，系统会返回429 Too Many Requests；但不会对爬虫的运行产生影响，爬虫会根据返回结果自动重新发起请求，这是HTTPHTTPS的标准应答模式。 所以，当您遇到“您的请求太过频繁，请稍后再试”时，不要慌，要镇定，检查下自己的爬虫策略，是否真的访问太过频繁，检查下自己的代理IP是否真的比较干净，调整自己的策略，选择更加纯净的IP，就能有效的避免这个错误了