面对python反爬虫怎么进行ip切换
小编给大家分享一下面对python反爬虫怎么进行ip切换,希望大家阅读完这篇文章后大所收获,下面让我们一起去探讨吧!
目前创新互联已为超过千家的企业提供了网站建设、域名、网站空间、网站托管运营、企业网站设计、合作网站维护等服务,公司将坚持客户导向、应用为本的策略,正道将秉承"和谐、参与、激情"的文化,与客户和合作伙伴齐心协力一起成长,共同发展。
调试开多少个线程,多长时间拨号切换IP一次最优。每个网站对短时间内访问次数的屏蔽策略不一样,这需要实际测试,找出抓取效率最大化的时间点。先开一个线程,一直抓取到IP被屏蔽,记录下抓取耗时,总抓取次数,和成功抓取次数。 再开2个线程,重复上面步骤,记录抓取耗时,总的和成功的抓取次数。再开4个线程,重复上面步骤。整理成一个表格如下,下图是我抓天眼查时,统计抓取极限和细节调优的表格
从上图比较可以看出,当有6个线程时,是比较好的情况。耗时6秒,成功抓取80-110次。
开多少个线程调试出来了,那多久拨号一次呢?
从上面的图片看到,貌似每隔6秒拨号是一个不错的选择。可以这样做,但是我选了另一个度量单位,就是每总抓取120次就重新拨号。为什么这样选呢?从上图也能看到,基本抓到120次左右就会被屏蔽,每隔6秒拨号其实误差比较大,因为网络延迟等各种问题,导致6秒内可能抓100次,也可能抓120次。
看完了这篇文章,相信你对面对python反爬虫怎么进行ip切换有了一定的了解,想了解更多相关知识,欢迎关注创新互联行业资讯频道,感谢各位的阅读!
网站题目:面对python反爬虫怎么进行ip切换
URL网址:http://azwzsj.com/article/jodcih.html