本篇文章主要介绍了python网络爬虫之如何伪装逃过反爬虫程序的方法，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧

有的时候，我们本来写得好好的爬虫代码，之前还运行得Ok, 一下子突然报错了。 报错信息如下： Http 800 Internal internet error 这是因为你的对象网站设置了反爬虫程序，如果用现有的爬虫代码，会被拒绝。 之前正常的爬虫代码如下： from urllib.request import urlopen ... html = urlopen(scrapeUrl) bsObj = BeautifulSoup(html.read(), html.parser) 这个时候，需要