主要介绍了用 python 爬虫抓站的一些技巧总结,非常不错，具有参考借鉴价值，需要的朋友可以参考下

前言 写过的这些脚本有一个共性，都是和web相关的，总要用到获取链接的一些方法，累积不少爬虫抓站的经验，在此总结一下，那么以后做东西也就不用重复劳动了。 1.最基本的抓站 import urllib2 content = urllib2.urlopen('http://XXXX').read() 2.使用代理服务器 这在某些情况下比较有用，比如IP被封了，或者比如IP访问的次数受到限制等等。 import urllib2 proxy_support = urllib2.ProxyHandle