主要介绍了python获取指定网页上所有超链接的方法,涉及Python使用urllib2模块操作网页抓取的技巧,非常具有实用价值,需要的朋友可以参考下

本文实例讲述了python获取指定网页上所有超链接的方法。分享给大家供大家参考。具体如下： 这段python代码通过urllib2抓取网页，然后通过简单的正则表达式分析网页上的全部url地址 import urllib2 import re #connect to a URL website = urllib2.urlopen(url) #read html code html = website.read() #use re.findall to get all the links link

抓取网页数据的思路有好多种，一般有：直接代码请求http、模拟浏览器请求数据（通常需要登录验证）、控制浏览器实现数据抓取等。这篇不考虑复杂情况，放一个读取简单网页数据的小例子： 目标数据 将ittf网站上这个页面上所有这些选手的超链接保存下来。 数据请求 真的很喜欢符合人类思维的库，比如requests，如果是要直接拿网页文本，一句话搞定： doc = requests.get(url).text 解析html获得数据 以beautifulsoup为例，包含获取标签、链接，以及根据htm