WikiPedia平时在国内不大好访问-- 所以用爬虫一次性把要看的东西都爬下来保存慢慢看还是比较好的XD 这里我们就来看一下Node.js环境下编写爬虫爬取维基百科内容的实例分享

基本思路 思路一（origin:master）：从维基百科的某个分类（比如：航空母舰（key））页面开始，找出链接的title属性中包含key（航空母舰）的所有目标，加入到待抓取队列中。这样，抓一个页面的代码及其图片的同时，也获取这个网页上所有与key相关的其它网页的地址，采取一个类广度优先遍历的算法来完成此任务。 思路二（origin:cat）：按分类进行抓取。注意到，维基百科上，分类都以Category:开头，由于维基百科有很好的文档结构，很容易从任一个分类，开始，一直把其下的所有分类全都抓