今天小编就为大家分享一篇在scrapy中使用phantomJS实现异步爬取的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧

使用selenium能够非常方便的获取网页的ajax内容，并且能够模拟用户点击和输入文本等诸多操作，这在使用scrapy爬取网页的过程中非常有用。 网上将selenium集成到scrapy的文章很多，但是很少有能够实现异步爬取的，下面这段代码就重写了scrapy的downloader，同时实现了selenium的集成以及异步。 使用时需要PhantomJSDownloadHandler添加到配置文件的DOWNLOADER中。 # encoding: utf-8 from __future__