开发工具:
文件大小: 4kb
下载次数: 0
上传时间: 2020-02-02
详细说明:Python爬虫爬取电影网站--独播库,原代码
爬虫的主要流程
构造url
爬虫要爬的数据,绝不仅仅是一个网页那么简单,有时候我们需要爬的是整个网站的数据,如果我们一个一个网页来获取url,那效率肯定太低了。所以在写爬虫程序之前,需要先知道url地址的规律,这样子才可以构造url列表,再从url列表中去url去爬我们需要的数据。
发送请求,获取响应
通过HTTP库向目标站点发起请求,也就是发送一个Request等待服务器响应,如果服务器能正常响应,会得到一个Response,Response的内容便是所要获取的页面内容,类型可能是HTML,Json字符串,二进制数据(图片或者视频)等类型。
提取数据
返回的数据时html时,我们可以用正则表达式,或者是lxml模块配合xpath提取数据;返回的是json字符串时,我们可以用json模块进行数据解析;返回的是二进制数据时,可以做保存或者进一步的处理。
保存数据
保存形式多样,可以存为文本,也可以保存到数据库,或者保存特定格式的文件。
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.