文件名称:
fetchbot:一个简单而灵活的Web爬网程序,它遵循robots.txt策略和爬网延迟-源码
开发工具:
文件大小: 31kb
下载次数: 0
上传时间: 2021-02-24
详细说明:抓取机器人
软件包fetchbot提供了一个简单而灵活的Web搜寻器,它遵循robots.txt策略和搜寻延迟。
它是使用更简单的API,更少的内置功能,但同时具有更大灵活性的对的重写。 至于Go本身,有时少即是多!
安装
要安装,只需在终端中运行:
go get github.com/PuerkitoBio/fetchbot
该软件包具有单个外部依赖项 。 它还集成了代码。
。
变化
2019-09-11(v1.2.0):更新robotstxt依赖项(由于提出了问题,导入路径/仓库URL已更改,问题#31)。
2017-09-04(v1.1.1):修复取消队列时的goroutine
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.