开发工具:
文件大小: 959kb
下载次数: 0
上传时间: 2021-03-07
详细说明:重新思考网络修剪的价值
在以下论文中,该存储库包含用于再现结果的代码和经过训练的ImageNet模型:
重新思考网络修剪的价值。
*,*,,,(*相等贡献)。
ICLR2019。也是NIPS 2018紧凑型深度神经网络研讨会的。
此回购中包含的几种修剪方法的实现方式也可以方便地用于其他研究目的。
论文摘要
图1:典型的三阶段网络修剪管道。
我们的论文表明,对于结构化修剪,与从典型的“训练,修剪和微调”(图1)过程中获得的模型相比,从头开始训练修剪的模型几乎总是可以达到相当或更高的准确性。 我们得出结论,对于那些修剪方法:
为了获得有效的最终模型,通常不需要训练大型的,超参数化的模型。
大型模型学习到的“重要”权重通常对小型修剪模型没有用。
修剪后的体系结构本身,而不是一组继承的“重要”权重,对于最终模型的效率更为关键,这表明修剪在某些情况下可用作体系结构搜索范例。
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台,提供交流渠道,下载内容来自于网络,除下载问题外,其它问题请自行百度。
- 本站已设置防盗链,请勿用迅雷、QQ旋风等多线程下载软件下载资源,下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载,请稍后再次尝试;或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎,请到消费记录里找到下载记录反馈给我们,经确认后退回积分.
- 如下载前有疑问,可以通过点击"提供者"的名字,查看对方的联系方式,联系对方咨询.