文件名称:
dl_inference:通用深度学习推理服务，可在生产环境中快速上线由TensorFlow，PyTorch，Caffe框架训练出的深度学习模型-源码
开发工具:
文件大小: 806kb
下载次数: 0
上传时间: 2021-03-19
详细说明：通用深度学习推理服务
可在生产环境中快速上线由TensorFlow，PyTorch，Caffe框架训练出的深度学习模型。
dl_inference是58同城推出的通用深度学习推理服务，使用dl_inference只需将模型文件放在指定目录然后启动服务就可以进行推理请求调用。dl_inference当前支持TensorFlow，PyTorch和Caffe模型，提供GPU和CPU两种布置方式，并且实现了模型多例程部署时的负载均衡策略，支持线上海量推理请求。
dl_inference具备的功能如下：
简化深度学习模型在生产环境上的推理服务部署，只需重新将模型文件放入指定目录。
支持模型多预算部署并实现负载均衡。
提供统一的RPC服务调用接口。
提供GPU和CPU两种部署方式。
PyTorch / Caffe模型支持推理前后数据处理，开放模型调用。
为什么需要dl_inference
将深度
(系统自动生成,下载前可以参看下载内容)
下载文件列表
相关说明
- 本站资源为会员上传分享交流与学习,如有侵犯您的权益,请联系我们删除.
- 本站是交换下载平台，提供交流渠道，下载内容来自于网络，除下载问题外，其它问题请自行百度。
- 本站已设置防盗链，请勿用迅雷、QQ旋风等多线程下载软件下载资源，下载后用WinRAR最新版进行解压.
- 如果您发现内容无法下载，请稍后再次尝试；或者到消费记录里找到下载记录反馈给我们.
- 下载后发现下载的内容跟说明不相乎，请到消费记录里找到下载记录反馈给我们，经确认后退回积分.
- 如下载前有疑问，可以通过点击"提供者"的名字，查看对方的联系方式，联系对方咨询.
