场景描述
本方案适用于使用GPU进行AI在线推理的场
景。在推理之前,模型已经训练完成。例如,刷脸
支付中,我们在刷脸的时候,就是推理的一个过
程。再比如图像分类,目标检测,语音识别,语
义分析等返回结果的过程。
解决问题
l 使用GPU云服务器搭建推理环境
l 使用容器服务Kubernetes版构建推理
环境
l 使用NAS存储模型数据
l 使用飞天AI加速推理工具加速推理
产品列表
l GPU云服务器
l 容器服务Kubernetes版
l NAS共享存储
原文链接
本文为阿里云原创内容,
IBM Analog Hardware Acceleration Kit
描述
IBM Analog Hardware Acceleration Kit是一个开放源代码Python工具箱,用于在人工智能环境中探索和使用内存计算设备的功能。
:warning: 该库目前处于测试阶段,并且正在积极开发中。 请注意潜在的问题,并密切关注即将发布的版本中的改进,新功能和错误修复。
该工具包包含两个主要组件:
Pytorch集成
一系列允许在使用该工具包的原语和功能:
模拟神经网络模块(完全连接的