在线服务（近实时） 在线推理绝对比批处理推理更具挑战性。 为什么？ 由于我们系统上的延迟限制。 在线推论是关于以低延迟对最终用户的请求做出响应。 优化的内容：延迟 最终用户：通常与可通过API直接获得的模型进行交互 验证：通过A / B测试离线和在线 高级研讨会：Azure在线服务（近实时） 这个工作坊是WIP 它将涵盖使用Python运行时将机器学习模型部署到Azure Functions的实际用例及其故障排除。 附加功能 要了解有关MLOps和在线服务的更多信息，请执行以下操作：