场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
在部署 Notebook时,您可以为 Notebook选择不同的服务提供方式:通过 sshuttle访问 您需要有一个和集群网络联通的跳板机。如果此跳板机为阿里云上的 ECS,需要 在此 ECS的安全组中开放 ssh端口(通常为 22),具体配置方式请参见添加安全 组规则(https://help.aliyun.com/document_detail/25471.html)。数据科学家通过 ...