场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
本实践采用了如下产品:•GPU云服务器GN5I•共享存储NAS•阿里云容器服务Kubernetets版 阿里云飞天 AI加速解决方案 基于阿里云弹性基础资源,为用户提供性能极致优化、轻量便捷、开源开放的人工智能最佳实践。发布日期:20220320 I 企业上云实践 基于弹性计算的 AI推理最佳实践|演示环境说明 方案架构 用户通过域名访问推理...