场景描述 本方案适用于使用GPU进行AI在线推理的场 景。在推理之前,模型已经训练完成。例如,刷脸 支付中,我们在刷脸的时候,就是推理的一个过 程。再比如图像分类,目标检测,语音识别,语 义分析等返回结果的过程。 解决问题 使用GPU云服务器搭建推理环境 使用容器服务Kubernetes版构建推理 环境 使用NAS存储模型数据 使用飞天AI加速推理工具加速推理 产品列表 GPU云服务器 容器服务Kubernetes版 NAS共享存储
您需要先将该 demo 文件上传到 Notebook,然后运行推理过程。在 demo示例中,首先下载必要的运行环境和模型,然后下载一张大熊猫的图片,利 用模型来预测这张图片的内容,最终输出结果如下:INFO:tensorflow:Restoring parameters from mobilenet_v2_1.0_224.ckpt Top 1 prediction:389 giant panda,panda,panda bear,coon ...