阿里开源!轻量级深度学习端侧推理引擎 MNN

技术小能手 2019-05-07

深度学习 android 算法 图像搜索 人脸检测

阿里妹导读:近日,阿里正式开源轻量级深度学习端侧推理引擎“MNN”。

AI科学家贾扬清如此评价道:“与 Tensorflow、Caffe2 等同时覆盖训练和推理的通用框架相比,MNN 更注重在推理时的加速和优化,解决在模型部署的阶段的效率问题,从而在移动端更高效地实现模型背后的业务。这和服务器端 TensorRT 等推理引擎的想法不谋而合。在大规模机器学习应用中,考虑到大规模的模型部署,机器学习的推理侧计算量往往是训练侧计算量的十倍以上,所以推理侧的优化尤其重要。”

MNN背后的技术框架如何设计?未来有哪些规划?今天一起来深入了解。

1、MNN是什么?

image

MNN 是一个轻量级的深度学习端侧推理引擎,核心解决深度神经网络模型在端侧推理运行问题,涵盖深度神经网络模型的优化、转换和推理。目前,MNN已经在手淘、手猫、优酷、聚划算、UC、飞猪、千牛

登录 后评论
下一篇
corcosa
12570人浏览
2019-10-08
相关推荐
AI平台-MNN【推理引擎】
1784人浏览
2019-05-07 09:45:02
开源-开源公司-Alibaba
1286人浏览
2019-05-11 17:53:53
0
0
2
9484