TensorFlow王位不保?ICLR投稿论文PyTorch出镜率快要反超了

简介:

自PyTorch出道以来,不断有人表示,发现了这样的趋势:

学术圈正在慢慢地抛弃TensorFlow,转投PyTorch。”

如今,PyTorch 1.0发布,ICLR 2019也才截稿不久,又是讨论这个问题的好时节。

Reddit上面,有小伙伴用非常低碳的方法观察了一下,这两年的论文用的都是什么框架:

b7746947af4f256dc766b1d6940a9e32e24df73f

从ICLR 2018到ICLR 2019的投稿来看,TensorFlow、PyTorch和Keras的搜索结果数发生了以下变化。

TensorFlow 228→266

PyTorch 87→252

Keras 42→56

虽然,三者数据皆有上升,但一年之间PyTorch搜索结果涨幅接近200%,好像已经对TensorFlow的宝座产生了威胁。

2017年1月19日,PyTorch第一次公开发布,到今天还不到两年,何以发展得这般蓬勃?

PyTorch可能比较善良

de8de7366b6f1ee19757955dddd14b9ada187162

PyTorch的确有亲和力

一是容易上手。只要熟悉Python,就很容易和PyTorch玩耍在一起了。相比之下,学TensorFlow就像在学一种新的语言,语法很复杂,尤其不适合新手。

二是许多操作都很简洁。比如,Tensor和Numpy之间的互转,可以在PyTorch里优雅地完成,而在TF里就不轻松了。

三是debug方便。PyTorch作为动态图框架的优势就体现了,像给Python代码debug那样。有人说在TF里debug,还没有肉眼看一遍来得快。

四是……

320625640a41a0f5421d531dbd6446e8ccf07ea4

总之,对离开TensorFlow拥抱PyTorch的人类来说,TF的槽点不胜枚举。

不过,研究人员选择PyTorch的原因,主要是它非常适合小型项目,适合快速的原型设计,诸如此类。

相对而言,TensorFlow就更适合大规模部署,特别是在需要跨平台部署和嵌入式部署的时候。静态图会方便部署。

还是离不开TensorFlow?

即便如此,作为研究人员,也还是有理由继续和TensorFlow在一起。

上个月,名叫Jeff Hale的数据科学家,做过一次深度学习框架排行榜

他收集了各式各样的数据,其中一项就是GitHub活跃度

55d89b1bf08e9aafaab9db89fd1017d85ec57f93

TF的标星 (Star) 、分叉 (Fork) 、关注量 (Watch) 和贡献者 (Contributor) 四项指标,对手皆是望尘莫及。

普及率当仁不让,资源也是最多,许多模型都能找到TF的代码实现。用户量大,遇到问题也容易找到解决的方法。

成熟的生态系统,大概就是这个样子吧。就算有诸多不便,依然是家园。

PyTorch 1.0三大更新

3ac0ec65a4ebed2dffdd20f232c9cdf14ef12878

昨天,Facebook在F8大会上发布了PyTorch 1.0 rc1。这次重大更新,主要包括三点:

· 加了个新的混合前端 (Hybrid Front End) ,支持从Eager模式图形模式的追踪,填补研究和生产部署之间的鸿沟;

· 加了个改进过的torch.distributed库,让用户能在Python和C++环境之间,更快地训练模型;

· 加了个Eager模式C++接口,来支持那些需要高性能低延时才能完成的研究。


原文发布时间为:2018-10-4

本文作者:关注前沿科技

本文来自云栖社区合作伙伴“量子位”,了解相关信息可以关注“量子位”。

相关文章
|
4月前
|
机器学习/深度学习 分布式计算 PyTorch
Tensorflow、Pytorch、
Tensorflow、Pytorch、Horovod、Spark、JupyterLab、TF-Serving、Triton等。 是什么,怎么用,推荐demo
92 40
|
3月前
|
机器学习/深度学习 PyTorch TensorFlow
|
2月前
|
机器学习/深度学习 PyTorch TensorFlow
Python中的深度学习:TensorFlow与PyTorch的选择与使用
Python中的深度学习:TensorFlow与PyTorch的选择与使用
|
3月前
|
机器学习/深度学习 PyTorch TensorFlow
TensorFlow vs PyTorch:深度学习框架的比较研究
TensorFlow vs PyTorch:深度学习框架的比较研究
34 1
|
8月前
|
机器学习/深度学习 PyTorch TensorFlow
TensorFlow VS PyTorch哪个更强?
TensorFlow 和 PyTorch 都是流行的深度学习框架,它们有一些共同点,例如都支持多种编程语言和硬件平台,也都提供了丰富的工具和库来支持深度学习模型的构建、训练和部署。以下是它们的一些区别和优缺点: 区别: 1. 编程风格:TensorFlow 使用的是静态图模型,需要先定义整个计算图,然后再进行计算。PyTorch 使用的是动态图模型,可以像普通 Python 代码一样进行定义、调试和修改。 2. 计算效率:由于 TensorFlow 的计算图是静态的,可以对其进行优化和分布式计算,因此在大规模数据和模型上进行训练时,TensorFlow 的效率更高。而 PyTorch 在小规模
393 0
|
4月前
|
机器学习/深度学习 人工智能 自然语言处理
PyTorch搭建图卷积神经网络(GCN)完成对论文分类及预测实战(附源码和数据集)
PyTorch搭建图卷积神经网络(GCN)完成对论文分类及预测实战(附源码和数据集)
145 1
|
4月前
|
机器学习/深度学习 PyTorch TensorFlow
一文带你了解 三种深度学习框架(Caffe,Tensorflow,Pytorch)的基本内容、优缺点以及三者的对比
一文带你了解 三种深度学习框架(Caffe,Tensorflow,Pytorch)的基本内容、优缺点以及三者的对比
151 1
|
4月前
|
机器学习/深度学习 PyTorch TensorFlow
如何使用TensorFlow或PyTorch进行机器学习任务?
如何使用TensorFlow或PyTorch进行机器学习任务?
|
5月前
|
数据可视化 PyTorch TensorFlow
Keras和Tensorflow(CPU)安装、Pytorch(CPU和GPU)安装以及jupyter使用虚拟环境
Keras和Tensorflow(CPU)安装、Pytorch(CPU和GPU)安装以及jupyter使用虚拟环境
97 0
|
6月前
|
机器学习/深度学习 PyTorch TensorFlow
深度学习框架教程:介绍一些流行的深度学习框架 (如TensorFlow、PyTorch等)
深度学习框架教程:介绍一些流行的深度学习框架 (如TensorFlow、PyTorch等)
64 0