哺乳动物大脑神经元也能做深度学习,未来10年神经科学与人工智能将迎突破

简介: 神经网络受生物神经网络启发而来,但大脑里的学习过程真如深度学习那样吗?这个问题的答案有望实现更强大的深度学习模型,也有助于进一步了解人类的智能。 12月5日,CIFAR研究员、多伦多大学的Blake A. Richards和同事在期刊eLife发表了论文《尝试用分离的树突进行深度学习》(Towards deep learning with segregated dendrites)[1]。

神经网络受生物神经网络启发而来,但大脑里的学习过程真如深度学习那样吗?这个问题的答案有望实现更强大的深度学习模型,也有助于进一步了解人类的智能。

12月5日,CIFAR研究员、多伦多大学的Blake A. Richards和同事在期刊eLife发表了论文《尝试用分离的树突进行深度学习》(Towards deep learning with segregated dendrites)[1]他们在论文中提出了一种算法,对大脑中可以如何进行深度学习进行了模拟。他们构建的网络表明,某些哺乳动物神经元具有适合进行深度学习的形状和电学特性。不仅如此,他们的实验也用一种更接近生物学的方法,展示了真实的大脑如何进行深度学习,甚至有望帮助解释大脑如何演化出了“学习”的能力。

如果神经元与深度学习之间的关联得以确认,我们就能开发更好的脑机接口,从疾病治疗到增强智能,随之而来的应用也将开启各种可能。

哺乳动物大脑的神经元也能做深度学习

这项研究由Richards和他在多伦多大学的研究生Jordan Guerguiev一起,与DeepMind的Timothy Lillicrap合作完成。

实验中使用的神经元是小鼠大脑新皮质的树突细胞。新皮质脑区负责一些高等功能,比如知觉、运动指令的产生,与空间推理、意识及人类语言也有关系。而树突则是从神经元细胞本体发出的多分支突起,形状类似树木。树突是神经元的输入通道,将从其他神经元接收到的动作电位(电信号)传送至细胞本体。

884b70e3fe9b7fbddc31b637489d87f1d6d87455

研究构建的“多房室神经网络”模型示意:左边是小鼠初级视觉皮层锥体神经元;右边是简化的神经元模型。来源:CIFAR

利用这种神经元结构的知识,Richards和Guerguiev建立了一个模型,叫做“多房室神经网络”(multi-compartment neural network model)。在这个网络中,神经元都在隔开的“隔间”中接收信号。由于一段一段隔开,不同层的模拟神经元能够协作,实现深度学习。

结果发现,在识别手写数字时,多层网络的效果明显好于单层的网络。算法能够利用多层网络结构识别高阶表示正是深度学习的核心标志。这表明小鼠大脑神经元跟人工神经元一样都能进行深度学习。

“这只是一组模拟,所以不能准确反映大脑正在做什么。但是,如果大脑可以使用AI使用的算法,这已经足以证明我们可以开展更进一步的实验调查了。”Richards说。

用更好的训练方法,证明深度学习体现人类大脑工作机制

在21世纪初,Richards和Lillicrap在多伦多大学上了Hinton的课,深信深度学习模型在一定程度上准确反映了人类大脑工作的机制。但是,在当时要验证这个想法还有几个挑战。首先,人们还不确定深度学习是否能达到人类水平。其次,深度学习算法违反了神经科学家已经证明的生物学事实。

计算机网络在深度学习中发生的活动模式也类似于人类大脑中所见的模式。但是,深度学习的一些特征似乎与大脑的工作方式不相容。而且,人工网络中的神经元比生物神经元简单得多。

现在,Richards和一些研究人员正在积极寻求弥合神经科学和人工智能之间差距的方法。本文以Yoshua Bengio团队的研究为基础,以生物学上更加可行的方式训练神经网络。

63c1008ceffe2ff3129cd0a8694cd1fa1b2370a0

均衡传播示意图:使用均衡传播训练神经网络时信息的传递过程。右边的简单网络,一层一层传递,BP适用,当然均衡传播也适用;而左边的复杂网络,更加类似生物神经网络结构,BP在这里就不适用了,这也是通常认为深度学习不能体现人脑机制的原因之一,但是,均衡传播能够适用于多连接的这种情况。

Bengio和他的研究生Benjamin Scellier发明了一种新的神经网络训练方法[2],叫做“均衡传播”(equilibrium propagation),是常用的反向传播(BP)的一种替代方法。均衡传播可以使用单一的回路和单一类型的计算来进行误差的推理和反向传播。因此,均衡传播过程可能更加类似大脑生物神经回路中的学习过程。

这项研究还使用了DeepMind的Timothy Lillicrap开发的算法[3],进一步放宽了神经网络的一些训练规则。(顺便一说,Timothy Lillicrap也是DeepMind最强通用棋类AI AlphaZero论文的作者之一。

这篇论文还吸收了Matthew Larkam对新皮质神经元结构的研究。通过将神经科学的发现与现有的算法相结合,Richards的团队创建了一个更好的、更真实的算法来模拟大脑中的学习过程。

未来10年真正打通神经科学与人工智能

树状新皮质神经元只是大脑中许多细胞类型之一。Richards说,未来的研究应该模拟不同类型的大脑细胞,并研究它们如何相互作用来实现深度学习。从长远看,他希望研究人员能够克服重大挑战,比如在不接收反馈的情况下如何通过经验进行学习。

Richards说:“我们在接下来的十年左右可能会看到神经科学与人工智能之间真正的研究良性循环,神经科学的发现帮助我们开发新的人工智能,而人工智能帮助我们解释和理解神经科学方面的实验数据。”


原文发布时间为:2017-12-7

本文作者:费欣欣

本文来自云栖社区合作伙伴新智元,了解相关信息可以关注“AI_era”微信公众号

原文链接:哺乳动物大脑神经元也能做深度学习,未来10年神经科学与人工智能将迎突破

目录
打赏
0
0
0
0
73533
分享
相关文章
猫狗宠物识别系统Python+TensorFlow+人工智能+深度学习+卷积网络算法
宠物识别系统使用Python和TensorFlow搭建卷积神经网络,基于37种常见猫狗数据集训练高精度模型,并保存为h5格式。通过Django框架搭建Web平台,用户上传宠物图片即可识别其名称,提供便捷的宠物识别服务。
541 55
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
眼疾识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了4种常见的眼疾图像数据集(白内障、糖尿病性视网膜病变、青光眼和正常眼睛) 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,实现用户上传一张眼疾图片识别其名称。
307 5
基于Python深度学习的眼疾识别系统实现~人工智能+卷积网络算法
AI“捕风捉影”:深度学习如何让网络事件检测更智能?
AI“捕风捉影”:深度学习如何让网络事件检测更智能?
41 8
人工智能浪潮下的自我修养:从Python编程入门到深度学习实践
【10月更文挑战第39天】本文旨在为初学者提供一条清晰的道路,从Python基础语法的掌握到深度学习领域的探索。我们将通过简明扼要的语言和实际代码示例,引导读者逐步构建起对人工智能技术的理解和应用能力。文章不仅涵盖Python编程的基础,还将深入探讨深度学习的核心概念、工具和实战技巧,帮助读者在AI的浪潮中找到自己的位置。
基于Python深度学习的【害虫识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
害虫识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了12种常见的害虫种类数据集【"蚂蚁(ants)", "蜜蜂(bees)", "甲虫(beetle)", "毛虫(catterpillar)", "蚯蚓(earthworms)", "蜚蠊(earwig)", "蚱蜢(grasshopper)", "飞蛾(moth)", "鼻涕虫(slug)", "蜗牛(snail)", "黄蜂(wasp)", "象鼻虫(weevil)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Djan
145 1
基于Python深度学习的【害虫识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
蘑菇识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了9种常见的蘑菇种类数据集【"香菇(Agaricus)", "毒鹅膏菌(Amanita)", "牛肝菌(Boletus)", "网状菌(Cortinarius)", "毒镰孢(Entoloma)", "湿孢菌(Hygrocybe)", "乳菇(Lactarius)", "红菇(Russula)", "松茸(Suillus)"】 再使用通过搭建的算法模型对数据集进行训练得到一个识别精度较高的模型,然后保存为为本地h5格式文件。最后使用Django框架搭建了一个Web网页平台可视化操作界面,
177 11
基于Python深度学习的【蘑菇识别】系统~卷积神经网络+TensorFlow+图像识别+人工智能
【宠物识别系统】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+图像识别
宠物识别系统,本系统使用Python作为主要开发语言,基于TensorFlow搭建卷积神经网络算法,并收集了37种常见的猫狗宠物种类数据集【'阿比西尼亚猫(Abyssinian)', '孟加拉猫(Bengal)', '暹罗猫(Birman)', '孟买猫(Bombay)', '英国短毛猫(British Shorthair)', '埃及猫(Egyptian Mau)', '缅因猫(Maine Coon)', '波斯猫(Persian)', '布偶猫(Ragdoll)', '俄罗斯蓝猫(Russian Blue)', '暹罗猫(Siamese)', '斯芬克斯猫(Sphynx)', '美国斗牛犬
296 29
【宠物识别系统】Python+卷积神经网络算法+深度学习+人工智能+TensorFlow+图像识别
揭秘人工智能:深度学习的奥秘与实践
在本文中,我们将深入浅出地探索深度学习的神秘面纱。从基础概念到实际应用,你将获得一份简明扼要的指南,助你理解并运用这一前沿技术。我们避开复杂的数学公式和冗长的论述,以直观的方式呈现深度学习的核心原理和应用实例。无论你是技术新手还是有经验的开发者,这篇文章都将为你打开一扇通往人工智能新世界的大门。

新智元

+ 订阅
AI助理

你好,我是AI助理

可以解答问题、推荐解决方案等