独家 | 图灵奖得主Raj Reddy:通用AI还很遥远,人类将成宠物

简介:
本文来自AI新媒体量子位(QbitAI)

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

 Raj Reddy(左)和他的学生James K. Baker

图灵奖,计算机界的诺贝尔奖,迄今已经颁发50届。其中至少十分之一,颁给了人工智能领域的科学家。

量子位今天的访谈对象,正位列其中:他就是图灵奖得主、人工智能先驱Raj Reddy。

“我办公室在最破的那个楼里”,Raj Reddy在给量子位指示方向时幽默地说。这位顶级学者已经在卡内基梅隆大学待了近50年,曾经长期担任CMU计算机学院院长。

1994年,Raj Reddy因设计和建造大规模人工智能系统,证明了人工智能技术的重要性和潜在的商业价值,而获得图灵奖。

此外,他还一手创立了美国第一个机器人研究所(Robotics Institute),成为全球最负盛名的机器人研究中心。

在这次与量子位的对话中,Raj Reddy回顾了人工智能的发展,同时坦言目前人工智能的发展超过他的预期。

不过Raj Reddy也指出目前的深度学习也有局限性,人工智能发展会进入平台期、会遇到瓶颈,突破有赖于计算力的进一步释放。

“如果你问我未来十年的大趋势,我会说是特定用途的AI”,Raj Reddy举了一个例子:比方德州扑克AI(前不久刚在海南赢了人类选手的冷扑大师)。

“我们大多数人,大多数情况下遇到的都是不完美信息问题”,Raj Reddy说这类AI有着很实际的意义。

谈到通用人工智能,Raj Reddy说目前还没有实现强人工智能所需的理念、资金等各种条件,但他很有信心:“什么时候才能实现像人一样的通用人工智能?可能需要50年100年1000年?我不知道,但终究会实现”。

谈到通用人工智能,总想到人类生存危机。

“当下次进化发生的时候,出现的不是机器人,而是长得和你我一样却有着超能力的‘超级人类’。超级人类会完成一切工作,其他人类没事可做,他们没有工作,但有充足的食物来喂养他们,也有丰富的娱乐”,Raj Reddy说。

(推荐一篇:《人类正与机器合二为一》)

把目光投向那个遥远的未来时,Raj Reddy非常乐观:超级人类(或者说超级AI)不会灭绝人类,就像人类没有杀光大猩猩黑猩猩、或者其他哺乳动物。

在他眼中,未来的世界对大多数人来说就像天堂一般:不需要工作,却能满足一切需要。

相信你也感受到了,从这个意义上来说,人类会变成宠物。

量子位把这次对话的内容,以Raj Reddy自述的形式呈现如下:

人工智能的肇始

1969年,我从斯坦福毕业来到CMU(卡内基梅隆大学)。

我斯坦福的老师是John McCarthy,他起了“Artificial Intelligence(人工智能)”这个名字。CMU有Allen Newell和Herbert A. Simon。Marvin Minsky在MIT。当时大家都不喜欢人工智能这个提法,更偏好“复杂信息处理”这类名字。

(量子位插播:上面提及的几位都是图灵奖得主)

1956年,这几位科学家参加了在达特茅斯学院举行的一次会议,正式确立了人工智能的研究领域。其实今天很多热门的AI领域,包括自然语言处理、计算机视觉、机器人等领域,在上世纪60年代已经被定义而且有人开始研究。

只不过当时在计算机处理能力这个硬件条件上,有很大的局限性。现在手机可能比90年代大型计算机的计算能力要强百万倍,90年代的计算能力又比60年代强百万倍。包括照相这件事,以前是一行一行的扫描,还得希望被拍摄的对象别动。

此后人工智能经历两轮起伏,现在新的一波人工智能热潮再度兴起。(量子位插播:当时Raj Reddy的学生,美国国家工程院院士James K. Baker帮量子位科普了一遍几十年来人工智能的历次兴衰,暂时按下不表)

学习的本质

我相信,现在的深度学习等方法也有局限性,现有水平也无法达到通用人工智能,人工智能的发展会进入平台期,会遇到瓶颈。未来计算能力还会有飞跃,计算力还会得到释放,这将改变我们看待问题和算法的方式。

就像一个刚出生的婴儿,并没有太多的智慧,成长半年到一年以后,开始具备视觉和行动的能力;再过两年,学会语言;然后四五岁的时候开始学习写字。所以慢慢的,我们学会很多,此后我们一直不停学习。

所以问题是,自动化应该是一个可以持续学习的系统,不停学习任何事情。我的学生Oren Etzioni,现在是西雅图艾伦人工智能研究院(AI2)的CEO。那个研究院在做很多好玩的研究,其中一项是教会电脑读书,然后可以回答每一章节下面的问题。

他们用了生物学AP教材,构建了一套知识系统,准备让电脑通过AP考试。花了好多时间,还有好多钱,最后发现行不通。

在我看来,这个方法根本就是错的。在搞AP生物知识之前,应该先搞明白高中生物;搞中学生物之前,应该先搞明白小学科学。Oren去了之后就是这么做的,他们先研究中学的生物课程,现在已经能回答60%的问题。

你会发现,理解这个世界或者说常识推理,是一件非常困难的事情。

假设我们把电脑送到学校里去,和普通的人类学生一起,教给他们一样的知识,教给他们分析、解决问题的方法,希望电脑能达到六七岁孩子的水平。

结果我们发现,AI连四五岁孩子的智力都做不到。不需要懂数学原理科学知识,只是能很好地理解语言,有感情,我们连这个水平的人工智能都做不出。

那么让我们退回到1岁孩子的水平:不会说话,但有视觉功能,可以认出人脸。视觉和语言不一样,语言是从某种意义上讲是监督学习,视觉完全是无监督学习,人类理解图像结构的过程,完全是无监督的。

所以问题在于,我们能否从监督学习,转变到通过改正错误来学习。比如说你说了一件事,你妈妈告诉你“不不不,这是错的,那样才是对的”,每一次更正都能提高系统的能力。

另外人在学习的时候,不是通过阅读纯文本,而是有语言、图表等多个途径,所以机器学习也应该尝试用多媒体的方式进行。

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

未来十年的趋势

目前AI的发展完全超过了我的预期。

10年前我还说,在不限制词汇和说话者的条件下完成语音识别这件事太难了,我有生之年是看不到了,但是它现在就实现了。 本质上,人工智能的发展受到概念、创意的限制,同时也受限于计算能力。

如果你给我相当于目前100万倍的计算力,我很可能造出革命性的系统,让它一直观察人类的行为,然后自己去理解。现在机器学习很受重视。想象一下,如果以机器学习技术去持续地学习一切,未来有很多有趣的可能性。

基本上,如果你问我未来十年的大趋势,我会说是特定用途的AI,比如说德州扑克这种。

我们大多数人,大多数情况下遇到的都是不完美信息问题, 我们要在得不到所需的全部知识和信息的前提下做出最好的选择,结果有时好有时坏。

美国的医保体系ObamaCare就是一个很好的例子,它有很多优点,但也有一些问题,他们应该修复这些问题,而不是彻底抛弃这个体系。当你管理着一个人口规模庞大的社会,根本不可能预测到所有的副作用,你需要做的,是确保在事情发生时能迅速作出反应。

问题在这里也和玩游戏是一样的,你在没有全部的信息的情况下做出了行动,会发现新的信息,这时就需要你智能地去使用新信息,而不是继续遵循旧的策略。

如果你和Tuomas Sandholm聊(量子位聊过了,这里是:传送门),他会说有很多领域需要这种技术,最好的例子就是谈判。扑克AI的技术能解决很多真实世界的问题。

通用人工智能还很遥远

我的导师John McCarthy曾经说,要想造出通用人工智能,我们需要1.7个爱因斯坦、2个麦克斯韦、5个法拉第和0.3个曼哈顿计划的资金。

现在没有通用人工智能所需要的全部理念,未来我们的后代会有;我们现在没有所需的资金,没有人愿意在接下来的100年时间里,每年花掉万亿美元来资助AI研究。

如果有这么大规模的资金,会有更多人从事这项研究,我们能更早见到通用人工智能;即使没有,通用人工智能也一定会实现,这是迟早的事。

我们什么时候才能实现像人一样的通用人工智能?可能需要50年100年1000年?我不知道,但终究会实现。

长远来看,我相信会实现通用人工智能,这也引出了一个问题:人类的生存危机。很多人担心如果通用人工智能出现,人类可能会被灭绝。

我完全不相信这种说法。

人类将成宠物

物种经历了几十亿年的进化,我们人类没有去杀光大猩猩黑猩猩、或者其他哺乳动物,大家都在这个星球上共存。

我认为,当下次进化发生的时候,出现的不是机器人,而是长得和你我一样却有着超能力的“超级人类”。超级人类会完成一切工作,其他人类没事可做,他们没有工作,但有充足的食物来喂养他们,也有丰富的娱乐。

我们设想一种极限的情况,如果我们创造了一种超级人类,做各种工作都比你好百倍,只需要700万甚至7千人,就能完成现在我们70亿人类的工作,那么这70亿人类就没事可做。当这种情况发生,人类就不再需要做现在这样平常无聊的事情,但是物质又极大丰富,人类就可以整天去海滩度假享受,有些人甚至会觉得这是天堂,是在地球上创造了天堂。

我持一种乐观的态度:超级人类不会杀死我们,而是会喂养我们,让我们做自己想做的任何事情,对于大多数人来说,这就是天堂:不工作,却能满足一切需要。

想象一下,大多数人都有猫狗等宠物。对于超级人类来说,我们就是宠物,他们会给我们提供所需的一切,这也就是乌托邦。

我想说的就是,当超级人类这个物种,或者超级AI的出现,一切都为你准备好了,你可以做任何事,不会有任何的物质短缺。

640?wx_fmt=jpeg&wxfrom=5&wx_lazy=1

 Raj Reddy工作的背影

本文作者:舒石 希拉 李林
原文发布时间: 2017-04-17
相关文章
|
1月前
|
人工智能 安全 网络安全
欧盟《人工智能法案》对通用AI模型的监管要求
【2月更文挑战第24天】欧盟《人工智能法案》对通用AI模型的监管要求
76 1
欧盟《人工智能法案》对通用AI模型的监管要求
|
7月前
|
人工智能 关系型数据库 分布式数据库
沉浸式学习PostgreSQL|PolarDB 9: AI大模型+向量数据库, 提升AI通用机器人在专业领域的精准度, 完美诠释柏拉图提出的“知识是回忆而不是知觉”
越来越多的企业和个人希望能够利用LLM和生成式人工智能来构建专注于其特定领域的具备AI能力的产品。目前,大语言模型在处理通用问题方面表现较好,但由于训练语料和大模型的生成限制,对于垂直专业领域,则会存在知识深度和时效性不足的问题。在信息时代,由于企业的知识库更新频率越来越高,并且企业所拥有的垂直领域知识库(例如文档、图像、音视频等)往往是未公开或不可公开的。因此,对于企业而言,如果想在大语言模型的基础上构建属于特定垂直领域的AI产品,就需要不断将自身的知识库输入到大语言模型中进行训练。
852 0
|
26天前
|
人工智能 机器人 芯片
英伟达最强 AI 芯片、人形机器人模型炸场!黄仁勋放言英语将成最强大编程语言
在2024年的GTC大会上,英伟达创始人黄仁勋揭幕了新一代AI芯片Blackwell,号称是史上最强AI芯片,目标是推动AI领域的重大进步。
|
1月前
|
人工智能 API
谷歌SIMA:一种适用于 3D 虚拟环境的通用 AI 智能体
【2月更文挑战第24天】谷歌SIMA:一种适用于 3D 虚拟环境的通用 AI 智能体
40 1
谷歌SIMA:一种适用于 3D 虚拟环境的通用 AI 智能体
|
9月前
|
人工智能 自然语言处理 关系型数据库
用PolarDB|PostgreSQL提升通用ai机器人在专业领域的精准度
chatgpt这类通用机器人在专业领域的回答可能不是那么精准, 原因有可能是通用机器人在专业领域的语料库学习有限, 或者是没有经过专业领域的正反馈训练. 为了提升通用机器人在专业领域的回答精准度, 可以输入更多专业领域相似内容作为prompt来提升通用ai机器人在专业领域的精准度. PolarDB | PostgreSQL 开源数据库在与openai结合的过程中起到的核心作用是: 基于向量插件的向量类型、向量索引、向量相似搜索操作符, 加速相似内容的搜索. 通过“问题和正确答案”作为参考输入, 修正openapi在专业领域的回答精准度.
52205 34
用PolarDB|PostgreSQL提升通用ai机器人在专业领域的精准度
|
7月前
|
机器学习/深度学习 人工智能 自动驾驶
特斯拉Dojo超算:AI训练平台的自动驾驶与通用人工智能之关键
特斯拉Dojo超算平台代表了特斯拉在AI领域的重大突破。它不仅提供了海量的计算能力以支持特斯拉的自动驾驶和通用人工智能研究,而且还通过自主研发、大规模可扩展性和高效率等特点,完美地融入了特斯拉的各项业务中。未来,随着特斯拉不断扩展其业务领域和市场范围,Dojo超算平台的重要性将进一步提升。同时,我们期待看到特斯拉继续优化其Dojo超算平台,以支持其在AI领域的更多创新和突破。
167 0
|
8月前
|
机器学习/深度学习 存储 人工智能
语言模型做先验,统一强化学习智能体,DeepMind选择走这条通用AI之路
语言模型做先验,统一强化学习智能体,DeepMind选择走这条通用AI之路
106 0
|
10月前
|
人工智能 达摩院 自然语言处理
让AI更通用的“通义”大模型,来了!
让AI更通用的“通义”大模型,来了!
616 0
|
11月前
|
人工智能 算法
《阿里云产品手册2022-2023 版》——AI通用算法与应用
《阿里云产品手册2022-2023 版》——AI通用算法与应用
178 0
|
11月前
|
机器学习/深度学习 人工智能 自然语言处理
汪军教授组织了7位AI学者,论道ChatGPT后的通用人工智能理论和应用
汪军教授组织了7位AI学者,论道ChatGPT后的通用人工智能理论和应用
106 0

热门文章

最新文章