首页 >要闻 > 内容

对于一个更危险的时代 一种对当前人工智能的美味讽刺

要闻 2020-01-23 09:42:58

在过去60年的大部分时间里,人们热切地追求对人工智能的丰富批判,这些批判主要来自内部人士,他们要么是人工智能的实践者,要么是密切相关的旁观者。

现在世界发现自己在一个陌生的国家:人工智能已经成为主流,出现从Instagram养活你的智能手机语音助理,这些批评的声音已经失去了作为一个一代的思想家去世,麻省理工学院的科学家马文,和加州大学伯克利分校的哲学教授赫伯特德雷福斯。

但仍有一小部分人持批评态度,随着人工智能的使用与日常生活越来越紧密地交织在一起,世界需要他们在对人工智能的看法上保持平衡。其中包括朱迪亚·珀尔(Judea Pearl),她的《为什么》(Why)一书提醒人工智能从业者因果推理的必要性;多伦多大学(University of Toronto)教授海克特•莱维斯克(Hector Levesque)的常识测试——“维诺格拉德模式挑战”(Winograd Schema Challenge)——为传统人工智能设定了很高的标准。

但在现代,没有人比纽约大学(NYU)心理学教授加里•马库斯(Gary Marcus)在《人工智能批判》(the critique of AI)一书中写得更多。在《纽约时报》(The New York Times)和《纽约客》(The New Yorker)等热门出版物的五本书和多篇文章中,马库斯对最新的人工智能标题进行了嘲讽,以提醒人们展现人工智能的局限性。

马库斯与他的同事、纽约大学(NYU)计算机科学教授欧内斯特•戴维斯(Ernest Davis)合作,将这场斗争推进到一本名为《重新启动人工智能:构建我们可以信任的人工智能》(Rebooting AI: Building Artificial Intelligence We Can Trust)的新书中。

重新启动人工智能是对围绕现代科学的炒作、媒体的懒惰假设以及让自动化无人质疑的危险的一种令人耳目一新的、美味的批评。对于那些愿意停下来思考周围的建筑世界可能会发生什么事情的人来说,这是一本极好的书。

Marcus在ZDNet出版前接受了采访,回答了这样一个问题:为什么现在要写这本书?

马库斯表示:“写书有很多理由,一个是为了巩固地位,另一个是为了解决人工智能目前的状况与它需要做的事情之间的不匹配。”

什么是人工智能?关于人工智能你需要知道的一切

人工智能指南,从机器学习和一般人工智能到神经网络。

阅读更多

马库斯和戴维斯强调,人工智能需要的是“值得信赖”,而在他们看来,这是目前所不具备的。马库斯和戴维斯认为,既然某种人工智能无处不在,它的缺点就不再是纯粹的学术兴趣了。他们写道,一个他们称之为“过度归因”的习惯,即倾向于给予人工智能太多信任的习惯,“实际上可能是致命的,”他们引用了2016年特斯拉(Tesla)汽车在自动驾驶状态下发生的致命撞车事故,当时人类司机本应正在观看一部《哈利波特》(harry Potter)电影。

还有:不,这个人工智能还没有掌握八年级的科学

这本书与过去几十年的批评遥相呼应,比如德鲁·麦克德莫特(Drew McDermott) 1976年的文章《人工智能遇上自然的愚蠢》(Artificial Intelligence Meets Natural)。但那是一封写给同行从业者的信,一个关于人工智能实践中职业傲慢的警示性故事。

马库斯和戴维斯的书有着不同的紧迫性,它需要用通俗易懂的语言告诉人们,为什么流行媒体中关于智能电脑的神话具有误导性。他们写道:“许多媒体倾向于夸大技术成果,其净效应是,公众开始相信人工智能比实际情况更接近于被解决。”

Marcus和Davis提出了一个关于“当你听说人工智能的成功时”该问自己什么的六点清单。其中包括“剥去花言巧语”,问人工智能系统“实际上”做了什么。换句话说,问问炒作背后的科学。

这是一个明智的建议,因为每周都会有一个计算机上的突破,听起来好像是某种有知觉的生命形式。最近的一个例子是艾伦人工智能研究所(Allen Institute for AI)发布了一款名为Aristo的语言建模计算机。《纽约时报》(New York Times)在报道中暗示,阿里斯托已经掌握了八年级的科学主题,而事实上,科学与这一水平相差甚远。

加里·马库斯。

在对人工智能的大肆宣传中,隐藏着对当前机器学习实践的一种更为严重的控诉。马库斯认为,人工智能的深度学习学派不愿意研究他所称的世界的“认知模型”。

马库斯在一次电话采访中说:“我认为这需要以一种哲学家们乐于接受的方式,以及经典人工智能领域的人们有时会采用的方式,对世界进行非常仔细的分析,但不是用正确的工具。”“现在人工智能领域的人只是对更多的数据和更快的机器感兴趣。”

这篇评论的核心部分在“如果电脑这么聪明,为什么它们不识字?”一章中得到了最好的表述。正如艾伦研究所(Alan Institute)的阿里斯托(Aristo)所示,如今流行的人工智能形式——深度学习(deep learning)——在创建句子中单词频率的概率分布方面取得了巨大进步。但他们总是回避意义的问题。

正如Marcus所见,这是一个事实的产物,即今天的大多数人工智能从业者不想去思考理解的大问题,而是专注于创造下一个大的计算机模型,通常是通过几乎不加思考地利用人类社会的人工制品。

马库斯表示:“人们想要窃取的是人类已经掌握的大量知识。”他指的是用于训练语言处理的commoncrawley等人工智能数据集。“整个语言学领域,思考规则是什么,所有这些都很重要,但收集一些带注释的数据库要有趣得多,”这种做法实现了新的基准,但他认为,“让我们进一步提高理解。”

还有:不,这个人工智能不能完成你的句子

他指出,诸如OpenAI的大型自然语言程序“GPT-2”这样的系统“相当令人印象深刻,但却毫无条理”。

通过指控当今人工智能模型的失窃,马库斯正在挑战深度学习最吸引人的一个方面,即它接受任何“推理”或“思考”测试的能力,并将其重新表述为一项工程挑战。

几年前,Levesque在提出他的Winograd模式挑战时,敦促科学家们“把所有关于技巧和捷径的想法放在一边,转而关注需要知道什么,如何象征性地表示它,以及如何使用这些表示。”今年夏天,英国艾伦图灵研究所(Alan Turing Institute)的一个团队在他的测试中取得了目前最好的成绩。工程师们不顾莱维斯克的警告,用一篇题为“Winograd模式挑战中一个令人惊讶的强大技巧”的论文来宣传他们的成就。

尽管有这些批评,但马库斯表示,他对人工智能潜力的热情更接近马文•明斯基(Marvin Minsky),而不是德雷福斯(Dreyfus)传说中的怀疑主义。马库斯谈到自己和戴维斯时说:“我们对人工智能能做的事情非常乐观,但我们对它所取得的成就如此之少感到沮丧。”“我们不像休伯特·德莱弗斯(Hubert Dreyfus)那样说人工智能不能做什么。”

还有:为什么人工智能报告这么糟糕?

如果盗窃和工程技术已经创造了一个不值得信任的人工智能,而且可能是不安全的人工智能,那么,答案是什么?

这本书有关于转向何处的建议,但这些建议不如评论本身那么有说服力。新书发布之际,马库斯刚刚成立了一家开发人工智能技术的公司。他是人工智能的创始人和首席执行官。马库斯之前创立了一家初创公司,并将其出售给了优步(Uber)。“这就是我创办公司的原因,”他说。

他说:“我们想制造一些工具,让Rosey这样的机器人成为可能。”Rosey是动画片《杰森一家》中的机器人女佣。“我们想制造一些可以自主的设备,或者一个相当于前额叶皮层的认知引擎。”马库斯没有透露这笔投资,只是说有一轮“非常强劲的种子期融资”。他表示,该公司正在“迅速招聘,并开始建立原型”。他说:“也许我们将在这里解决一些未知的问题,这些是非常困难的问题。”“我们不想说我们要解决所有这些挑战,我们不是妄想,但也许我们可以取得更多进展。”

什么是人工一般智能?

你需要知道的关于创造和人类一样聪明的人工智能的一切。

阅读更多

作为一名学者和评论家,以及现在的一名企业家,Marcus参与了一场辩论,这场辩论有时会在Twitter上与那些捍卫当前人工智能的杰出人士爆发。他们包括Facebook的人工智能研究主管扬·勒昆,以及多伦多大学教授杰弗里·辛顿,他也在谷歌的谷歌大脑单元工作。

另外:OpenAI有一个空洞的文本机器人,我还有一份写作的工作

重启AI最惊人的说法之一是马库斯的争用,系统由勒存和辛顿,和其他人来说,深度学习的核心系统,他们痴迷于工程和基准数据,画上一些“富人”形式的知识,他主张,所谓的“先知先觉”,马库斯标榜为“一些系统内置丰富的属性。”

以深度学习神经网络最主要的形式——卷积神经网络为例,它在图像识别领域取得了巨大的进步。马库斯发现,CNN核心的功能电路卷积是勒存30年前的灵感来源。“扬获奖的原因是他天生就有一条线路,他不是从数据中学到的,”马库斯说,他指的是勒存的终身成就奖,即ACM图灵奖。

同时:勒村,辛顿,本吉欧:人工智能阴谋家授予著名的图灵奖

马库斯认为:“五十年后,人们会记得勒存是谁,但不会理解他为何如此反原住民。”AlphaZero也是如此,它由谷歌的DeepMind开发,在国际象棋和围棋方面击败了世界上所有的大师。他指出,AlphaZero在很大程度上依赖于一种被称为“蒙特卡罗树搜索”的已有数十年历史的搜索策略。这种技术“是一种非常结构化的先验,”Marcus说,没有它,这个系统就无法运作。

“当然你有一个神经网络来分类模式,但你把它放在一个先验的环境中,‘如果我去那里,另一个人将最大化他的利益’,”他解释说。深度学习的实践者们,“偷偷地把它从后门放进去”,却没有承认借用,Marcus说,因此“他们扭曲了关于人工智能的对话”。

直到健壮。当然,人工智能结出了果实,深度学习的科学家们可能会想要解雇马库斯。根据他的观察,他们可以回答,嗯,这很管用,在很多情况下都管用,比如在网上预测你会喜欢的产品,或者在智能手机上回答你的自然语言问题,或者实时翻译你的短语。

那么,马可有什么权利去批评什么是有效的呢?

“你可能想说那些提出批评的人并没有做出什么东西来,以此来保护自己,”马库斯承认,“但这显然是错误的;如果批评是正确的,那么就必须加以处理。”

此外:一个计算梦想家的眼光超越了今天的人工智能

马库斯注意到,当创建现代遗传学框架的僧侣格里高尔·孟德尔(Gregor Mendel)在19世纪发现遗传时,并没有一种机制来解释他的发现,他的发现也被忽视了几十年。

但孟德尔说到点子上了。“在孟德尔之前,人们认为基因是一个混合的过程,而不是粒子,”他反思道。孟德尔排除了这种可能性,他发现了这个体系的一些成功之处。

“同样,我们也在试图识别人工智能应该具备的认知系统的一些属性,或许我也会具备这些属性。”

与此同时,这本书在媒体的大肆宣传中为那些被它淹没的人带来了一股清新的空气,也为外行人介绍了这个主题。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢。