• 0
深度学习并非良策,掌握这三点才是AI系统的未来
统计 阅读时间大约4分钟(1523字)

2019-09-10 08:00:00 深度学习并非良策,掌握这三点才是AI系统的未来

而涉及空间和因果关系的概念时,AI的情况更糟。

【猎云网(微信号:ilieyun)】9月10日报道(编译:油人)

编者注:本文原作者Gary Marcus和Ernest Davis分别是Robust AI的创始人兼首席执行官和纽约大学计算机科学教授,本文选自他们即将出版的书籍《重新启动AI:建立我们可以信赖的人工智能》。

人工智能存在信任问题。我们依靠AI越来越多,但它还没有赢得我们的信任。

例如,以Autopilot模式驾驶的特斯拉汽车在撞击停止车辆方面有着令人不安的历史。亚马逊的面部识别系统在很多时候都有效,但当被要求将所有535名国会议员的面孔与2.5万张公开逮捕照片进行比较时,它发现了28个错误匹配。一项旨在审查亚马逊求职者的计算机程序被发现系统地歧视妇女。每个月,都会有新的AI弱点被发现。

现在的问题不在于今天的AI是否需要做得更好,而是今天的AI需要尝试做一些完全不同的事情。

特别是,我们需要停止构建那些只是用来更好检测数据集统计模式(通常被称为深度学习的方法)的计算机系统通常使用称为深度学习的方法,开始构建能够掌握时间、空间和因果关系三大基本要素的计算机系统。

现今的AI系统对这些概念知之甚少。以时间要素为例,我们最近在谷歌上搜索了“乔治·华盛顿有没有电脑?”,这是一个答案需要在时间框架内将两个基本事实(华盛顿生活时期、计算机发明时期)联系起来的问题。谷歌的前10个搜索结果都没有给出正确答案。搜索结果甚至没有真正解决这个问题。排名最高的链接是《卫报》关于玛莎·华盛顿电脑肖像的新闻报道。

而谷歌的Talk to Books也没能做到更好,这是一个旨在通过从庞大的文本数据库提供相关段落来回答问题的AI项目。它提供了20个段落,其中包含大量事实,其中一些涉及乔治·华盛顿,另一些涉及计算机的发明,但两者之间没有任何有意义的联系。

而涉及空间和因果关系的概念时,AI的情况更糟。即使是一个年幼的孩子,第一次遇到奶酪刨丝器,斗可以弄清楚为什么它有锋利边缘的孔,哪些部分可以让奶酪掉落,哪些部分是你可以用手指抓住的等等。但现存的AI系统没有一个可以正确理解对象的形状如何与其功能相关。机器可以识别出什么是物体,但不能识别物体的物理特征如何与其潜在的因果效应相对应。

对于某些AI任务,这种主导数据相关的方法可以完美胜任。你可以轻松地训练深度学习机器,比如识别暹罗猫的照片和Derek Jeter的照片,并区分这两者。这就是为什么这样的程序适用于自动照片标记。但是他们没有实现概念深度。例如,如果有很多不同的暹罗猫,但只有一个Derek Jeter,因此一张显示两只暹罗猫的照片并不显眼,而一张照片显示两个Derek Jeters被篡改了。

在很大程度上,这种理解的失败是像管家Rosie这样的通用机器人仍然是一种幻想的原因。如果Rosie无法理解世界如何运作的基础知识,我们就不能信任她。

没有时间、空间和因果关系的概念,理解许多常识是不可能的。例如,我们都知道任何特定动物的生命始于它的诞生并以它的死亡结束;它在生命中的每一刻都占据着空间中某个特定的区域;那两只动物通常不能同时在同一个空间,两只动物可以在不同的时间在同一个空间等等。

我们不必明确地被教授这种知识。这是一套背景假设,即概念框架,使我们对世界的所有其他思考成为可能。

然而很多AI从业人员很少去在他们的机器中构建这样的背景假设。我们并不是说这样做很容易,相反,这是一个重大的理论和实践挑战。但如果没有它,我们就不会获得复杂的计算机智能。

如果我们建造具有丰富概念理解的机器,其他一些担忧将会消失。例如,哲学家尼Nick Bostrom曾想象过一个强大的AI机器,被指示制作回形针,但他不知道何时停止,并最终将整个世界——包括人类——变成纸夹。

在我们看来,这种反乌托邦的猜测在很大程度上源于对今天无意识AI系统的思考。如果你只能计算统计相关性,则无法概念化损害。但知道时间、空间和因果关系的AI系统是可以编程以遵循更一般指示的事物,例如“机器人不会伤害人类,或通过不作为,允许人类受到伤害”(Isaac Asimov三大机器人法则的第一则)。

我们面临着一个选择。我们可以坚持今天对AI的方法,并且极大地限制机器的作用。或者,我们可以将自己的方法转移到AI系统上,希望开发出对世界有足够概念性理解的机器,让我们不必担心它们的运行。毕竟,任何其他方法都太冒险了。

AD:还在为资金紧张烦恼吗?猎云银企贷,全面覆盖京津冀地区主流银行及信托、担保公司,帮您细致梳理企业融资问题,统筹规划融资思路,合理撬动更大杠杆。填写只需两分钟,剩下交给我们!详情咨询微信:zhangbiner870616

1、猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网(微信号:ilieyun
)字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
推荐阅读
记者名字
{{item.author_display_name}}
{{item.author_user_occu}}
{{item.author_user_sign}}
×