人工智能缔造师——构建人工智能的大师们所揭示的真相

本书是未来学家 Martin Ford 围绕通用人工智能及其影响相关话题，与全球23位人工智能领域具有独特地位的哲学家、科学家、教育家、工程师和企业家的访谈合集。 这些人中包含当代科技深刻思想者牛津大学教授 Nick Bostrom 和加州大学伯克利分校教授 Stuart Russell，图灵奖得主 Judea Pearl、深度学习领域三巨头 Yoshua Bengio, Geoffrey Hinton 和 Yann LeCun，以及在围棋领域一举突破人类很好棋手水平的 AlphaGo 之父 Demis Hassabis，长期进行认知科学与人工智能交叉研究的麻省理工学院教授 Joshua Tenenbaum。也有一些国内熟知的科学家如斯坦福大学教授 Fei-Fei Li 和 Andrew Ng等等。 作为人工智能领域的，他们用自己的行动推进了这个领域的发展。这些人在影响着人工智能前进的脚步。每个被访者都有深刻的思考，从不同的视角看待人工智能的未来发展，他们既充满激情，又常忧心忡忡，各自对未来发展的预测差异极大。书中充满了各种各样的见解、观点和预测，以及常常是尖锐的冲突。传达的意思很清楚：人工智能是一个广阔的领域。未来创新的性质、创新的速度以及创新的具体应用都笼罩在深深的不确定性之中。这种冲突也正是本书值得阅读的关键因素。人类总是会有对未来的期待和担忧，如何更好地利用技术是摆在我们面前的那道难题，大师们给出他们的答案和建议，你可以学习和体会到一些之前几乎从未有过的视角和推理。

引言
约书亚·本吉奥
斯图尔特·罗素
杰弗里·辛顿
尼克·博斯特罗姆
扬·勒丘恩
李飞飞
德米斯·哈萨比斯
吴恩达
拉娜·埃尔·卡利欧比
雷·库兹韦尔
丹妮拉·鲁斯
詹姆斯·曼伊卡
格雷·马库斯
芭芭拉·格罗斯
朱迪亚·珀尔
杰夫·迪恩
达芙妮·科勒
大卫·费鲁奇
罗德尼·布鲁克斯
辛西娅·布雷西亚
乔什·特南鲍姆
奥伦·埃齐奥尼
布莱恩·约翰逊
关于何时才能达到人类水平的人工智能的调查结果
致谢

     马丁·福特：你处于人工智能研究的前沿，所以我想先问问你，你认为在未来几年内，我们将在哪些当前的研究问题上看到突破，以及这些问题将如何帮助我们走向通用人工智能(AGI)？ 约书亚·本吉奥：我不知道我们将会看到什么，但我可以告诉你，我们面临着一些非常棘手的问题，我们现在离人类水平的人工智能还很远。研究人员正试图了解问题所在，例如，为什么我们不能建造出和我们一样真正了解世界的机器？是因为我们没有足够的训练数据，还是因为我们没有足够的计算能力？我们中的许多人认为我们还缺少所需的基本要素，如理解数据中的因果关系的能力——这种能力实际上使我们能够在与我们所接受的训练截然不同的环境下进行归纳并得出正确答案。 人类可以想象自己正经历一种对他们来说接近陌生的体验。例如，你可能从未发生过车祸，但可以想象一下，因为根据自己已经知道的所有事情，你实际上就已经能够进行角色扮演并做出正确的决定，至少在你的脑海中是这样。当前的机器学习是基于监督学习的，一台计算机基本上了解它所看到的数据的统计特征，需要手动完成该过程。换句话说，人类必须提供计算机可以学习的所有这些标签，可能是数以亿计的问题的正确答案，然后计算机才能从中学习。 目前有许多研究正在我们做得还不好的领域中进行，例如无监督学习。这是计算机可以更加自主地获取有关世界的知识的研究领域。另一个研究领域是因果关系，计算机不仅可以观察数据，如图像或视频，还可以对其进行操作并查看这些操作的效果，以推断世界上的因果关系。例如，DeepMind、OpenAI或Berkeley正在使用虚拟智能体(virtual agent)，朝着能够正确回答这些问题的方向推进，而我们也在蒙特利尔做这些事情。 马丁·福特：你是否可以列举出任何目前真的正处于深度学习的最前沿的特定项目？显而易见的一个是AlphaZero，但还有什么其他真正代表了这项技术的前沿的项目呢？ 约书亚·本吉奥：有许多有趣的项目，但我认为从长远来看最有可能产生重大影响的项目是那些涉及虚拟世界的项目，在这些虚拟世界中智能体尝试解决问题并试着了解周围的环境。我们正在MILA进行此项工作，在DeepMind、OpenAI、Berkeley、Facebook和Google Brain也有相同领域的项目在进行中。这就是新前沿。 但重要的是，这不是短期研究。我们并非在研究深度学习的某个特定应用，而是正在研究未来智能体如何学习了解周围环境以及该智能体如何学习说话或理解语言，特别是我们所说的基础语言(grounded language)。 马丁·福特：你能解释一下这个术语吗？ 约书亚·本吉奥：当然，之前尝试让计算机理解语言的许多努力都只是让计算机阅读大量的文本。这很好，但是除非那些句子与真实事物相关，否则计算机很难真正理解这些词语的含义。例如，你可以将单词链接到图像或视频，也可以链接到可能是现实世界中的对象的机器人。现在有很多对于基础语言学习的研究试图建立对语言的理解，即使它只是语言的一小部分，计算机能够理解这些词的含义，并且根据这些词做出相应的反应。这是一个非常有趣的方向，可以对对话的语言理解、个人助理等事项产生实际影响。 马丁·福特：那么，那个想法基本上是在模拟环境中让智能体放松并让它像孩子一样学习？ 约书亚·本吉奥：事实上，我们希望从儿童发展科学家那里获得灵感，他们正在研究新生儿在生命的最初几个月如何经历一系列发育成长，逐渐对世界有更多的了解。我们并不接近了解这其中的哪一部分是天生的或者是后天学到的，我认为这种对婴儿发育成长的理解可以帮助我们设计自己的系统。 几年前我在机器学习中引入的一个在训练动物中很常见的想法是课程学习(curriculumleaming)。我们的想法是，我们不只是把所有训练样例按照任意顺序堆放在一起；相反，我们将按照对学习者有意义的顺序显示这些样例。我们从简单的事物开始，一旦掌握了简单的事物，我们就可以将这些概念用作学习稍微复杂的事物的基石。这就是我们要上学的原因，也是我们在6岁时不直接上大学的原因。这种学习方式在训练计算机方面也变得越来越重要。 马丁·福特：我们来谈谈通往通用人工智能的道路。显然，你认为无监督学习——本质上是让系统像人一样学习——是其中的重要组成部分。这足以让我们实现通用人工智能，还是我们需要实现其他关键组成部分和突破才能实现？ 约书亚·本吉奥：我的朋友扬·勒丘恩用了一个很好的比喻来形容这一点。我们正在爬山，大家都很兴奋，因为我们在爬山时取得了很大的进步，但是当我们接近山顶时，我们开始看到有一系列其他山丘在面前。这就是我们现在在通用人工智能的开发中所看到的，我们当前方法存在一定的局限性。例如，当我们爬第一座山时，正如我们发现如何训练更深的网络时，我们并没有看到正在构建的系统的局限性，因为我们只是看到眼前的几步路。 P14-15