智能与安全漫语

《智能与安全漫语》是一本漫谈并解读万物智联时代“智能”与“安全”多维交织关系的原创科普读本。作者通过“往日踪迹”“现时浪潮”和“未来世界”三个时空背景，由远及近、由浅入深地为读者逐步拨开了蒙在“智能”与“安全”话题上的神秘面纱。 作者从远古生命诞生讲到生物间的智能鸿沟，从风车、验证码讲到图灵测试、强人工智能，从《不错大脑》《头号玩家》讲到身份鉴别、人工智能面临的难题，从阿尔法狗讲到人工智能的学习、卷积神经网络的发展、智能预测系统，从对人工智能带给人类威胁的预测讲到人类应对超级智能的措施……《智能与安全漫语》一书内容丰富，文字生动，知识面广泛，有助于大众正确认识并理解正在蓬勃发展的智能技术和不断提升的安全需求，是一本有趣味、有料、启迪思维的科普佳作。

在人工智能和万物互联的时代，“智能”和“安全”是内在关联的两大主题。《智能与安全漫语》一书围绕智能系统、人工智能和安全领域的基本要素及其交织关系，将重要的概念、事实和观点融入“往日踪迹”“现实浪潮”和“未来世界”三个时空背景之中，以精彩、通俗的讲述和阐释，为大众认识蓬勃发展的智能世界、理解日益重要的安全体系，提供有力的帮助和启迪。

傅 鹂：重庆大学大数据与软件学院教授，博士生导师。 何 湘：重庆大学信息物理社会可信服务计算教育部重点实验室办公室主任。 张亚妮：重庆大学信息物理社会可信服务计算教育部重点实验室主任助理。

上篇 往日踪迹 1 苏醒 2 人与兽 3 人与人 4 葵花与风车 5 控制与网络空间 6 从验证码谈起 7 懂中文的房间 8 快手的环舞 中篇 现时浪潮 1 谁有不错大脑？ 2 金钥匙暗中明 3 陌生人社会 4 蓝巨人的白帽子 5 从深蓝到黑白 6 零到无敌无人助 7 辨物识景 8 看图说话 9 看见未曾发生的事 10 海龟与来复枪 11 莫拉维克悖论 12 自作主张 下篇 未来世界 1 蜿蜒而上 2 天网秋毫 3 透亮的秀场 4 无私的偏见 5 预言者 6 因必发生而不发生 7 头号玩家 8 很好学霸 9 曲别针狂徒 10 从阿西莫夫到阿西洛马 11 超越人类 12 远离人类 参考文献

    陌生人社会 一个人一生能认识多少人？几十、几百、几千，或是几万？也许我们会去查查智能手机上的通信录，把那些曾有联系的、正联系着的，或将要联系的，统统加起来，看看有多少。 就算从儿时就开始广交朋友，三五天就主动结识一位“新人”——这显示他至少是百年一遇的奇才——到了百年寿辰，他认识的人，也难以突破一万。 而此星球上我们的同类已超过70亿。这意味着，一个人就算是“阅人无数”的奇才，他毕生认识的人，在有缘同期路过这世界的全部人当中，也最多不过占了百万分之一。 而且，实际的“熟人”数，比上述估计还要低得多。邓巴数（Dunbar’s number），大概是150，是基于灵长类大脑容量估计得到的一个人所能维持稳定社会关系的人数上限。邓巴数不包含已中断联系和仅认识而缺乏持久社会关系的人数。如果把这些也包含进来，“熟人”数可能会增大很多，这跟一个人的长期记忆力也有关。但就算扩大20倍，也不过几千人罢了，仍然相当有限。 所以，当你走在人的洪流里，为美好生活奔波操劳偶感孤独的时候，不必觉得有多么了不起，因为这必然是一个陌生人社会，是一个陌生人的数量多到让熟人可以忽略不计的世界。因此你其实并不孤单，必有大量英雄与你所感略同。 这就注定了一个人的生活归根结底其实更多是依赖于陌生人而不是熟人。 比方说，假如我们只吃熟人种的粮食和蔬菜、他们喂的猪牛羊和养的鱼，只住他们修的房子、只坐他们造的车……总之假如我们拒绝一切来自陌生人的产品和服务，结果要么是我们自己几乎无法在这个社会生活，要么是把我们所依靠的“熟人”全数累死。 看来我们不得不把自己的生活与希望寄托于陌生人了。 尤其在当今这个万物互联、虚拟空间已延伸到每个社会角落的新时代，我们更是把生活建立在从未谋面的无数陌生人的基础之上了。 这样的生活靠谱吗？这样的社会安全吗？ 其实问题可归结为“陌生人”是否靠谱，“陌生人”是否安全。 这个问题的笼统回答，应该为“否”，至少不应该全然为“是”。你看看1995年的好莱坞惊悚片《不要跟陌生人说话》就知道了。 对于缺乏充分了解的陌生人，是不能托付的。遗憾的是，我们无法去充分了解每一个与我们可能相遇的陌生人，尤其在虚拟无形的空间之中。 但是我们不能听之任之，把生活建立在“不靠谱”“不安全”的基础之上。我们需要可靠的解决方案。 其实我们并不需要了解“陌生人”的一切。很多情况下，我们只需要知道其身份就行了，比如他是警察还是小偷，他是热心人还是骗子。 当需要某个主体提供商品或服务的时候，我们首先应该弄清的是，对方是否真是那个特定的主体：特定的人、特定的组织机构，或特定的万维网服务器，等等。 这就是身份鉴别的问题，无论是现实世界里还是虚拟空间中，这问题都是关于安全性的首要问题。 上当受骗的第一步，就是把对方声称的其实是虚假的身份，错当那个真实的身份了：把一粗男骗子认作历来向往的娇柔佳丽，神魂颠倒地发展成女友；把一精女骗子当作从小亲密此刻陷入困境急需救助的大哥。 这类事层出不穷，让人不得不服。不是说骗子骗术高明，而是说有些上当受骗者，在即便老套的骗术面前，在明明后果并不轻微的场景，也不去想想要核实一下对方的真实身份，毫无身份鉴别这个意识——是他们让人服了。 如何鉴别身份？ 首先弄清要鉴别谁的身份，谁是需要鉴别的对象，即身份的主体。 主体有这么几类：个人、组织机构、硬件设备（如一台计算机或一部手机）、软件（如一个程序或一个进程）。 身份鉴别主要有三大类方法，分别是“所知”“所有”“本是”。 第一，“所知”。就是你知道别人都不知道的一条秘密信息。典型的秘密信息就是口令、密码、密钥。比如，当你登录电脑时，输入自己的口令，电脑就完成了对你的身份鉴别，才让你使用它。 用“所知”来鉴别身份的关键，除了秘密性，就在于专享性。比如你自己的密码只有你一个人知道，因此知道你的密码的人就是你自己，这是基本的假定，否则就无法进行准确的身份鉴别。这就要求你的密码不仅不能告诉他人，而且是不易被他人猜出和破解的，即密码得有足够的强度。 增加密码强度除了两个途径，别无他法：一是增大密码空间，比如增加密码的长度和所用不同字符的数量（如数字和大小写字母并用等）；二是增强密码的随机性，比如不要用有意义或有规律的，或者别人容易猜到的数字或字母组合。 第二，“所有”。就是你拥有别人都没有的一个物件。典型的就是身份证件，比如身份证、护照，以及银行卡一类的东西。采用所拥有的物件来鉴别主体的身份，起码的假定是该物件在这个世界上是独一无二的，不存在无法区分的复制品。对于这样的物件，要做到的就是，首先保管好别遗失，其次如果遗失就要在第一时间让它失效——挂失。 在虚拟的网络空间进行活动的实体，无论是个人还是组织机构、硬件设备还是软件，都可以拥有自己的“身份证”，即“数字证书”。数字证书有着传统“实体”证书接近不同的特点：它无需你自己保管，也不怕克隆——事实上就算克隆给全世界人手一份都没关系，因为别人“拿去”除了用来查看和验证你的身份之外别无他用，而你的身份则是由你的私钥确定的。 第三，“本是”。你本身具备别人抢都抢不走的独一无二的特征，你是谁就是谁。生物特征鉴别，就属此类，包括古老的指纹鉴别，较新的虹膜鉴别、视网膜鉴别，还有越来越流行的人脸鉴别等。 人脸鉴别之所以具有特别的地位，是因为人类本身多半就是“以脸识人”的，这是一种极自然的方式，原则上无需被鉴别者专门配合。“以声识人”和“以态识人”如何？关于前者，我们有声纹识别，而后者，我们有步态识别，都有用，但精度（即“结果专享性”）在搜索空间较大时尚未达到极高的程度。 “所知”“所有”“本是”，这三大类身份鉴别方实上对应着三类性质不同的要素，即知道的专享秘密信息、拥有的专享物件、固有的专享特征。重要场景下，把多个要素并用，显然可进一步提升身份鉴别的可靠性，比如采了指纹，又要求提供口令，这就是“多要素鉴别”。 在这个陌生人社会里，随时都发生着身份鉴别或被鉴别的事件。有时是你要鉴别“他人”的身份，有时是“他人”要鉴别你的身份。这里的“他人”也包括系统，比如你的电脑或手机。换句话说，有时你需要证明自己是谁，有时你需要验证别人是谁。 在这个陌生人世界中，在这个拉近了天边人又疏远了身边人的信息时代，这种“证明—验证”是为了安全，但其过程本身却又暗藏了风险：当你为了得到想要的、为了通过想要通过的，你不得不拼命地证明你是你的时候，你就可能在不知不觉中提供了你所知的秘密，交出了会泄露隐私的信息。 这肯定不美好。 因此我们要解决这个问题。我们的目标是：既要令人信服地证明我是我，又不透露任何秘密信息。这就是“零知识证明”。 零知识证明的基本逻辑是这样的： 第一，参与此过程——称为“交互式证明系统”——的主体有两方，分别是证明者和验证者； 第二，证明者要向验证者证明自己知道某个秘密信息，但又不透露该秘密信息本身； 第三，验证者要验证是否证明者真的知道那个秘密信息，在验证者不知道也不能获得该秘密信息的前提下。 能做到吗？略去严密的数学方法和烦琐的信息交互协议，让我们仅仅想象一个场景。 一个人号称掌握了一项超人绝技，能瞬间区分常人接近无法区分的两个几乎接近相同的物件。但是这个人并不愿意向世人透露他的绝技。 如何验证这个人究竟是功夫高人还是吹牛皮大王呢？ 准备两个接近一样的水晶球，常人根本无法分辨两者有什么差异。 把两个球交给声称身怀绝技的那个人去分辨吗？这是不行的，他说有差别就有差别，到底是否真有差别根本无人能辨。 办法是，把两个球放在桌上，一左一右，叫那个人背过身去。然后随机决定是否交换两个球的位置，具体地，有一半的概率换了位置，有一半的概率没换。最后让那个人转过身来，快速判断到底两个球换位没有。 重复这个试验多次，若那个人真的身怀绝技，就会以远超一半的次数说对，否则只能有大约一半的次数说对。 类似的场景，最初是由以色列魏茨曼科学研究所的计算机科学教授奥代德·戈德赖希描述的。 这就是零知识证明。 零知识证明，这本身就是一种“绝技”。 在当今快节奏的世界，这种折射出科技之光的绝技是让我们可彼此信赖的基础，尽管你是陌生人，我也是陌生人。 ……