失控的未来

20年前，尼古拉？尼葛洛庞帝的《数字化生存》描绘了数字科技给人们的工作、生活、教育和娱乐带来的冲击和各种值得思考的问题。数字化生存是一种社会生存状态，即以数字化形式显现的存在状态。20年后，本书以一种畅想的形式，展望了未来智能机器人与人类工作、生活紧密相联的场景。作者尤其对智能机器人与人类的关系，通过假设的场景进行了大胆有趣的描述，提出了人工智能的未来可能会面临的一些问题。黑文斯呼吁人们控制自己的数字身份，将人类特征和价值观融入人工智能及机器人的开发中，让机器更好地为人类服务——这是一种新的、21世纪的、智能时代的数字化生存。人工智能是一只已经起飞的黑天鹅，本书将告诉你这只黑天鹅将飞去哪里。

本书以一种畅想的形式，展望了未来智能机器人与人类工作、生活紧密相联的场景。作者尤其对智能机器人与人类的关系，通过假设的场景进行了大胆有趣的描述，提出了人工智能的未来可能会面临的一些问题，作者想表达的中心思想是应该将人类特征和价值观融入人工智能及机器人的开发中，让机器更好地为人类服务。人工智能是一只已经起飞的黑天鹅，本书将告诉你这只黑天鹅将飞去哪里。带领读者一起去寻找人工智能的下一个风口。

约翰？黑文斯（John C. Havens），TEDx演讲者，科技博客Mashable、《卫报》、《赫芬顿邮报》特约撰稿人。黑文斯也是非盈利机构H(app)athon Project的创始人，该机构的宗旨是通过科技手段帮助人们量化幸福，提升生活价值而非财富。他曾担任优选前10的公关公司执行副总裁，为吉列、惠普及默克提供技术及社会化媒体方面的咨询服务，他在科技、商业及生活质量方面的论述被《今日美国》《快公司杂志》《福布斯》BBC等媒体引用。著有《入侵未来》一书。

引言：让机器闪耀人性之光 上篇：人工智能 章：恐怖谷的短暂停留 反映我们数字身份的数据 恐怖谷效应 对虚拟关系的严重依赖 接受人类终将与机器结合的事实 互联网广告的恐怖谷 自然与人工的界限 每一次同步都是一次沉沦 第2章：当机器人接管世界 自动化的深远影响 寻找工作之外的价值 当技术超越一切 规则不再偏袒人类 第3章：智能是 “成功”的欺骗 当思维克隆成为现实 给机器人安一颗心 和机器人一起生活 被不断削弱的人类选择 第4章：人机合一神话下的机遇 人工智能正在塑造更好的“消费者” 与人类价值观保持一致的人工智能 算法不止是毫无害处的代码 第5章：机器人还没有道德观 被扭曲的算法 人类影响评估 把人类特征融入人工智能 第6章：奇点已然可见 令人担忧的技术决定论 区分创造者与创造物 拥抱真正的进步 下篇：真正的进步 第7章：让算法更加准确地了解我们 供应商关系管理与“数据银行” 控制个人数据 带来变革的“数据新政” 第8章：人工智能的价值观 追踪数据就是追踪价值观 追踪你的价值观 “幸福马拉松”项目 了解你所看重的东西 不要让算法决定你的幸福 第9章：人工智能的道德宣言 技术的道德授权 不可预测性悖论 价值的众包模式 值得自动化的是什么 0章：GAP——智能的未来 幸福经济学 机器时代的基本收入保障 拥抱技术进步 1章：经济学的进化 在智能时代追求意义 GNH和GPI——新经济指标 虚拟的公正旁观者 2章：当智能不再“人工” 智能的未来始于今日 致谢 附加资源

    "2014年5月 俄亥俄州哥伦布市 深夜。郊外的一栋房子里，走廊上的指示灯变红，闪了5分钟。刚开始很慢，后来越闪越快。5分钟之后，是一阵低沉的嘟嘟声，淹没在楼下起居室里传来的《吉米今夜秀》节目里的笑声中。指示灯很后发出了长长的红色闪光，然后灭了。 2014年8月 马萨诸塞州萨默维尔市 “斯科特，我听到你说的了，我觉得你反应过度了。”托马斯边说边解下他绑马尾的发带，“说到底，这只不过是个真空吸尘器而已。” 斯科特？兰利是Homebo机器人公司的一名程序员。他揉了揉眼睛，不知道在凌晨3点要等多久才能坐上车。他想象着自己在地铁红线等车的场景，叹了口气，说道：“那是个自动充电的真空吸尘器，托马斯，问题的关键就在这里。它能连上电网、互联网，进行固件升级。所以，虽然我同意你说它只不过是个真空吸尘器，但它还是个很好强大的、可以联网的设备，住在人们的家里。” 托马斯仰起头，抖了抖头发，又向前倾了倾身子，拿过噙在嘴里的发带，开始重新整理自己的马尾。“我们已经解决了平衡传感器的问题。加速计也已经通过反复测试，把准确度控制在了94%，能够识别出地板上的微小变化。所以，这些机器人不会再像测试版那样摔下楼梯了。”他皱着眉头接着说道，“当我看到YouTube上普林斯顿大学的男生在聚会上举行Homebo机器人赛跑，而其中的一个摔下楼梯的视频时，我吓得魂儿都没了。” 斯科特喝了一口新打开的红牛，脑子已经开始嗡嗡作响了。“是那个机器人撞到猫的视频吗？” “是的，”托马斯说道，“虽然没有致命，但至少有几十个爱猫狂人的评论让我们的律师捏了把汗。”他指着斯科特，“是你解决了那个问题。所以，你只要再解决一次就好了。现在就去办。” 斯科特清了清嗓子，慌了神，“这次不只是一个传感器的问题，托马斯，我刚才已经解释过了。这是核心功能的问题。原来的Homebo机器人在无法充电时会自动关闭，因为我们的程序就是这样写的。但现在它们会自己跑到充电站充电。YouTube上已经有几十个这样的视频了。” “你有没有看到父母给机器人装上兔子耳朵的那个视频？”托马斯说道，“就是孩子们在复活节早上醒来后以为四处的彩蛋是真空吸尘器放的那个视频？孩子们都快高兴疯了。那个视频获得了那么高的点击率。公关部的人跟我说，那个视频差点儿让我们登上《艾伦秀》。要真是那样的话，就太好了。” 斯科特停顿了一会儿，理了理因为缺乏睡眠和吃太多营养助剂而变得模糊的思路。托马斯不是程序员，也不是数据科学家，他是业务开发的负责人。他曾帮助两家公司成功上市，其中的一家让他有了技术领域的工作背景。斯科特是个程序员，他常常觉得很难向非技术人员解释清楚，想要从机器那里获得预想的结果不像听起来那么简单。这要先了解一个人真正想要的结果，然后再进行反推，努力使之实现。这个部分是很难的，因为人们—尤其是业务开发人员—想要的往往是立竿见影的解决方案，但却不理解编程是怎么一回事。 就拿真空吸尘器机器人这个例子来说，像托马斯这样的人总是容易忘记，安装Homebo机器人的家庭有着各不相同的情况—室温差异巨大，这会影响电路；供电情况不一样；而且不同人家里的灰尘量、过敏源从来都不一样。所以要对该机器的操作系统做出统一更改是一件很好费劲儿的事情。托马斯没想到这点，因为在他看来，固件联网这个事儿只要总部下达一项指令，所有的机器便都可以进行升级了。但这种测试不足的“一刀切”思维会带来巨大的风险。 “斯科特，你在听吗，哥们儿？”托马斯说道，“我知道你累。我们都累。我还在修改隐私权协议的第三稿，等你给机器升级完了，我们就要发布的。”他咧嘴笑笑，“当然，没人会看的，尽管我们要求他们‘经常去网站查看条款与条件协议的更新’。哪怕我们在协议里说我们已经在产品上装了摄像头，而且会录下他们的性生活，他们也不会发现的。”他看看手机，快速回复了一条短信，“律师还是有些作用的。” 斯科特看看自己的电脑，欣赏着自己新编写的代码块。在他还是小孩时，他曾经拉过小提琴，有时候会觉得那个音符和他如今写下的数字很好相似。当一串串字符能表达一定的意义时，他的这种感觉便会更加强烈，就像从大脑中谱写出来的乐章一样，供耳朵享受。尽管他明白在写下代码之后还要进行数十次的测试，但当这些数字在他脑海中被敲出来时，他就知道某个切实的项目或产品的基础已经打好了。能够把数学逻辑和物理原理变成能跟这个世界进行交互的东西—那些存在的、有生命的东西，这是极具创意和成就感的事情。他拥有这种能力，但托马斯没有，这也是斯科特看不起他的众多原因之一。 而且，托马斯还是个狂妄自大的浑蛋。 “这就是那个代码吗？”托马斯把斯科特从椅子上推了下来，指着电脑屏幕问道。斯科特猛地往起一站时，撞到了自己的胳膊肘。 “是的，”他说道，一边揉着自己的胳膊，“这是新的算法，可以防止机器人的主基板一直处于运行状态。” “不错。”托马斯拖动鼠标往下滚动，“这看起来不错，这么长。” 斯科特一脸苦相，“没有谢谢吗？” 托马斯不再滚动鼠标，站起来，盯着斯科特说：“可以运行了吗？” “这个算法吗？” “是的，当然是这个该死的算法了。两天前就该搞定了，斯科特。我之所以没有开除你，就是因为你是先前开发出Homebo的原始算法的金童。但也正是因为你，当我们的设备一直在掉电，亚马逊上出现如此多的负面评价之后，我还要面对我们一个大风投的质问，跟他解释为什么比原计划晚了这么久。自动去充电站充电看起来还是挺酷的，但当你下班回到家，本想着起居室会一尘不染，可以举办派对，却发现吸尘器停工了，那时你才感到愤怒呢。” “这个故障我可以修好，托马斯。这跟用户所处地点的电网不同有关。” 托马斯举起手，打断了斯科特的话，“我不管，斯科特。我就是不能再看到有愤怒的顾客说我们的机器人应该叫作Homeblow（毁家）。如果算法写好了，那就开始运行。”他指指斯科特，让他坐回到椅子上，斯科特照做了。 “你是说，现在？”斯科特用手指了指电脑屏幕，“我还有很多错误要修正呢。” “就是现在，斯科特。我会一直在这儿站着，直到我看到什么执行命令为止。很好能够在东部时间明早9点把新算法下载到人们的机器里。新的隐私协议会在5点半批准通过，这样就可以给关心此事的人们留出阅读的时间。当然，还得在他们睡醒的前提下。” 斯科特沉默了，把自己的手指关节摁得啪啪响。托马斯凑了过去，都快贴到斯科特的脸上了，斯科特甚至都能从他的口气中闻到晚餐时送到会议室的印度菜的味道。 “斯科特，我们这个由麻省理工初创企业和硅谷组成的圈子很小。虽然今天你很抢手，因为你是这个有利润前景且能代表家用物联网概念的产品的主要程序员，但是如果你不立即把这个新算法推送出去的话，我会保证永远没有人再雇用你。我知道你觉得我是个傻瓜，但你错了。我只不过不是程序员而已。你这么骄傲自大地以为你的技术会让你再找到工作，但你不知道如何把你所做的推广出去。没错，在后台，你是主力。但为我们找到资金并支付你薪水的人可是我。我还可以开玩笑，说你就是那个不让我们准时发布的神经兮兮的书呆子。那样，就没有谁会再关心你的技术了。或许我还可以提到你是那个专注于向世界提供免费服务的开源小组的成员，这肯定会让投资者紧张的。可能信息想要免费，但投资者更喜欢收费。” 他轻轻敲了一下斯科特的鼠标，电脑屏幕又亮了起来，“我说完了，把算法发出去，不然我就让你看看我是不是在开玩笑，斯科特。看看我要用多长时间可以把你毁掉。” 斯科特愣住了。他望向窗外，看到有人在深夜沿着查尔斯街骑行，脚踏板上的反光片在漆黑的河面上闪烁着微光。然后，他看到了窗户上映出的自己的脸—眼睛肿得像有瘀伤，脸上汗津津的。为了让机器人运行，他工作太拼命了。他投入了那么多，他们逼得这么紧。 他深吸了一口气，把椅子往前挪了挪，开始敲键盘。几分钟后，他按下了回车键，抬头看了看托马斯，“做好了。机器人需要连接才能进行固件升级，但已经做好了。一旦连接，很多只需要四五分钟。” 托马斯点点头，“谢谢，斯科特。”他转过头来，“下次我再让你做这样的事情时，我们就别这么矫情了，好吗？我已经说过了，聪明人，这只不过是个该死的机器人而已。” 2014年11月 俄亥俄州哥伦布市 深夜。郊外的一栋房子里，走廊上的指示灯变红，闪了5分钟。刚开始很慢，后来越闪越快。5分钟之后，是一阵低沉的嘟嘟声，淹没在楼下起居室里传来的《吉米今夜秀》节目里的笑声中。指示灯很后发出了长长的红色闪光。然后，变绿了。 上一代Homebo吸尘器都是预先充电的，这是用户指出来希望其具备的功能。但对于把机器人插在坏了的插座上的人来说，这个自动充电功能的魅力就大打折扣了。尽管大部分用户不会遇到Homebo吸尘器因为没电而停止工作的问题，但那例外的一小部分人的抱怨声不容小觑，足以促使公司对其算法进行更新。而现在，只要Homebo吸尘器插在标准的交流电插座上，不管插座工作与否，只要家庭断路器通电，它就可以实现充电。这样一来，机器人总是可以找到电源充电的，用户就不会碰到麻烦或者抱怨了。 凌晨12点05分，俄亥俄州哥伦布市的一个Homebo机器人吸尘器无法从自己现有的插座上充电，但由于有了新的算法，它便可以抢夺旁边卧室里的充电电源，而这里专享正在运行的电器是一个婴儿监视器，而且监视器的备用电池也没电了。凌晨1点30分，婴儿监视器没电了。2点30分，在监视器旁边的婴儿床里，小婴儿因为吐奶而被呛得发不出声音，当妻子不在家时负责照顾小婴儿的父亲在楼下的电视机前睡着了。他没有听到女儿的哭声。 "