人类将被人工智能奴役？"未来简史"作者这样说

赫拉利的上一部著作《人类简史》（Sapiens）是一本引人入胜的人类物种史。新书《未来简史》更是融合了哲学、历史、心理学和未来主义，以宏大视角审视人类的终极命运。前不久大西洋月刊专栏作者德雷克·汤普森（Derek Thompson）就书中预言的对作者尤瓦尔·赫拉利进行了专访。

以下为《未来简史》作者、历史学家尤瓦尔·赫拉利受访实录（经整理）：

汤普森：在《人类简史》中，你预测工作的终结，以及自由个人主义和人类的终结，让我们一个一个来谈。

你用一个优美的方式总结了人类与权威的关系。最初，我们相信权威来自于神。如今这一观念已经让位于现代自由主义。现代人相信权威出自于人。民主说权力来自选民，而不是神。资本主义说消费者永远正确，而不是圣经至上。营销人员相信眼中西施，而不再倾心柏拉图的完美理念。但你也提出一个不详的预测，人类将同计算机、算法和生化设备融合以实现更好的生活。人自身的权威和地位将让位于数据和人工智能。当下世界有没有什么发明或创新最能佐证这一说法？

赫拉利：我从最简单的事情开始。以GPS应用程序为例，比如Waze和谷歌地图。在五年前，你步行或者开车去了一个地方。那时你根据自己的知识和直觉进行导航。但是今天，每个人都完全依赖手机地图来指路。人们失去了自己导航的基本能力。一旦应用程序发生错误，他们就完全认不得路了。

地图之路只是引示，人工智能在人生道路上的角色又该如何呢？在现实路口你依赖算法程序。换做是面临职业选择或婚姻大事，你是否还会相信算法甚于直觉呢。

当下传播最热的是生物传感器。它们有可能变的无处不在。人们将向他们的生物传感器讨教生活指导。这是一个既有趣又可怕的东西，因为我们不需要再费心为自己的身份负责。我们将根据神经化学信号的生物识别数据来制定决策，以决定如何生活。

汤普森：下面是我对这个想法的理解。这是未来，比如我在周五晚上感到饥肠辘辘。头脑中生起“我想吃炸鸡”的念头，然后咨询我的AI助理，它可以读取生化信号预测我未来的情绪。它对我说：“事实上吃鸡肉沙拉会让你更愉快。”然后我就会去吃沙拉。在这种情况下，这一技术似乎很好。它让我更健康，更快乐。技术拯救我们免于错误的欲望和需求。随着时间的推移，“我”不复存在，因为我把身份外包给了生化分析师。

赫拉利：是的，正是这样。

在这种情况下，我们将看到，决策不是来自神秘的灵魂，而是由大脑中的生物过程所决定。在过去，我们无法搜集数据并进行分析。所以人们想象自己身体里住着一个神秘的灵魂发号施令。从实际的角度来看，这是一个足够好的假设。但是一旦你有能力把生化过程同大数据计算结合起来，你就会开始一场真正的革命，传统的自由概念将不再有实际意义，算法能够比人做出更优的决策。

汤普森：这令人着迷。现在我认为这些算法使我更接近我自己。如果健身追踪器鼓励我跑更多公里，或者娱乐算法发现我喜好的歌曲，我会很开心。我自然喜欢快乐的状态。

但随着时间的推移，我的决策过程止于大脑信号和信号阅读器的层面。“我”不再特别，不再神圣，个性也无从谈起。我只是一堆信号的载体，由电脑进行精准控制。在这种安排下没有“自我”的存在空间。

赫拉利：真正发生的是自我分裂。所发生的不是你更好地理解了你自己，而是自我的消解。到头来你意识到自我并不存在。你不过是一堆复杂生化连接的集合。

你有看过电影《头脑特工队》（Inside Out）吗？我认为这是流行文化对心灵理解的起点。几十年来，迪士尼一直在作品中推行自由个人主义：不要听从你的邻居或政府，跟随你的内心。但在《头脑特工队》中，主角小女孩莱莉的内心世界没有一个核心身份。电影向儿童和父母们展示的是，莱莉是一个机器人，被头脑中的化学过程所操纵。故事中灾难性的一点是你意识到她内心并不存在所谓“真实自我”。在影片开始你可能将“喜悦”认作是莱莉的真我，但随后你意识到所有这些情绪都不是莱莉的真实自我。不同来源之间的平衡才构成整个人格。

我认为这会发生的越来越多。向来为我们所珍视的自我存在观念如今正面临危险。

汤普森：让我们再来谈谈工作的终结。

你用睿智又可怕的方式来看待大规模自动化的政治影响。在19世纪末，法国、德国和日本为其公民提供免费医疗。当时国家的目的并非是为了提高人民幸福感，而主要是为了加强国家的军事和工业潜力。换句话说，福利是必要的，因为人口是必须的。你提出一个可怕的问题：当政府不再需要人口，未来福利会何去何从？

赫拉利：这是一个非常可怕的景象。这并非科幻小说，而是实实在在地发生着。

政府建立大众社会服务系统背后的理由是为强大的军事和经济提供支持。那些已经在军事上称霸全球的国家不会再有饥渴的人口需求。经济中的情况也类似。关键是动机：如果政府失去帮助人民的动机会怎样？

在斯堪的纳维亚，福利国家的传统是根深蒂固的，他们或将继续为大量闲散的人提供福利。但尼日利亚、南非呢？鼓励政府为民众提供服务的主要驱动力是国家繁荣昌盛的愿景，因为实现后者的前提是要有大量健康聪明的公民作为基础。换作在精英国家，人口将不那么重要。

汤普森：最后一点很有意思。因为欧洲和美国的情况正好相反：人们不关心或不认为需要“精英”。特朗普当选和英国脱欧便是此趋势下的产物。为什么现在会发生这些事？

赫拉利：这是一个大问题。我没有预见它会发生。观察欧美政治局势并非我的专长。不过，若是你从健康等客观条件处着眼，美国的西欧的大多数人都有比过去更好的生活条件。但是他们觉得自己被推到边缘失去力量。他们担心后代的境遇不如当下。我认为这些恐惧可能是有道理的。但我不认为抵抗会解决问题。特朗普不会帮助阿拉巴马州的选民重获力量。

汤普森：美国人比以往更加富有，受过更好的教育，还有更好的保健和娱乐。但这些进步的事实并不能阻止事态发展。美国城市正在分崩离析，获胜的特朗普豪言“我一个人就能解决问题”。

赫拉利：世界其他地区的崛起让美国感到正在失去力量，在美国境内，特朗普的支持者感到自己的优势不再。人们忽视了生活条件比以往任何时候都更优越的事实，大多数人都被衰落的恐惧围绕。大多数人的幸福取决于他们的期望，而非他们的实际境遇。

汤普森：关于人类的未来有一个“全民基本收入”（Unconditional Basic Income）设想。生活中充满神奇的迷幻药和虚拟现实视频游戏，人们不再饥饿，也不再有痛苦。但同时人们也停止奋斗。迪斯尼乐园里那种为了胜景而进行的挑战和冒险，被永久居住在乐园所取代。这是乌托邦还是反乌托邦讽刺？

赫拉利：大多数哲学家都会认为你的假设是一个反乌托邦。一个更糟糕的世界。

但你也可以认为，当下人们已经将生活的大部分时间花在虚拟游戏中了。大多数宗教便是在现实生活之上叠加虚拟游戏的产物。做好事得到奖励，触碰禁忌会被惩罚。全世界有数百万人沉浸于这些虚拟现实游戏中而不自知。那么宗教和虚拟现实游戏之间的区别是什么呢？

最近我和侄子一起去捉口袋妖怪。我们在街上遇到另一群孩子，他们也在是在寻找精灵。为了捕捉同一个精灵，我的侄子甚至和对方起了争执。尽管在我看来非常奇怪，但对孩子们而言这些看不见的精灵却是非常真实的。

这让我想到：这不正像巴以冲突吗！双方为了我所看不见的一些东西干戈不休。耶路撒冷建筑物在我眼中只是堆积的石块，但是在基督徒、犹太人和穆斯林心中那却是圣城。他们会为了自己的想象赴汤蹈火。这同样也是虚拟现实。

你的假设提出了一个深刻的哲学问题：生命的意义是什么？历史上只有不到百分之一的人对这类哲学问题感兴趣。

汤普森：对。当整个乡村的人正死于瘟疫，“什么是寻求幸福的理想方式？”这类问题毕竟无济于事。

赫拉利：是的。但是一旦你摆脱了饥荒和瘟疫的威胁，它就变成一个更实际的问题：生命的意义是什么？如果你设计一辆自动驾驶汽车，你必须设计伦理算法应对可能会出现的车祸场景。两害相权，你会选择撞向行人还是牺牲乘客呢？突然之间这成了一个非常实际的问题。一旦我们妥善处理了死亡和痛苦，古老的哲学就会成为问题的中心。