与《未来简史》作者尤瓦尔·赫拉利聊聊比人工智能统治世界更可怕的事
人们总是热衷于幻想未来。《人类简史》的作者尤瓦尔·赫拉利（YuvalNoah Harari）在新书《未来简史》中描绘了一幅小部分人进化为神、大部分人被人工智能（AI）所超越成为“无用阶层”的图景。他希望通过描述这种可能性，来提醒人们能够对此警觉并作出行动。
尤瓦尔·赫拉利（YuvalNoah Harari）= Y
P：你曾经对未来世界有过多少种不同的畅想？
Y：未来，人类会将进化为神，这毫不夸张。我们将会获得“神力”，尤其是创造和重构生命的能力。我们可以用基因工程创造新型的有机生物；用脑-机接口（brain-computerinterfaces）技术创造半机械人；甚至创造完全无机的生命体。21世纪经济的主要产物不再是纺织品、车辆或武器，而是身体、大脑和思想。
这将是地球上生命出现以来最伟大的生物学革命。40亿年来，生命被自然选择的规律所掌控。无论你是病毒或恐龙，都要根据自然法则进化；无论仙人掌还是鲸鱼，外观如何古怪另类，都依然局限于有机领域。而现在科学可以用智能设计取代自然选择，甚至能创造非有机的生命形式。
P：写这本书的目的是什么？对《未来简史》中描绘的未来，很多人表现出的并非进化为神人的满足，而是恐惧。
Y：我写这本书正是为了提醒人们正面临的一些更危险的可能性。如果你惧怕某些可能性，仍可以采取些行动。
21世纪，人工智能（AI）和生物科技的兴起肯定会改变世界，我们可以用它们创建不同类型的社会。而如何明智地使用它们是人类所面临的最重要的问题，这比全球经济危机、中东战争或欧洲的难民危机更为重要。
想想生物技术对待家畜的方式。一方面，我们无视对动物的折磨用生物技术设计生长更快、产肉更多的牛、猪和鸡；另一方面，我们也能用它来生产被称为“清洁肉”的肉—在实验室中用动物细胞培养出来的肉，不需要饲养和屠宰一整只动物。这意味着，我们能用生物工程、人工智能和纳米技术创造天堂，也同样可以构建地狱。作出明智选择的好处将是无法估量的，一旦选择错误，代价可能是毁灭人类。
P：《未来简史》中展现出一幅大部分人被超级智能机器人所取代，变成无用阶级的图景，但目前已有很多人工智能领域专家反对人工智能威胁论，你的设想是否太过悲观？
Y：关于人工智能可能对人类造成的威胁，人们有诸多困惑。科幻电影中，AI通常会产生意识，并试图操纵甚至消灭人类，这十分不切实际。智力是解决问题的能力，而意识则是感受和渴望事物的能力。虽然计算机已经拥有了令人惊叹的智力，但他们仍然没有意识，且并无证据表明他们已经在发展意识的道路上。例如，AlphaGo，这个击败围棋世界冠军李世石的AI具有令人惊叹的智力，但它并没有意识，它不会在比赛中感到焦虑，也不会因赢得比赛而感到快乐。因此，对杀人机器人试图灭绝人类的恐惧是毫无根据的。
我更担心的是无意识的AI导致数十亿人失业，形成一个庞大的“无用阶层”。从汽车驾驶到疾病诊断，我们现在开发的计算机软件和人工智能正在越来越多的任务中超越人类。专家估计在20-30年内，不仅出租车司机和医生，而且发达经济体中约50%的工作可能被计算机所取代。该如何处理这数十亿经济上无用之人？我们无从得知。我们没有任何经济模式可以应对这种情况。这可能是21世纪我们面临的最难以破解的经济和政治难题。
此外，随着算法迫使人类退出就业市场，不仅财富，政治权力也可能集中在拥有全能算法的小部分精英手中，从而造成前所未有的不平等。
P：《经济学人》评价《未来简史》是“一部肤浅、华而不实的作品”，论断相当模糊，给人留下的只有幻象。对此，你想说什么？
Y：我收到许多关于这本书的反馈，有些是负面评价，但多数是非常积极的。我并不奢望每个人都同意我的意见。
这本书并没有给出确切答案，而是提了许多问题，并鼓励人们辩论这些问题。例如，当大数据算法比我们自己更了解我们的愿望和意见时，政界会发生些什么事？当出租车司机、医生、教师和警察被人工智能取代时，就业市场会发生什么？硅谷最终会不会不仅生产新颖的小玩意，还生产新宗教？针对这些问题，我给出自己的答案，但这只是辩论的开始。我希望读者能对这些形成自己的看法，而不是一味相信我的话。说到底，问题比我给出的具体答案重要得多。如果人们去讨论这些问题，那么这本书就达到目的了。
P：你在书中提出，因左右脑的分裂，出现“体验自我”与“叙事自我”，而人类没有真正的“自我”。根据你的设想，有人总结称“人生根本没有真实的意义，一切意义都是幻想出来的”。你怎样看待人生的真实意义？
Y：人们寻找人生的意义时，他们大多期望得到一个故事。智人是一种讲故事的动物，在故事中思考。犹太人的故事，基督教的故事……—这些（圣经等）只是由人类发明的小说。没有广阔的故事，他们不明白活着还有什么意义。但我不这么认为。放弃所有的虚构故事后，你终会发现，现实才是最美好的。许多时候痛苦由对虚构故事的信念而引起，比如因宗教信仰而引起的战争。
当我在清晨醒来，我可不想扮演某些虚幻剧中的角色。我想要理解现实，了解真相。快乐并不能为你提供持久的满足，得知真相才是获得幸福的关键。如果你真的了解自己和世界的真相，便没有什么可以让你悲伤。当然，说易行难。
于我而言，最重要的是“什么是现实？什么是真正的真实，还是说这只是我头脑中的虚构？”要回答这个问题，我们就要读懂自己的内心。但到目前为止，科学在研究心灵方面仍有很大困难，因为心灵没有直接观察的方法。你很难用系统并客观的方式读懂自己的内心，曾尝试过的人都知道，即使是几秒钟最简单的心理过程观察，不被分神或压垮，都是极为困难的。而你也只能懂得自己的心灵，永远无法直接窥视另一个人的心灵。
这就是为什么我每天花两个小时冥想，而且每年都要进行一到两个月的漫长冥想静修。我跟一个叫S.N. Goenka的老师练习内观禅修。内观是一种用系统和客观的方式观察内心的方法，心灵一直与身体感觉保持联系。内观时，人训练自己用有序客观的方式观察身体的感觉和心灵对感觉的反应，从而揭示我们最深刻的心理模式。
我在冥想中能够直接观察到的东西，比我遇到的任何技术设备都令人兴奋，也比任何智能手机或计算机更能让我的内心感到平静和幸福。这是我每天与现实接触的方式。至少每天2小时，我的确在冥想中观察了现实。而其他22小时，我被电子邮件、推特和有趣的小猫视频淹没。
P：你会怎样避免自己被海量信息淹没？
Y：我依然在用一个很老旧的的诺基亚手机，没有摄像头，也不连网。人们花几个小时在互联网上看搞笑的小猫视频，却不关心全球变暖。我尽量避免使用智能手机，以免被无关信息淹没，比起不停检查电邮、发推特和拍照，我有更重要的事情要做。
（实习生吴睿对本文亦有贡献）
作者：巴芮张薇晁春彬
来源：《人物》2017年第04期
