AI时代全面来临,如何避免人类和机器人的超级战争?

从机器出现的那一天起,人类就开始思考自己和机器的关系,并在影视作品中体现了这种思考。

电影《终结者》中,AI是人类的终极敌人,要将人类赶尽杀绝;

《终结者》中的猎杀机器人

《黑客帝国》中,AI将人类饲养起来,控制了整个世界;

被AI豢养的人类

美剧《西部世界》中,游客更是被机器人杀死,所有想逃离乐园的人都被锁定,机器人开始了他们的觉醒和反抗之路。

AI反抗人类

AI似乎是影视作品中永恒的反派。

现实当然并非如此。

随着科技的迅猛发展,人类正与AI形成合作机制。机器将人类从繁琐的重复性工作中解放出来,效率被大幅提升、错误率和成本则大幅下降。

然而,许多人对于AI的未来仍有许多困惑与警惕。

人类和AI的关系到底会走向何方?

未来是人类控制AI,还是AI反过来控制人类?

人和机器之间,是否需要建立信任?

终有一天,AI会比人类更聪明、更高效。当这一天到来时,人类该怎么办?

带着这些疑问,造就采访了2006年度诺贝尔物理学奖得主、爱因斯坦奖获得者、被誉为“宇宙胚胎学之父”的乔治·斯穆特。

斯穆特说,AI将重新定义“人何以为人”

造就:未来,人类和AI的关系是怎样的?是协作,还是冲突?

斯穆特:这个问题很有趣。现在人类开始和AI合作共同完成工作。去年,AI和人类工作的比例是2:8,相比数字化的程度而言,这已经是不小的成就了,而更高层次的应用需要在实践中判断。

未来两年,我们预计AI和人类工作的比例将达到4:6,四年后,AI的工作比例将进一步提高。工作比例的变化将改变我们的工作方式。

现阶段,我们正在形成和AI的合作机制。长期而言,AI将重新定义“人何以为人”。人类将不再被所从事的工作所定义,他们将会被社交活动和生活中充满创造性的事情所定义。

短期来看,AI与人类是合作;未来十年,AI会取代大部分人力和工作岗位。人类让AI来运营社会经济和文化生活,人类只要坐享其成就可以了。

AI取代人类的工作

我们将看到的不仅仅是AI能够以成本更低、更高效、更专注、全时段的方式做人类的工作,同时,AI可以让人类的工作更安全。

我举一个自动驾驶汽车的例子:自动驾驶已经被证明,它的安全度比人类驾驶员高出一到两个数量级。未来,人类将不再开车。因为与人工智能司机相比,人类司机对其他人构成了威胁。

我们对AI有很多需求,我们需要机器人做外科手术、需要自动驾驶的汽车……所有这些都将使世界变得更安全、更有效率、成本更低。城市里将不再有那么多汽车,你只要呼叫滴滴,它会开车过来接你,自动驾驶的汽车可以带你去你想去的地方。

AI在手术中的应用

所有这些都是有益的,但也打乱了现有的社会节奏。因为我们享受的这些便利曾是其他人类提供的,这是他们的工作。而现在,他们将不得不去做其他的工作来负担自己的生活。

我认为,技术的进步可以给人类带来诸多改变:我们可以以简单和低成本的方式进行基因改造;我们可以提升人类抵御疾病的能力,变得更聪明、更漂亮,拥有更好的体力。我们可以做很多事情。

与此同时,我们也需要与AI在很多方面进行竞争,人类面临着许多挑战。其一,是人类的伦理道德;其二,是人类和机器互动中的伦理。我们如何去处理这些问题呢?

我们希望,我们设计和培训出的机器是友善的,是善于与人沟通的。世界上的AI会越来越多,人类要做的也必须是表现友善。人和机器必须以小组的形式合作,这意味着建立信任是至关重要的。

建立人类和AI之间的信任

建立信任的方式,就是表现友善。让机器和机器,机器和人之间变得友善。

造就:在未来,是人控制AI,还是AI控制人?

斯穆特:现在,人工智能的主要驱动因素,是它们能让人类做一些自己不能做的事情,它们也能让人类制造成本更低的产品,在生产环节或工作岗位上节省开支。但伦理问题远未被考虑清楚。

人工智能的崛起要比人类自身文明的进步快得多,这就意味着我们需要关注伦理问题。比如和AI互动意味着什么?人们不再做那些日常工作,AI取而代之,而AI会比人类更聪明、更高效。我们如何处理这种情况?这是一项艰巨的任务。

现在,人工智能机器学习的来源是人类的行为。它们模仿人类进行学习。我相信,如果你的目标是制造出比人类更人性化的人工智能,那么,你可以实现目标。

你可以让它们看所有的电影来了解人性,读所有的书,听所有的电话交谈……它们可以观察人类的所作所为,进而模仿人类的行为。它们可以模仿得惟妙惟肖,却把人类的优点和缺点都模仿到了。

AI的学习和模仿

既然人工智能是从人类提供的例子中学习,如果人类有不好的特征也一样会被学习。除非,它足够聪明,能够在海量内容中剔除不好的特征,只保留好的特征。

所以,问题的关键在于AI学习的是什么。AI最终控制了一切,尽管人们可能认为控制权在自己手中,但实际上AI才是控制者。人类要教AI友善,做正确的事。

人类期望,人工智能的到来使生活变得更好。同时,AI要向更重要、更强大的方向发展。AI将成为我们生活中必不可少的一部分。

造就:AI距离拥有自我意识还有多远?

斯穆特:这个问题不那么好回答,除非对意识有一个明确的定义。

我认为,未来有一天,人们会和AI系统互动。AI系统会有个性、有感情,能判断对错,并以人们描述的方式表现出它们的意识所在,人们会向它们描述出所需要的各种各样的动机。

即使在技术上,这不会导致AI拥有意识,但人们会接受AI这个完全智能的系统,人们会认为它们和人类相差无几。

电影《机器人总动员》中的一幕

翻译 | 一成;编辑 | 陈溪 田晓娜

校对 | Lily;视频 | Eddie;版面 | 田晓娜