如何让机器人变得善良
机器人军团现在不加思索地执行我们的指示。我们如何确保这些生物，始终以我们的利益行事呢？我们应该教他们学会思考吗？如果是这样，我们如何教他们辨认对错？
传说400年前，在现在被称为捷克共和国的布拉格，有位犹太教的拉比跪在伏尔塔瓦河河畔。他从水中捞出粘土，小心翼翼地拍打捏出人的形状。原来，布拉格的犹太人被诬告在他们举行的宗教仪式中使用基督徒的鲜血，因此遭到袭击。所以拉比犹大·洛伊乌·本·比扎莱尔（JudahLoew ben Bezalel）决定，他的社区需要一个比任何人都强的保护者。他将希伯来文的单词emet（真相）刻在黏土巨人的前额上，并将一个写有卡巴拉教派公式的胶囊放进它的嘴里。这个生物就有了生命。
第一个人造人格勒姆就这样诞生了，格勒姆在贫民窟巡逻，保护犹太社区内的人，并从事有益的工作：扫街，送水和劈柴。一切都很顺利，直到有一天平静被打破了，拉比忘了按照黏土人的要求让其在安息日休息，于是这个怪物开始了一场凶残的作乱。拉比被迫擦掉了格勒姆前额上刻字的首字母，它额头上的字变成了met，在希伯来文中是“死亡”的意思。生命从粘土人的身体中消逝，它崩落成灰尘。
这个关于制造人形机械仆人风险重重的警示性故事，在人工智能时代获得了新的意义。机器人军团现在不加思索地执行我们的指示。我们如何确保这些生物，无论它们是用粘土还是硅制成，始终以我们的利益行事呢？我们应该教他们学会思考吗？如果是这样，我们如何教他们辨认对错？
在2018年，这个问题变得更加迫切。自动驾驶汽车在城市的街道行驶数百万英里，同时做出可能影响其他道路使用者安全的自主决定。日本，欧洲，中国和美国的机器人专家正在开发服务型机器人，为老年人和残疾人提供护理。2015年日本理化学研究所研发的护理型机器人ROBEAR（它们长着小熊猫的脸）就致力于帮助那些行动不便的人，轻柔的动作可以将人类抱起或放下，或者是帮助其站立起来。但是我们也可以想象它们会轻易把人撕得粉碎。
自2000年以来，美国陆军就部署了数以千计的配备机枪的机器人，每个机器人都能够在没有人类参与的情况下定位目标并瞄准目标（然而，他们不允许在无人监督的情况下扣动扳机）。这些越来越复杂的机器人正准备接管美国陆军最危险、枯燥无味和肮脏的工作。它们已经用于寻找埋藏在路边的炸弹，执行空中侦察任务和监视军事基地周围情况。
在科幻小说或电影中，人工智能（AI）经常让人类陷入噩梦中。比如《2001》、《终结者》、《银翼杀手》等电影中，智能电脑或智能机器最终将武器对准它们的人类创造者。电动汽车公司特斯拉、商业太空飞行公司SpaceX首席执行官埃隆·马斯克曾发表评论称，人工智能的进步就相当于人类正在召唤恶魔。他声称：“我认为我们应当对人工智能万分小心。如果让我猜测人类生存面临的最大威胁，人工智能或许就是。”著名物理学家霍金也表达了自己的担忧，他认为人类不断在AI领域探索“是个极大的错误，该错误甚至可能是人类有史以来犯过的最愚蠢的错误。”
2016年夏天，白宫委托专家研讨机器人的道德层面。麻省理工学院情感计算部主任罗萨琳德·皮卡德说：“机器的自由度越大，就越需要道德标准。”
现在蜿蜒流淌的伏尔塔瓦河岸边矗立着未来派风格的办公大楼，就在犹太拉比雕刻他的格勒姆的地方，整齐排列的电脑嗡嗡作响。这些电脑是奇特的教师，像忠诚于教育任务的人类一样有崇高的目的。他们的学生没有坐在每台电脑屏幕前，而是存在于硬盘上。这个名为GoodAI的虚拟学校教育的是人工智能：教它们思考，理智和行动。GoodAI的总体愿望是培养具有伦理的人工智能。“这并不意味着让人工智能遵循既定的规则，按照人类规定的可能情况，该做什么以及不应该做什么，”捷克成功的电子游戏设计师兼GoodAI创始人马雷克·罗莎（MarekRosa）说。他已经在该公司投资1000万美元。“我们的想法是培训它们将知识应用到以前从未遇到过的情况。”
专家们一致认为罗莎的做法是明智的。“预先为人工智能可能遇到的每一种情况都设定道德选择是不太可能的，”纽约大学的认知科学家，几何智能公司的首席执行官和创始人加里·马库斯解释说“例如，你如何为公平还是伤害的概念编程？”他指出，这种编码方法不能解释人类信念和态度的转变。想象一下，美国的国父们也算是先进了，但他们允许奴隶制，压制女性的权利等等呢，人工智能如何理解这些情况？
最终，我们需要一台能够自学的机器。罗莎认为人工智能就像一个孩子，作为空白的石板可以刻上基本的价值观，并且能将这些原则应用于不可预见的情景中。这一点和人类很像，人类通过观察他人的行为，从而直观地了解道德上可接受的东西。
GoodAI通过提供数字导师来监督人工智能获取价值观的进程，然后逐渐增加它们必须做出决定的复杂情况。罗莎认为，父母不会让孩子一开始就在公路上跑。“同样的，我们将人工智能置于越来越复杂的环境中，它们可以利用以前学到的知识做出行动，并从我们团队获得反馈。”
作者：何梦雨
来源：《世界博览》2018年第05期
