两年前,在2015届国际人工智能(IJCAI)上众多科技圈的顶尖能人们发表了一份联合信,敦促联合国禁止武器的人工智能的发展。
前不久,第二封公开信又发布了,这次又是与2017 IJCAI开始重合。
这次的信件一共有一百多个来自世界各地的机器人和人工智能的创始人公司,他们要求联合国停止拖延,并开始谈判和采取行动。
几年前,自主武器的想法只在科幻小说中存在,但在人工智能迅速发展的当下,这种可怕的幻想已经开始变成现实。
随着全球的军火制造商卡拉什尼科夫最近推出的一个完全自动化的战斗模块和杜克机器人公司安装机枪的无人机,机器人自主化似乎离未来相当的近了。
在2015年信件发出不就,联合国就开始慢悠悠的,召集了一帮科学家,在2016年底成立了一个专门的小组来解决这个问题。
然而,这个新成立的小组还没开几次重要的会议,就有可能面临着解散的危险,因为他们“资金不足”。
这第二封公开信,就是因为对联合国解决问题的态度十分不满才签署的,这次包括埃隆马斯克、谷歌的联合创始人都在上面签了字。
“致命的自主武器威胁将会引发成为世界第三次战争。一旦开发成功,全球武装冲突将会再次扩大规模。
如果这些技术再被独裁者和恐怖分子掌握,那世界上很多无辜的群众都会受到伤害,一旦这个潘多拉的盒子被打开了,人类根本就没有能力再去合上它。”
尽管许多前沿科技界的领导者都在这封信上签了字,但在可预见的未来中,支持派和反对派依然会进行反复的对抗,就像禁止核武器和化学武器一般的艰难。
但这次唯一不同的是,也许自主机器人并不是可以人类控制的力量。