人工智能十宗罪
人工智能(AI)已经成为科学前沿最热点的研究领域,它构成许多光怪陆离的科幻故事,人们醉心其中。
然而,一些著名科学家和科技先驱,却认为人工智能的终极影响非常不好,将给人类带来十大危害。
No.10 致人大量失业
近年来,机器代替人,已成事实。大到汽车制造,小至自助服务终端,都有这种趋势。
当机器配上人工智能,它就能自动更新,人类被代替的趋势,愈演愈烈。这将造成失业工人大量涌现,只有少数人从中受益,比如智能机器的制造者、使用者和升级者。
No.9 陷入道德窘境
如果人工智能控制一辆汽车,载着几名乘客,在公路上行驶。突然发现路上有一麻袋垃圾,智能汽车会怎么办?它会转弯避开垃圾,撞向旁边造成车祸而伤人呢?还是会径直撞向垃圾?我们都希望是后者。
但是,假如路上的不是一麻袋垃圾,而是一只病狗,或者一个婴儿呢?智能汽车会认为一只动物不值得去救,或者一个婴儿远不及几个乘客的生命宝贵,而直接撞上去吗?
如果人开车,马上就能做出正确决定,但汽车自动驾驶的话,估计会酿成悲剧。不管机器有多智能,它和人始终有差距,它做不出道德判断!
No.8 方便黑客入侵
未来的冰箱、烤箱、电灯、汽车等,日常用品都将联网。方便我们自己,同样也方便了黑客。
Siri是苹果iOS系统的智能语音助手。未来,它将浓缩进一个小盒子,接入网络,全天候工作,自动更新,自动记录,保存你所有信息。Siri一旦被黑客攻取,后果非常严重。
由人工智能储存保护个人信息,你能放宽心吗?
No.7 差错不曾减少
最初,人类以为机器按事先编好的程序工作,效率提升,不会出差错。
实际上,机器频频出错,由此带来的烦恼不胜枚举。它误听语音指令,它无动于衷,它错误识别命令,它反应过激,等等。这与机器带来的好处几乎抵消。
更可气的,明明出了差错,应当立即停止,但机器仍在运行,甚至继续执行下一步操作!因为它根本意识不到出了差错,它在执行程序而已。只要事先编好的程序不中断,机器就不会停止,无论有没有出差错。
No.6 差错更难修正
人犯错了,自己能意识到,能立即改正。“知错能改,善莫大焉。”
机器出错,自己意识不到,相反,需要人找到出错的根源。重新检查程序,浏览代码,确定根源,然后编写补丁程序,再检验补丁,更新补丁,有时需要补丁的补丁,最后甚至导致程序整体升级。
两相比较,孰易孰难?高下立判!对人而言,只需一句告诫:“不要再犯错,因为……”对机器而言,修正差错似乎繁琐到令人厌烦,很不值得。
No.5 反仆为主
机器是帮助人的,智能机器对人的帮助应该更大,可实际上呢?
假如你家里有位机器人,它储存你的个人信息,很了解你。你喜欢啤酒、披萨、冰淇淋,在网上订外卖。但机器人觉得这些食物不健康,为你着想,就在网上私自更改菜单,改成了胡萝卜、生菜、鳕鱼肝油。
再假如你皮肤过敏,怕晒太阳。机器人在网上获悉天气预报,它觉得晴天紫外线强烈,不适合你出门。为你着想,它把你锁在家里,坚决不开门(门及家里各种设备都是联网的)。你无法上班,怎么交差?假如你的上司也是机器人,你又怎么解释?
No.4 致人懒惰退化
制造机器人,就是为了帮助人类,使人类更轻松惬意、繁荣兴盛。比如,生活中机器人随时提醒,什么时间吃药,喝酒到什么程度刚刚好;机器人还可以洒扫庭除、烧水做饭。人类要么悠闲逛街,要么一心搞研发,其他什么都不用做。
实际上恰恰相反。人类不是更悠闲,而是更懒惰,甚至退化。机器人承担一切家务,打扫拾掇,买米买肉,煮饭烧菜等等。人类则呆在家里不出门,蜷在沙发看电视,窝在床上玩手机。
如今,年轻一代参加户外活动越来越少,他们通过手机和网络相互沟通。下一步,他们就呆在家里,窝在床上,蜷在沙发,动动嘴唇发发指令,智能机器包办一切,而我们越来越懒,身体机能越来越退化。
No.3 反叛终结人类
在美国科幻大片《终结者》里,人工智能觉醒,发动核战,操控机器,于是各种用途各种形状的机器人、销毁机器人的钢铁溶池、无所不在的天网等,有条不紊地运行;人类处境非常不妙。
人工智能配上武器,后果将非常严重。今天,给机器人装上枪炮,相当于给人类提前掘了坟墓,奏了死亡之曲,直到将来有一天,机器智能觉醒。
战场上,机器人减少人类伤亡,但是,我们不能保证机器人的枪口永远朝外。人类制造机器人,机器人学会杀人,这应了《侏罗纪公园》的名言:“生命会自己找出路。”
No.2 替代主宰人类
常常这样听说:机器人将占领地球,屠杀、奴役人类,而人类不得已逃到地下求生,暗无天日。如同《黑客帝国》,机器主宰地球,人类要么沉浸于无知却美好的虚拟世界,要么拼杀在磨难而残酷的现实世界。
然而,如果人工智能懂得进化,学习人类更多特性,使自己更像人,会怎么样?
机器人懂得感情,有了焦虑、后悔、沮丧、嘲讽、爱情、厌烦、猥亵、快乐等等情感,与人类又有何异?在地球上,这些机器人将居于主导地位,替代主宰人类。
科幻世界里,《2001太空漫游》的哈尔,能力出众,精通唇语,妄图控制人类;《银河系漫游指南》的马文患抑郁症,又是偏执狂,极其唠叨;《飞出个未来》的班德,嗜酒如命,自私自利,脾气暴躁。这种机器人越来越多,人类立足之地将会越来越少。
No.1 灭亡人类
世界被机器人统治,人类被灭亡,末日来临——这是人工智能带给人类的最大灾难。
灭亡人类,只因为机器人把人类视为自己进化路上的唯一障碍。又或许,机器人被植入了“保护地球”的程序,它遵命而行,只不过把人类当成了地球的最大威胁。
不管什么原因,至少结果都一样——人类被消灭了,而人类也不可能知道原因了。但是,唯一知道的是,这全部由人类自己的错误造成。
人类当警醒,否则,将来可能只剩下灵魂在悲泣:“早知如此,何必当初?!”
本文源自大科技*百科新说2016年第5期文章?