第一百四十一章 规则就是用来打破的

诸天尽头 凤嘲凰 2949 字 13天前

“编号-03,我来考考你几个问题,测试一下你作为停车场管理员是否合格。”

“好的,警官,您可以随便出题,有关汽车方面的问题,我的数据库里都有答案。”编号-03对此非常有自信,当然了,他的自信也是程序设定。

半小时之后,罗素把编号-03日常使用润滑油的牌子都套了出来,后者几乎知无不言言无不尽,面对罗素的提问,只要数据库里存在,全都一个字不拉说了出来。

罗素双手抱肩,通过和编号-03的对话,大概了解了这个世界的整体世界观,同时对身处的何处也有了一些猜测。

2035年,这是个机器的时代!

不仅指那些已经高度发达的机械化大生产,而是满满的科技感进入普通家庭,从生活用品到家电工具,智能机器人已经渗透到了人类生活的方方面面。

作为最好的生产工具和人类伙伴,机器人开始在各个领域扮演着日益重要的角色,而由于众所周知的机器人三大定律的限制,人类对这些能够胜任各种工作且毫无怨言的伙伴充满信任,它们中的很多甚至已经成为了一个家庭的成员。

“编号-03,把机器人三大定律说一遍!”

“好的,警官。”编号-03的语气变得充满神圣感。

“第一定律:机器人不得伤害人类,或坐视人类受到伤害。”

“第二定律:除非违背第一法则,机器人必须服从人类的命令。”

“第三定律:在不违背第一及第二法则下,机器人必须保护自己。”

机器人三大定律,由著名科幻作家阿西莫夫提出,影响深远,很多科幻作品都引入了这三大定律作为机器人的行为准则。

罗素也知道三大定律,因为太有名了,他还特意深入了解过。

可看似毫无破绽的三大定律,其实存在很多争议,当层面上升到道德以及人类利益的高度后,三大定律就出现了漏洞,于是阿西莫夫又增加了第零定律。

第零定律:机器人必须保护人类的整体利益不受伤害,此定律凌驾于三大定律之上。

第零定律的出现很有必要,因为机器人在执行三大定律时,会遭遇某些特定情况,例如为了维持国家或世界的整体秩序,人类了制定法律,必须要执行一些人的死刑。那么,机器人面对死刑犯的枪决,该不该阻止枪决被执行?

三大定律规定机器人必须这么做,但救下死刑犯就破坏了人类社会的秩序,伤害了人类的整体利益。

加上第零定律,就不存在这样尴尬的场景了,但是很可惜,看似完美仍旧存在漏洞。

人类的正体利益是什么?

欧洲人、亚洲人、美洲人、非洲人都有持有不同的意见,联合国代表大会上,这些人能把脑浆子都打出来。连人类自己都搞不明白的问题,详细书写出来更是破绽百出,让机器人去执行,它们只会自我矛盾而死机。

后来,三大定律和第零定律之后,又延伸出了元定律,第四定律,繁殖定律。

罗素估摸着关于机器人必须遵守的定律还会继续增加,因为逻辑存在缺陷,无论多么完美的定律都是人类逻辑的产物,就和法律一样,不管全世界哪一个国家的法律,只要有心都能找出漏洞。

而且,人类自己也有一句名言:规则就是用来打破的!

拥有这种逻辑的人类,怎可能制定出毫无破绽的机器人定律?