“等待意见统。”编号-03表示这锅机器人不背,全听人类。
罗素挠挠头:“好吧,你赢,下车去服务别人吧!”
轰走编号-03,罗素按下按钮,电脑接管车辆,自动驾驶冲出地下室。
警车瞬间提速320公里/小时,座椅根据他身型自动调整,靠背紧贴身体极为舒适。急速行驶车辆比高
“警官,谢谢您夸奖,感到非常荣幸。”编号-03开心说道,只用0和1思考问题,它没有开心这种情绪,也是植入程序数据。
“对,最后问你个问题……”罗素尝试着问出个问题:“假如有天,你开车载着家三口在路上,前方有个路口,左拐会装死三个人,右拐也会装死三个人,急刹车会撞墙,家三口也会没命,你该怎办?”
编号-03:“警官,你说这种情况不存在,车辆紧急刹车系统万无失,而且全车自带安全气囊。”
“失灵呢?”
“如果刹车系统失灵,会有保险公司负责赔偿。”
人面对死刑犯枪决,该不该阻止枪决被执行?
三大定律规定机器人必须这做,但救下死刑犯就破坏人类社会秩序,伤害人类整体利益。
加上第零定律,就不存在这样尴尬场景,但是很可惜,看似完美仍旧存在漏洞。
人类正体利益是什?
欧洲人、亚洲人、美洲人、非洲人都有持有不同意见,联合国代表大会上,这些人能把脑浆子都打出来。连人类自己都搞不明白问题,详细书写出来更是破绽百出,让机器人去执行,它们只会自矛盾而死机。
罗素:“……”
“警官,您还有别问题吗?”
“有!有天,个大胡子劫持飞机,他身上绑炸弹。如果你抓住他,他会按下起爆按钮,全飞机人都会死,如果你不抓住他,飞机就会撞向白宫,你该怎办?”
“警官,会听从乘客意见!”
“意见不统呢?”
后来,三大定律和第零定律之后,又延伸出元定律,第四定律,繁殖定律。
罗素估摸着关于机器人必须遵守定律还会继续增加,因为逻辑存在缺陷,无论多完美定律都是人类逻辑产物,就和法律样,不管全世界哪个国家法律,只要有心都能找出漏洞。
而且,人类自己也有句名言:规则就是用来打破!
拥有这种逻辑人类,怎可能制定出毫无破绽机器人定律?
罗素看眼身边机器人,直视对方空洞眼睛:“编号-03,你说得非常好,你是个合格停车场管理员。”
请关闭浏览器阅读模式后查看本章节,否则可能部分章节内容会丢失。