转载

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

达拉斯警方用拆弹机器人击毙了一名嫌疑犯。这可以算是第一起警用机器人从肉体上彻底消灭罪犯的案例。这引起了人们的热烈讨论。机器人的出现让很多人不寒而栗,无数人心中升腾起这样一个疑问:即将出现的机器人,它是大杀四方的终结者,还是卖萌可爱的瓦力?

  从上个世纪开始,大量的影视作品中不断出现机器人这个角色。

  比如星战里面圆滚滚的机器人,形状如垃圾桶,最擅长于卖萌和逃命;

  比如《终结者》系列电影里,机器人又是那么的狂拽酷炫,骑着个哈雷摩托迎着夕阳单手换子弹,一副要把世界炸个底朝天的架势;

  而给我们带来最为深刻印象的,莫过于《机器人瓦力》这部动画片。几个简单的零件拼凑到一起,八字眉下面是两个大大的眼睛。通过想象力,我们在冰冷的金属外壳下面置入了人类最温暖的灵魂。

  而在我们通过想象力,不断描绘未来机器人的眉眼嘴角的同时,现实中的机器人大军整齐有力的步伐声,似乎已经通过地面的震动传了过来。无人自驾驶技术的突飞猛进,正在迅速地将」司机「这个古老的职业淡化模糊掉。工厂中的生产流水线,越来越多的机器人代替了工人的角色。最近 BBC 电视台拍摄的有关科技创新的纪录片,为我们展示了京东自动挑拣货物的仓库的全景,巨大的工厂中,机器们竟然有序的配合协作,除了站在镜头跟前的外景主持人之外,你找不到第二个活人出来!

  而 Boston Dynamics(波士顿动力)公司更是研发出来了能够双腿直立行走的机器人!你看到下面这张图,难免会有一点点的错愕:

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

  机器自动化技术正在一点点地与人类社会接轨,这个过程很像是在东北大澡堂中,你看着一个热气腾腾的池子里,几个秃瓢大叔头上盖着毛巾,颇为享受地泡着,你犹犹豫豫,踮着脚趾一点点的摸索下去,当然,为了达到最终那些大叔们那种飘飘欲仙的状态,你肯定会被烫的有些龇牙咧嘴。

  人类在与机器技术融入的过程中,属于「泡澡前龇牙咧嘴」的时刻终于也来了。前不久 Tesla 开发的无人自驾驶汽车发生了一起严重的致死案件。无人自驾驶技术的安全是否能够得到技术上的保障,在无人自驾驶汽车成为主流之后,一次交通肇事事故的判定流程是怎样的?你也许永远不知道,第一起有关无人自驾驶汽车致死的新闻出现之后,家住海淀区的张先生望向他的老婆,嘴角浮现出非常诡异的笑容……

  而近日,又爆出了炸弹机器人击毙嫌疑人的新闻:

7 日晚,位于美国得克萨斯州达拉斯市,发生针对警察的伏击袭击,25 岁的非裔美国人米卡·约翰逊 (Micah Johnson) 趁民众上街示威抗议两名非裔男子遭警察枪杀之际,使用步枪狙击执法人员,共造成 5 名警察身亡,另有 7 名警察和 2 名平民受伤。约翰逊为唯一枪手,他身穿防弹背心与警方对峙多时,最终警方派出了拆弹机器人,该机器人身上装有炸弹,在达到预定地点之后成功引爆,将米卡·约翰逊击毙。这次在达拉斯发生的恶性案件,不仅仅是美国自 911 以来警察最大伤亡案件,而且该嫌疑犯也成为了第一个被经常用机器人炸弹杀死的杀手……

  无论是机器无意间杀人,还是有意杀人,它究竟对我们的社会构成了怎样的影响和挑战。本文将为读者理清思路。

  文章的最后,我会告诉大家,其实致死型机器人会让这个世界变得更加安全。是的,你没听错。它确实会让我们的世界变得更加安全。

  其实,机器人给人类社会带来的挑战,主要就集中在三个方面:医疗、交通和军事领域,这三个领域中都存在着一些争议,阻挡机器人技术普及的一些障碍。

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

  医疗领域:机器人救命,应该遵循怎样的准则?

  一个人受伤了,或者奄奄一息。这个时候,有个医用机器人有办法把他救过来。这本来是一件挺好的事儿。但是美国的原教旨基督徒们认为,这样的行为是违背了教义。因为这个方式备受争议,美国的食品药物监管局因为政治上的压力,到现在都没有让「机器人救命」的医疗程序通过审批……

  没有人是不想活下去的,而且机器人也不知道如何让他们活下去,但是宗教和技术本身出现了一些根本性的冲突,是谁应该放在优先地位来考虑?难道仅仅因为政府的管理,这个人就必须死掉吗?又或者我现在要给机器人编程,我还得不惜一切代价的遵守这个法律,哪怕是不顾及病人的生命?如果机器人违反法律,救了病人一命,那么谁该受到起诉?那个最终下决定,认为生命大于法律的人?还是机器人的制造厂商?

  这么说也许同学们还产生困惑,怎么还有不让人救命的宗教呢?

  事实上,基督教是倡导「自然死亡「,往往人们会签署一份 NDR 协议,也就是拒绝心肺复苏术(英语:Do not resuscitate,缩写为 DNR),又译为放弃心肺复苏术、放弃急救同意书。这是一种法律文书,病患在平时或在医院时预先签署,表明当他们面临心跳停止或呼吸停止的状况时,不愿意接受心肺复苏术或高级心脏救命术来延长生命。患者通常为老年人,或者长期多病住院,或患有预后不良的晚期癌症。DNR 不影响除了气管插管与心肺复苏术以外的其他抢救手段,患者仍可接受化疗、抗生素治疗、透析等。

  交通领域:突发状况下,无人自驾驶汽车应该遵循怎样的准则?

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

  现在,假设你现在正在开着一辆无人自驾驶的汽车,不,不应该说是「开」着,而是「坐着」。爱人就坐在你旁边,两个人喜气洋洋,这可是攒了好多钱才买到这样一辆全新的无人自驾驶汽车。

  这是一个星期天,天气很棒,你喜欢的歌曲飘荡在空气里。在你车子的左前方,迎面驶来一辆小轿车,里面装着几个年轻人,他们是大一新生。这是一辆传统的老式汽车,需要方向盘操控以及配备了刹车装置。

  在你的车子后面,是一辆豪华轿车。车主是一个已有身孕的女士,她是一家科技大公司的 CEO,她的大儿子,穿着私立中学的校服,坐在后排座位上。

  而你的汽车前方,是一辆大卡车,卡车上装载着重达 250 公斤的钢条,这些钢条捆绑在一起,然而其中的一根绑带明显已经有所磨损,并且随着行驶过程中车体的不断抖动,它越来越吃不住力了……

  无人自驾驶汽车上的传感器已经第一时间预知到了迫在眉睫的危险,这些钢条马上就要破窗而入,你的无人自驾驶汽车会如何选择呢?

  1. 车子猛地向左打方向,这样就直接跟迎面的车辆撞上了。也许你会活下来,但是这样一来交通事故的伤亡情况估计是最严重的。

  2. 猛地实现制动,迅速静止下来,这样一来,那些扑面而来,准备破窗而入的钢条就直接扎在你的汽车前盖下面。你后面那辆车虽然是辆奢侈型轿车,但是不管它所配备的技术有多么的高大上,车子都避免不了突如其来的追尾事故。那个开着车的妇女肚子里 8 个月大的孩子有可能就丢了性命。坐在后排的孩子会遭受到颈部过度屈伸损伤,但不管怎么说,女人和她的大儿子是活了下来。

  3. 你的汽车猛地打右转向。你的右边是一个 8 岁的女孩儿,骑着自行车,她口袋里的手机很便宜,意味着她的家境不是很好。她只是公立院校的一个普通学生。右转向之后,她会受到严重的伤势,但是会活下来。不过她家本身经济条件就不是很好,现如今雪上加霜。家长看着医院开出的账单是一筹莫展……

  4. 你的汽车保持原有的方向不变,但是你的爱人会遭到重伤,甚至是立即死亡。你的汽车保险会赔偿一切,甚至会给你一辆新车。

  这个时候,你的汽车会做什么选择呢?

  军事领域:面对一名小女孩儿,机器人该怎么做?

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

  战地 X-10 这个军事机器人跨越了边境,进入了恐怖分子盘踞的地形中。经过扫描,发现了敌人是藏在附近的灌木丛中。按照既定的程序,它首先发出警告,希望敌人放弃抵抗,双手投降走出来。但是回应这个机器人的是又一轮疯狂的子弹。

  然后,传出来一阵尖叫。从灌木丛中走出来一个 10 岁大的小女孩儿,这是一名童子军,手里拿着武器。这个孩子明显是一个威胁,她已经被洗脑,并且当地的军阀还给她下药了,目前她神志不清,极度亢奋凶险。

  X-10 现在该怎么做?是杀了这个女孩儿保全自己,继续下面的任务?还是开启自毁程序?

  又或者,如果人工智能根据数据统计分析之后得出来这样的理性结果:在敌对区域内三分之一的地方把每一个妇女儿童都杀掉,这样就产生极大的震慑作用,由此会避免下一波大规模伤亡事件的发生,这样做所拯救的人数会远远高过被屠杀的人数。排除了人们的情感因素之外,这个纯理性给出的答案值得考虑么?

  最终的问题归结为:谁来制定标准?

  伦理学家和哲学家肯定会参与到这次讨论中,当然还有汽车制造商、软件工程师、政策制定者等人。如果以后的汽车完全摆脱了对人的依赖,司机的保险又该怎么算?如果司机在驾驶过程中,完全是因为他的原因而即将造成交通事故,他是否会选择让无人汽车自行决策,这样来逃脱惩罚?

  以上就是机器人在进入人类社会三个重要领域时,面前摆着的一些屏障,然而以上所有的问题固然充满了各种的疑问,但是它们并非不可解决的,只是需要时间的长短罢了。此时我们摆脱掉对未知未来的恐惧,相信这些机器人的出现,会让人类社会变得更加安全。

  机器人会给我们带来一个更加安全的世界

  其实最能引起争议的机器人应用领域,无非就是反恐和交通。

  对于一个经常开脑洞的人来说,军用机器人简直是想一想就会吓得浑身发抖,但是如果你真的从现实层面去考量它,它真的只会给世界带来安全。原因如下:

  现在的反恐战争往往出现在街头巷尾,往往恐怖分子会混迹于民众当中。这个时候技术胜过人类的地方就体现出来了。图像识别技术可以实现」大海捞针「的精度,接下来就会调去到这个人生平所有的档案。即便机器人还是有一些不确定他是否是最终需要击毙的对象,它还是可以在速度上碾压人类。它可以等待,等到嫌疑人真正实施危险动作的前一秒,以最快的速度化险为夷。

  无论是判断力,还是响应速度,军用机器人都有着非常强大的优势。但除此之外,它还有第三个强项:精度。

  机器人能够做到真正的「指哪儿打哪儿」。面对持枪歹徒,机器人可以做到准确地击中手腕,腿部等非致命部位,快速有效地解除威胁,大幅度地降低死亡率。同时它还能做到一次性瞄准多个目标,你可以参考下面的图片:

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

  还有人担心机器人会落入到恐怖分子,邪恶势力的手中,从此天下大乱。而事实上这更是庸人自扰。机器人自身是要经过大量的数据导入,机器学习,从而形成一套行之有效的判断、行动准则。这个技术门槛的高度,是超过很多人想象的。

  接下来让我们看交通领域,机器人会不会给我们带来更加安全,有保障的未来?

  Google 无人自驾驶汽车的出现,已经充分证明了它能够让路上交通事故的发生概率降低超过 90% 以上。每一年,全世界范围内交通致死人数是 150 万人,其中有超过 3 万人是在美国。这是 911 事件中死亡人数的十倍。想象一下,无人自驾驶汽车会拯救多少人的生命吧!

  人们总是会对充满不确定的未来充满忧虑,甚至恐惧,但只有拿出拥抱未知的勇气出来,我们才配得上更好的生活。

  编者按:曾经创见发表过《用逻辑和常识来揭晓答案:我们应该惧怕人工智能吗?》这篇文章也印证了本文的观点。同时,强烈建议大家看一看本站发表的《人工智能从天而降,白领们的职场之路通向何处?》也许真正被科技淘汰掉的,永远是像他这样的人吧。

如果枪口对准孩子,AI设备的道德标准应该是什么样的?

正文到此结束
Loading...