soh logo
Waymo 自动驾驶的“人工干预次数” 为 0.06次/1000公里   (Waymo)
Waymo 自动驾驶的“人工干预次数” 为 0.06次/1000公里 (Waymo)

“无人车的道德评判标准是什么?”,马斯克: “AI是我们生存最大的威胁”

【希望之声2020年7月3日】(本台记者张鑫综合编译)自动驾驶技术的初衷,是通过减少人为过失(造成事故的主要原因一),而降低交通事故和死亡率。但你能想象到,无人驾驶技术也会牵扯到伦理道德的问题吗?

假设场景与程序编写

在美国TED网站中,有一个点击量超过120万的视频。讨论这样一个假设场景,一辆无人驾驶车正在高速上飞驰,它的前面是一辆满载卡车,两边也都是车。突然,一个巨大且沉重的物体从它前方卡车上掉下来, 无人车来不及刹车。

那这时,自动驾驶车是继续前行,撞在掉下来的物体上(因为这有可能导致车毁人亡)?还是往左偏,撞向左边的一辆 SUV?或撞向右边的一辆摩托车?

在这一刻,自动驾驶车该怎么做?其实,这个决定在编写自动驾驶程序时,早被编程者设定好了的!那谁来做这个判断?谁来决定编写程序的标准呢?

高科技与伦理道德需求

这就是在科技界,目前出现的关于“无人驾驶伦理道德”的研究论题。学者们希望这个话题能引起人们的警觉,从而能让民众、社区一起参与到政府的立法中去。

Lyad Rahwan 是自动驾驶技术问题视为道德困境的科学家之一 (TED)
Lyad Rahwan 是自动驾驶技术问题视为道德困境的科学家之一 (TED)

利亚德·拉万(Lyad Rahwan)是最早将“自动驾驶技术”与“道德困境”话题相结合的科学家之一。他在TED演讲中,不仅重点讨论了这个话题,同时还提到了艾萨克·阿西莫夫(Isaac Asimov)的“机器人三大定律”和第零条定律:“机器人不能伤害人类这个整体”。[1]

我们不禁很好奇,无人驾驶技术、AI人工智能伦理道德有什么关系吗?科学家们为什么会在研究这个问题?

缺乏道德基础的高科技,对人类是极其危险的

表面上看,现代科技可以帮助人们改善生活条件,给人们带来诸多便利。但当科技发展到一定程度,尤其是建立在缺乏道德基础的高科技,对人类来讲是极其危险的,是人类生存的最大危机!

在一个科幻短片《 The Seven Days of A.I.》中,勾勒出了AI 在人类中的七日扩张图。

  • AI先在人们生活的多媒体中出现,并得到了Google、Facebook和Microsoft等多个技术重量级公司的支持。

  • 从储存的数据中开始学习,AI可以做出决策了。接下来,它广泛地被应用到人们的衣食住行等社会各个方面。

  • 很快的,AI具备了自我意识,具备了像人类一样的“思考”甚至“感觉”能力,与每个用户建立了独特关系。一旦具有自我意识AI将拥有自我保护等一些想法。

  • 再发展下去,AI会让人类在网络上,自己上传自己的思维,放弃自己的身体.....

这个科幻短片以非常生动的方式,预测了一下不久的科技未来。但这些真的只是科幻吗?

也许任其发展,那AI会完全轻易的超越人类智慧,并制定出精心设计的方案超过和取代人类。如果当人真的将自己的思想与它们连上,并放弃自己的身体后,也许AI就会乘虚而入,占有了人类的身体...

其实,我们大家多多少少都能感知到,这些AI、以及制造它们的始作俑者,总给人一种总是冷冰冰的感觉,它们不具有人与人之间的那种温暖关爱的感觉。难道,它们真的就是那些与正常人类完全不同的外星物种?

业内人士的担忧

“当电脑资源增加,系统将自然地发展,从刺激反应,到简单学习,到情景记忆,到思考、推理、自我提升,最后完全理性化。”……“目前的电脑基础设施,对具有这种能力的无约束系统的控制能力是脆弱的。” ……这是电脑科学家奥姆亨卓(Steve Omohundro)在《人工智能实验与理论》期刊(Journal of Experimental & Theoretical Artificial Intelligence)发表的文章。

科学家们都在担忧,也许有一天,当人类试图要把这些无法控制的电脑和系统关闭时,它们却将自动启动,以确保自身的存在,那时人类将面临被毁灭的的厄运中。

与科学家斯蒂芬·霍金一样,埃隆·马斯克(Elon Musk)--这位我们熟知的SpaceX 和 Tesla公司的掌门人多次公开呼吁:“AI 是人类文明生存的最根本(顶级)风险。” [2]

他曾多次警告,“我认为我们应该对AI要非常小心。 我们生存最大的威胁是什么,如果让我说,那可能就是这个(AI)了! 因此,我们要非常小心。” [3] 2018年,他忧心忡忡:“现在已经太晚了”[4],“我们将控制不了它们”。[5]

马斯克对AI的极速发展表示忧虑 (Youtube 视频截图)
马斯克对AI的极速发展表示忧虑 (Youtube 视频截图)

退一步审思

回到开篇的问题,在自动驾驶车辆技术推向人类社会时,大家可能还没有意识到,编写程序与道德困境问题之间的关联,那其它领域AI 技术的极速扩展,又有多少人能意识它背后的巨大风险呢?

也许,人类需要的不是这样充满危险性的高科技。也许,当人在克服自身的贪婪、懒惰、自私和狂傲后,在对生命充满关爱的平和心态下,所发展的技术是更有益于我们身心健康的。

其实,这些问题的答案,在《转法轮》这本书的开篇就已经非常明确的指出来了,感兴趣的朋友们,不妨可以去阅读和体悟一下。

参考资料

[1] Lyad Rahwan. 无人车的道德评判标准是什么?

[2] NGA 2017 SUMMER MEETING

[3] Elon Musk: artificial intelligence is our biggest existential threat. Theguardian

[4] It's Already Too Late - Elon Musk

[5] Artificial Intelligence: Mankind's Last Invention

责任编辑:张鑫

本文章或节目经希望之声编辑制作,转载请注明希望之声并包含原文标题及链接。