阿西莫夫机器人三定律和Mobileye自动驾驶五原则_乐鱼app在线

大师级科幻小说作家阿西莫夫有过一个思维，对于AI驱动的机器人，除了应当大大提高机器本身的智力水平之外，让其更佳用之外，在其和人类做事的时候，还必须一个更加宏观的，在技术平等主义的指导原则。他在短篇小说集《我，机器人》中写出了这样一组规则，称作“机器人三定律”：1.机器人不得损害人类，或者不得改置人类于险境中；2.机器人必需遵从人类的命令，除非与第一定律冲突；3.机器人可以在不与第一、第二定律冲突情况下确保自身不存在。

1985年，阿西莫夫又出版发行了《机器人与帝国》，在书中他将三大法则扩展为四大法则，减少了第零法则：机器人不得损害整体人类，或逼整体人类受到损害，包含更为原始的机器人四定律。虽然机器人三定律、四定律在很多有关于人工智能的电影和文学作品中屡次经常出现，但也仍然逗留在想象阶段，并没被实际应用于过。一方面的原因，是在很长一段时间里，机器的智力水平还没低到能和人类社会日常生活的息息相关；另外一个原因，则是由于阿西莫夫的原则只是非常简单的语言符号，未包含森严的逻辑闭环。

但这并不阻碍阿西莫夫的思维沦为一种新的学科“机械伦理学”的基础，一门以人类为中心，关于机器人的修建和用于的学科，其核心就是如何安全性的应用于智能机器。自动驾驶，数据是基石，但并不是全部而Mobileye公司，正在企图在自动驾驶领域，书写堪比机器人三定律，甚至更加准确的规则。这个月的月初，至顶网（赛博故事母平台）造访了Mobileye，一家创办于1999年，总部坐落于以色列的高科技公司。该公司的主要业务为辅助驾驶员系统和自动驾驶研发所必须的计算机视觉、机器学习、数据分析、定位与地图建模等技术。

2017年的3月，Mobileye被英特尔公司耗资153亿美元并购，并与后者的自动驾驶事业部（ADG）拆分，构成新的自动驾驶部门，由Mobileye牵头创始人、董事长兼任首席技术官阿姆侬·沙书亚（AmnonShashua）教授领导。图注：Mobileye牵头创始人、董事长兼任首席技术官阿姆侬·沙书亚教授很长时间以来，自动驾驶汽车的安全性可靠性，仍然被指出只和数据量密切相关。这是由于这一次由机器学习、深度自学带给人工智能浪潮的本质来是用于统计学方法对数据的利用，让机器通过“吃”海量的数据来总结模式和规律。只要数据充足多，也就是路测的里程充足宽，自动驾驶汽车就不会更加安全性。

沙书亚在和我们交流中回应，在自动驾驶这件事上，“把任务几乎转交统计学是不不切实际的”，无法只有数据训练，还要有一些常识原则，否则不会面对很大的发展障碍。障碍之一在于经济性，“要让人类信任自动驾驶汽车，安全性最少要比人类司机好100倍。如果用统计学方法来构建，这就意味著1亿小时的路测，假设路测时每小时行经30公里，路测的距离是30亿公里”，沙书亚做到了一个非常简单的计算出来来证明经济上的不可能性，却是30亿公里，相等于绕行地球跑完了7万圈还好比。

障碍之二来自于黑箱问题，沙书亚指出统计学之上的AI“既不半透明、也不公开发表”。现在的深度自学是基于数据的自动编程，一种方式顺利了，我们告诉它有效地，但是我们不告诉它为什么有效地，反之，如果它告终了，我们也不告诉它为什么过热，唯一能做到的就是大大调整参数，增大数据量，企图让结果更加尽如人意，但实质上我们对其“内在”一无所知。但对自动驾驶而言，半透明是十分最重要的。却是驾驶员这件事太简单了，牵涉到到社会安全性，牵涉到到驾驶员、乘客、路人，以及牵涉到交通部门、汽车公司甚至保险公司等利益涉及方。

一旦车辆再次发生事故，我们却无法向涉案涉及方说明缘由，也无法界定责任，进而很难让自动驾驶夺得社会信任。在自动驾驶汽车，很有可能沦为人类第一个要考虑到如何与其安全性共处的智能机器之际。Mobileye企图在统计学之上，减少一些人类可以解读的规则，公布了它RSS——ResponsibilitySensitiveSafety模型，中文翻译为责任脆弱安全性模型。

RSS中所制订的各种规则，于是以如同阿西莫夫的“机器人三定律”，其核心目的也是安全性。

本文来源：乐鱼app在线-www.arsvl.com