人工智能的23条“军规”,马斯克、霍金等联合背书
人工智能系统开发团队应该主动合作,避免在安全标准上出现妥协。
6、安全性:
人工智能系统应当在整个生命周期内确保安全性,还要针对这项技术的可行性以及适用的领域进行验证。
7、故障透明度:
如果人工智能系统引发破坏,应该可以确定原因。
8、司法透明度:
在司法决策系统中使用任何形式的自动化系统,都应该提供令人满意的解释,而且需要由有能力的人员进行审查。
9、责任:
对于先进的人工智能系统在使用、滥用和应用过程中蕴含的道德意义,设计者和开发者都是利益相关者,他们有责任也有机会塑造由此产生的影响。
10、价值观一致性:
需要确保高度自动化的人工智能系统在运行过程中秉承的目标和采取的行动,都符合人类的价值观。
11、人类价值观:
人工智能系统的设计和运行都必须符合人类的尊严、权利、自由以及文化多样性。
12、个人隐私:
人类应该有权使用、管理和控制自己生成的数据,为人工智能赋予数据的分析权和使用权。
13、自由和隐私:
人工智能在个人数据上的应用决不能不合理地限制人类拥有或理应拥有的自由。
14、共享利益:
人工智能技术应当让尽可能多的人使用和获益。
15、共享繁荣:
人工智能创造的经济繁荣应当广泛共享,为全人类造福。
16、由人类控制:
人类应当有权选择是否及如何由人工智能系统制定决策,以便完成人类选择的目标。
17、非破坏性:
通过控制高度先进的人工智能系统获得的权力,应当尊重和提升一个健康的社会赖以维继的社会和公民进程,而不是破坏这些进程。
18、人工智能军备竞赛:
应该避免在自动化致命武器上开展军备竞赛。
19、能力警告:
目前还没有达成共识,我们应该避免对未来人工智能技术的能力上限做出强假定。
20、重要性:
先进的人工智能代表了地球生命历史上的一次深远变革,应当以与之相称的认真态度和充足资源对其进行规划和管理。
相关阅读
热门文章
2016年10月28日
2016年10月24日
2016年9月28日
2016年9月28日
蓝戈沙龙