面对人工智能，法律应该做什么

[用法律的眼睛看世界]

作者:赵婉倩(中国法学会商法研究所副所长、西南政法大学教授)

编者按

智能机器人、自动驾驶、人工智能创作、语音识别...目前，人工智能的应用越来越广泛，这也引发了一系列的法律问题，至今尚未达成广泛共识科学技术是一把双刃剑，人工智能技术不能被排除在外。本期《法治》专刊将发表三篇专家文章，从法律和法律两个方面探讨如何应对人工智能的发展和应用，使人工智能在法律规范下健康发展，造福人类。

2年15月，河北省秦皇岛市海港区焰炟西苑小区的孩子们体验并学习了机器人的科普知识。智能机器人

的出现和广泛应用无疑是21世纪的一件大事，它不仅会引发新的工业革命和社会变革，还会颠覆许多传统的社会结构和人类观念。早在1942年，著名科幻作家艾萨克·阿西莫夫就在他的科幻小说《环舞》中提出了著名的机器人三原则:第一，不伤害人类；第二，服从人类的命令。第三，尽可能保护自己。作者认为这不仅是机器人设计应遵循的基本原则，也是机器人立法必须充分考虑的原则。面对以人工智能为代表的现代科学技术的飞速发展，人类必须关注技术对社会关系和社会观念的巨大影响，充分利用法律的导向、调节和促进功能，实现法律与技术进步的良性互动。

利用良好的法律制度促进科技发展。

法律不仅承担着行为调节、冲突解决、社会控制和公共管理的功能，而且具有促进社会发展和引导社会生活的使命。一个好的机器人法律制度不仅应该是一种能够充分调动社会主体的创造积极性，促进社会经济发展的社会财富创造方法，而且应该是一种能够在发明创造和财富创造之间建立便捷转换渠道的市场经济催化方法。

因此，一方面，我们应该应用好的系统设计来满足机器人发展的客观要求，积极利用机器人来解放人的功能，实现人的全面发展，积极改善人与自然、人与社会的关系。另一方面，要充分发挥法律对科学研究的价值导向作用。从发展经验来看，并非所有的技术成果都能造福人类。因此，并非所有的科学活动都会受到法律的鼓励(典型的如人类克隆技术、头部置换技术等)。)在充分肯定人工智能给人类生产力解放带来巨大便利的同时，我们也必须高度重视人工智能对传统社会制度、社会关系和人际关系的颠覆性影响，严格划定人工智能功能(活动)的禁区。目前，由于缺乏关于机器人活动对人类可能产生的负面影响的必要实际数据，以及人类还没有完全准备好与机器人和谐相处的事实，在早期的机器人立法中应该对机器人的自主活动有更多的限制。随着人工智能技术的逐步完善和自然人与机器人相处能力的逐渐增强，对机器人行为的限制可以通过不断修改法律来逐步放宽。

确立人的优先和安全优先原则

现代国家确立了以人为本的立法理念这就要求所有的立法都应着眼于改善人民的生活条件和生活环境，增进人类福祉，促进人的全面发展。这不仅是文明立法的本质要求，也是良法和善治的应有之义。这里的良法首先要求公平，其次要求满足大多数人的需求，最后满足公众对法律的期望以及公共秩序和良好习惯的基本要求。

专用于机器人立法。机器人的应用不仅会带来深刻的社会变革，还会影响人类的发展，影响人类自身的认知，甚至危及人类的生存。正如霍金所说，“人工智能的真正风险不是它的恶意，而是它的能力。”超级智能人工智能非常擅长完成目标。如果这些目标与我们的目标不一致，我们就有麻烦了。因此，人工智能的成功可能是人类文明史上最大的事件，但人工智能也可能是人类文明史的终结。“因此，必须在相关立法中确立人类优先的原则和概念，将尊重人类生存、人类生命和健康、人类利益和人类安全作为根本目标。

同时，相关立法必须不仅关注机器人的技术内涵，还要关注它们的文化内涵。相关的制度设计不仅应该是具有程序操作意义的技术规范，更应该是一部充满人文关怀和伦理精神、技术与道德完美融合的法律。一方面，我们必须坚决将违反公共秩序和良好习惯、可能挑战人类道德底线的人工智能技术产品排除在法律保护之外。另一方面，通过政策或法律，我们必须严格控制和限制那些可能影响人类伦理的技术，并为应用具有未知风险的技术留出足够的安全冗余，以防止不受控制的技术可能给人类带来的毁灭性影响。

机器人的法律主体资格被认真录取

机器人出现后，其身份和主体资格受到高度重视2017年，机器人索菲亚被沙特阿拉伯授予公民身份美国律师约翰·弗兰克·韦弗(john frank Weaver)在2015年出版的《机器人是人——人工智能将如何改变法律》一书中提出，机器人应该被赋予与人类同等的法律地位，因为它们已经具备了自然人的许多能力，如思考、辨别、有目的的活动、特定的判断和独立的决策。事实上，这不是第一次质疑人类的专属主体地位。在机器人出现之前，它已经被提出很多次了。最典型的是关于动物主体地位的争论。

从目前的发展过程来看，虽然机器人有许多人类的元素，但它们还不足以与人类竞争。尽管机器人可能会思考，但它们还没有上升到生存状态。它们不具备生命所需的能力，无法利用外部物质形成自己的身体和繁殖后代，无法根据遗传特征生长发育，无法在外部环境发生变化时及时适应环境。因此，从理论上讲，机器人作为一种工业设计，只有一个没有自然生命的有用生命，当然不享有以生命为载体的生命权。

机器人是根据人类的预先设计生产的，因此它在本质上是可预测的、可复制的和可分类的，而可预测的活动不能由传统的法律行为来解释和规范。此外，机器人没有自然人拥有的道德、良心、良心、伦理、宗教、规则和习惯，只有它们功能的力量。因此，机器人不可能有道德意识，只有基于程序的重复和预先设计而总结出来的规律，因而没有民事主体所必需的基于内心感知(良知)的善恶判断和行为选择。法律也不能通过对其行为的负面评价来达到约束或纠正其违法行为的效果。最后，机器人不具备与周围环境互动的内在感知能力，其改造自然的活动是在人类的设计、指挥和指挥下完成的。从这个意义上说，机器人不是人，充其量只是一个准自然人。机器人也没有独立的财产能力和责任能力。只有惩罚他们的实际控制者(设计者和使用者)，他们才能真正达到在对人类造成伤害后惩罚和保护并重的目标。

充分尊重公众的知情权。

人工智能技术及其应用不仅是简单的技术创造，也是一个重大的历史变革，对人类的未来有着深远的影响，关系到每个人的切身利益。面对强大的机器人，自然人在各个行业和领域的就业机会可能被剥夺，每个活着的人的生存空间可能被严重挤压。公众获取信息和知识不仅是他们融入公共生活的条件，也是维护其合法权益的必然要求。因此，每个自然人都应该有充分的权利了解人工智能技术，并且在机器人被广泛使用后，有权利知道它们对自己意味着什么。

必须充分保护公众的知情权和参与相关立法的权利。主要人工智能技术的应用应当广泛征求公众意见，进行科学论证。应该强调的是，任何人工智能产品的开发和应用都不应以牺牲自然人的利益或社会公共利益为代价。与此同时，各方的利益必须得到有效平衡，特别是在生产者和公众之间。一方面，相关的系统设计应该充分保护研究人员的创造性，鼓励他们发明更多更高质量的人工智能产品；另一方面，它应该确保公众能够分享更多的社会和经济利益以及科技进步带来的其他人类福利。

建立符合中国国情的人工智能法律体系

法律服务社会。任何法律都必须植根于特定的土壤，才能充分发挥其最大效力。要制定符合中国需要的人工智能法律，一方面，我们必须充分尊重人工智能技术的发展水平。没有足够的实践经验来指导我们，我们暂时无法设计出一个具有世界领先意义和示范效应的完整的人工智能法律体系。另一方面，我们也应该看到，人工智能技术的发展不仅是抢占世界新兴技术制高点的需要，也是世界社会经济发展的大趋势。

因此，我们的法律必须通过良好的系统设计，积极响应人工智能技术的发展需求，满足人工智能技术的发展要求。同时，我们必须积极借鉴国外人工智能领域的立法经验和司法实践经验，尽快完善相关的法律设计当务之急是尽快制定《人工智能基本法》、《人工智能产业促进法》等法律法规，明确中国对人工智能和机器人产业发展的基本态度。与此同时，将颁布人工智能产品的伦理审查方法和人工智能产品的设计指南等条例，以防止在未雨绸缪之前应用机器人可能产生的社会问题。

光明日报(2019年5月12日，07版)

来源:光明网-光明日报