人工智能与智能机器_ 走向人工智能伦理与治理框架的建构

自2016年人工智能围棋alpha go击败李世石以来，新的人工智能热潮空前席卷全球。 在各国陆续提出人工智能的发展规划和战略的同时，人工智能的伦理风险和管理也成为世界共同关注的焦点。 在全球范围内，人们对人工智能前景的认知明显两极化——一方面对可能大大促进经济社会发展的期待感到兴奋，另一方面也越来越担心破坏民生等危害和风险。 在亚洲，尽管在一般认识和法律层面对隐私权、数据权利、歧视等相关价值的诉求和权利的定义不明确，但伦理和治理框架尚未有系统地构建，人工智能的创新和应用非常迅速，这种张力使人工智能发展中的价值冲突和伦理选择更加明显

图1 :国家人工智能战略优先事项的热图

“亚洲人工智能议程”是“麻省理工大学技术评论洞察”的研究项目，2019年7月发表的这份“亚洲人工智能议程:人工智能伦理”报告被客观评论。 本报告是《亚洲人工智能议程》系列报告之一，报告基于对亚洲人工智能生态系统内外权威人士(包括871名干部)的调查和采访，其洞察几乎体现了亚洲人工智能伦理议程当前的发展和未来的状况报告，是亚洲和全球人工智能伦理与治理的框架

亚洲立场下的人工智能伦理与治理

近30年来，在信息通信技术和互联网数字技术的追求中，亚洲地区成为世界科技进步最快的地区。 如今，在全球人工智能发展的高速公路上，亚洲确实比四分之一世纪前接受互联网时更积极、更有自信。 面对这一波人工智能热潮，加上新兴科技推动社会发展的经验、经世应用和民生优先的文化传统，亚洲地区政府和企业对人工智能的基本立场保持乐观，具有实用主义色彩。 由此可见，亚洲人工智能生态系统的成员不仅对人工智能的优势有信心，而且在整个社会中也自然形成了有利于人工智能探索的制度文化环境。

但是，我们应该看到人工智能的伦理风险并不虚构，数据分析、内容推荐、人脸识别等应用直接参与人的身份和行为，相关技术滥用对人的危害和负面影响远大于传统网络和数字技术。 如果坚持这一立场而不加反省，人工智能给社会和个人带来的潜在威胁往往被忽视或忽视，由此引起的伦理风险即使没有事先防范也难以事后纠正，最终不仅会产生重大结果，还会破坏整个社会对人工智能的信任，一般 报告从这个角度深入分析了亚洲人工智能伦理和管理方面的问题。

首先，乐观主义和实用主义对亚洲人工智能的立场给人工智能伦理和管理带来了巨大挑战。 报告显示，亚洲商业领袖和人工智能生态参与者认识到人工智能的应用可能带来潜在的伦理风险，但总体上人工智能对经济、社会、企业和个人福利的积极影响更为乐观。 其带来的问题是“来自亚洲的战略在伦理上的优先度比其他地区低”，还是“在亚洲使用人工智能的偏见可能更严重”。 在这个问题上，也许有人提出应该强调伦理优先，但实际上不一定需要创新和伦理对立的伦理是否应该优先考虑，取决于具体的技术应用对相关组的负面影响及其严重性。 因此，有效克服这一问题的关键在于技术监督者必须对企业的技术应用对相关群体的负面影响展开预见性伦理评估，并要求企业加以纠正，而通过建设性和参与性伦理评估，技术应用可能会受到严重的负面影响

其次，亚洲人工智能伦理与治理的最大挑战是如何在全面、谨慎的监管下实现伦理与创新的合作。 报告显示，亚洲人工智能生态系统中的企业等处于主导地位的相关人员，对人工智能伦理进行了激烈的讨论，政府认为应该主导人工智能的监督，但有些矛盾的是希望他们慎重地行动政策、框架和监督。 针对这一问题，不应将道德相对缓和误认为是创新的“道德优势”，而应当认识到应用高价值敏感性人工智能，寻求将道德价值融合到技术中的复合创新，创新与道德相互补充、合作。 根据这个想法，在内容推荐中，为了应对一部分企业通过识别和抑制已经推荐给算法的不良内容而开始打破“信息茧室”的脸部识别技术的滥用，随机改变脸部等，出现了很多保护隐私的抵抗性设计。 事实上，将这种伦理敏感的设计——伦理道德结合到技术设计中的方法已经很久以前，十几年前卡内基梅隆大学就有研究人员通过设计的软件帮助人们堵塞网络隐私。 因此，人工智能的伦理与管理可以贯穿人工智能创新应用的全过程，为了实现伦理与创新的协同合作，必须将其背后的价值观转变为技术水平的目标与需求。

其三，亚洲打算以建立信任机制而不是执法框架为人工智能伦理和管理的突破口。 报告指出，亚洲各国政府和企业尽管更加积极地制定了人工智能行业道德发展的目标和准则，但迄今还没有监督和执行机制。 亚洲政策制定者不直接解决伦理问题，也不提供法律的支持和追索权，诉诸消费者、人工智能用户和人工智能开发者之间的信赖，促进了整个行业的发展。 建立持续的信任机制，人工智能必须以责任和透明的方式发展。 目前人工智能涉及大量数据驱动的智能应用，其中相关人员的相关数据反映了人格特征、行为方式和具体行为，企业应如何恰当收集、使用和共享数据，与顾客和相关人员沟通。 能够避免用户的不安和不信任，有效有序地开展创新和应用。

图二: 12种新兴技术的感知效应和负面结果

建立实用的人工智能伦理与管理框架

近二十年来，快速不确定性新兴科学技术不断涌现，人工智能、物联网、基因编辑等可能对经济社会和人类未来产生根本、深远、普遍影响的霸权技术，如何对人工智能等技术构建现实的伦理和管理框架，确实是各地区和国家所面临的 对此，没有最佳答案和统一标准。 但是，通过这份报告中收集的许多经验和智慧，我们一定能得到构建这个框架的有益线索。

一是进一步系统地研究人工智能可能带来的社会影响，在此基础上构建考虑到最坏情况的社会风险防范机制。 其中最重要的问题是人工智能对就业的影响。 报告认为，亚洲商界领导人认为人工智能造成的失业问题将被人工潜力所抵消，而同一系列的“人工智能与人力资本”报告则指出，“人工智能影响亚洲五个工作岗位之一，自动化将淘汰八分之一的工作” 后者还发现，新兴亚洲经济体基于劳动密集型工业和服务业建立的劳动力“可自动化”比例高于富裕国家，人工智能威胁下的低技能职业再培训和技能提升能力更弱。 这些分析表明，在人工智能生态系统对未来乐观的情况下，政府主导的人工智能伦理和管理框架必须看到最坏的情况，充分考虑到智能机器可能替代的劳动力出口，避免人工智能霸权发展带来新的社会不平等。

二是从文化构建兼具地域和全球性的人工智能伦理和管理体系框架。 报告表明，表现伦理的“正确”方式在文化上有很大差异，因此人工智能伦理和治理不是“全球性的”。 的确，人们对人工智能的态度确定了区域和社会发展人工智能的不同方法和宗旨。 以大胆的性机器人为例，拥有神道传统和丰富人偶文化的日本，也许很容易接受其研究开发和应用。 在未来的无人汽车等智能无人系统中，个人主义和集体主义等不同社会主流的价值取向也在一定程度上影响着机器的价值取向和伦理选择。 因此，文化和价值观的接受性是构建人工智能时代人性信任和人性和谐的关键。 但同时也必须指出，人工智能的发展必然推动更深层次的全球化，区域人工智能伦理与管理不仅具有区域适应性，而且必须建立通向全球化管理的机制。 我国的“新一代人工智能发展计划”不仅通过人工智能提高社会管理能力，还对隐私和知识产权、信息安全、说明责任、设计伦理等方面开展了研究，承诺积极参与全球管理。 在此过程中，如何阐释地区伦理与管理框架的核心价值取向和伦理诉求至关重要，在任何文化和社会主流价值观下，都必须明确合理地解释人工智能时代隐私、尊严、个人权利等基本伦理和法律概念，数据的收集和使用，智能体系赋予人类行为 最终，对这些问题的深入研究与其说是价值和伦理问题，不如说是关系到更大的社会历史背景和文化语境下的社会政治选择，是将地区人工智能伦理和管理框架之间的对话融入全球管理框架的难点和关键。

三是在构建人与人和谐未来的同时，确保人类和平的文明基础。 我们在通过人工智能的发展构建人与机的协调未来时，应认识到人与机的关系本质上是人与机的中介关系，对人工智能等技术的伦理规制和管理的关键在于避免对人的恶行。 因此，人工智能的伦理和管理必须添加人工智能的恶意使用和军事运用等负面用途所必需的法律规制、伦理规制。 随着深度伪装等技术的发展，人工智能的恶意使用越来越大，如果不及时加入法律规制和伦理规制，将严重破坏整个社会对人工智能等霸权技术的信赖，影响其有益的创新和应用。 同时，人类科技文明发展的悖论应该看到许多霸权技术，包括计算机、互联网和人工智能都与军事对抗和国家竞争密切相关。 我们必须认识到，在这股人工智能热潮的背后，或者人工智能军备竞赛的阴影，无人机和大规模智能自动武器系统等人工智能的军事应用，给人类文明未来带来前所未有的威胁，必须得到有效的控制和全球化管理。

结:走向敏捷的人工智能伦理与治理

2019年6月17日，国家新一代人工智能管理专业委员会发表了《新一代人工智能管理原则——创新发展责任》，提出了“和谐友好、公正公平、包容共享、尊重隐私、安全控制、共同责任、开放合作与机敏管理”等8项原则。 其中敏捷管理要及时发现和解决人工智能发展中可能发生的风险，在人工智能产品和服务的全生命周期推进管理原则，保证人工智能始终向有利于人类的方向发展。 实现这一原则的关键在于，将人工智能发展中所有关系利益群体的认知纳入人工智能伦理和管理的各个环节，形成多方面的对话和共识机制，实现从微观到宏观的反馈、修正和反复，最终使人工智能的未来向合乎人性的方向发展