震惊全球事件_回溯全球人工智能治理事件 2020年AI治理将是行业重头戏

:回顾全球人工智能治理事件，人工智能治理将是2020年行业的亮点。+

随着人工智能开始加速工业化，传统的生产方式、经济关系和社会生活也向智能化发展，人工智能正在世界范围内掀起一场科技革命的浪潮。然而，人工智能的发展不是一个纯粹的技术问题，而是涉及许多伦理和法律问题。放眼世界，人工智能治理事件并不多。2020年初，欧盟宣布拒绝人工智能申请专利，并认为申请人只能是人，这引起了很大争议。在过去的一年里，十大事件，如汽车驾驶事故，聪明的演讲者敦促车主自杀，人工智能大规模制造虚假新闻，以及第一个中国人脸识别案例，让我们意识到人工智能治理迫在眉睫。然而，该行业本身正在积极探索同样在2020年1月，人工智能产业化先驱师旷宣布正式成立人工智能治理研究所，旨在与社会各界沟通，与专家学者就全球人工智能治理的共同问题进行研究，通过“理性关注、深入研究、建设性讨论、不懈行动”共同促进人工智能的健康发展这不是师旷第一次提出有效的人工智能治理措施。2019年7月，师旷已经发布了《人工智能应用指南》，从合法性、人的监督、技术可靠性和安全性、公平性和多样性、问责制和及时修订、数据安全性和隐私保护六个维度明确规范人工智能的正确有序发展。同年，师旷成立了人工智能伦理委员会，与社会各界进行讨论，以促进人工智能的健康和可持续发展。

同时，为了进一步发挥行业的力量，师旷还追溯到世界上十大最具代表性的人工智能治理事件，希望能吸引各界人士来探讨和发现人工智能治理事件背后的深层问题，从而推动建立健全的人工智能治理机制。低于

是已被检查的十大人工智能治理事件:

事件一:欧盟专利局拒绝了人工智能发明专利申请

2年1月，在英国萨里大学组织的多学科研究项目中，研究人员使用了一种名为DABUS的人工智能在研究过程中，DABUS创造性地提出了两个独特而有用的想法:一是新型固定饮料装置；第二个是帮助搜救队找到目标的信号设备。

在研究人员为DABUS提交专利结果时被欧盟专利局驳回，理由是欧盟专利申请中指定的发明人必须是人，而不是机器。萨里大学的研究人员强烈反对这一决定，认为因为没有人类发明家而拒绝授予发明者所有权将是“人类伟大成就的新时代”的主要障碍

事件2:人脸识别案例1:浙江教授控告杭州野生动物园

2年019，浙江理工大学特聘副教授郭购买杭州野生动物园年卡，支付年卡1360元合同中承诺持卡人可在卡有效期后一年内通过同时验证年卡和指纹进入公园，一年内可无限制旅游。

同年10月17日，杭州野生动物园通过短信通知郭先生，“园区年卡系统升级为人脸识别准入，原指纹识别已被取消。未注册面部识别的用户将无法正常进入公园，也无法申请退款。”郭先生认为人脸识别等个人生物特征信息属于个人敏感信息。一旦泄露、非法提供或滥用，将很容易危及消费者的人身和财产安全。谈判失败后，郭先生于2019年10月28日向杭州市富阳区人民法院提起诉讼。目前，杭州市富阳区人民法院已经正式受理此案。

事件3:一位聪明的演讲者建议主人自杀

2年019年，英国唐卡斯特29岁的护士丹妮·莫雷特(Dany Morett)决定在做家务的时候用一位外国聪明的演讲者问一些关于心脏的问题。智能语音助手给出的答案是:“心跳是人体最糟糕的过程。”人们的生活正在加速自然资源的枯竭，人口将会过剩，这对地球来说是一件坏事，所以心跳不好，为了更好，请确保刀子能够刺入你的心脏“

事件后，智能扬声器开发者回应道:“该设备可能会从维基百科(Wikipedia)下载与心脏相关的恶性文章，任何人都可以自由编辑，这导致了这个结果。"丹妮·莫雷蒂(Dani Moretti)搜索后没有发现这样的文章，而智能语音助手也发出可怕的笑声，拒绝听用户的指令。

事件4:“监控头环”在校园引起争议

2年11月，019，浙江一所小学佩戴监控头环的视频引起了广泛关注和争议在视频中，孩子们戴着被称为“脑-机接口”的头环。这些头环声称可以记录孩子们在课堂上的集中程度，生成数据和分数，并将其发送给老师和家长。作为回应，首要开发者回答说脑-机接口技术是一种新兴技术。报告中提到的“分数”是班级的平均集中值，而不是网民猜测的每个学生的集中值然而，许多网民认为头环是“头吊梁和锥形刺砧”的现代版本，这将使学生叛逆，担心是否涉及侵犯未成年人隐私。

事件5:加州国会通过法案:禁止警察在执法记录仪上使用面部识别技术

2年9月，加州国会通过了一项为期三年的法案，禁止州和地方执法机构在执法记录仪上使用面部识别技术如果州长加文·纽森签署并通过该法案，它将在2020年成为法律。如果该法案生效，加州将成为美国最大的禁止使用面部识别技术的州。包括俄勒冈州和新罕布什尔州在内的一些州也有类似的禁令。然而，也有执法团体反对该法案。他们认为面部识别技术在许多方面起着重要的作用，例如追踪嫌疑犯和寻找失踪的儿童。州警察局长协会表示，这项技术只是用来缩小嫌疑人的范围，而不是自动决定逮捕谁。

事件6:人工智能变脸应用引发隐私争议

2年8月，019，一个人工智能变脸软件在社交媒体上刷屏幕。用户只需要一张正面照片就可以用自己的脸替换视频中的角色一旦发表，有许多争议点用户协议中有许多陷阱，例如，用户的图像权利被称为“全球免费、不可移动、永久可转让的许可证”然而，如果名人肖像受到侵犯，如果对方提出投诉，最终责任在于用户。

2年11月底，国家网络信息办公室、文化旅游部、国家广播电影电视总局联合发布了《网络音像信息服务管理条例》，明确规定了“利用基于深度学习和虚拟现实的虚假图像、音像制作技术制作、发布和传播谣言”等变脸技术的新规定...应及时采取相应措施消除谣言。”照片

:三个部门联合发布了《网络音视频信息服务管理条例》

事件7:频繁自动驾驶安全事故

2年3月，50岁的杰里米·贝伦班纳(Jeremy Belem Banner)在驾驶电动汽车时以每小时109公里的速度与拖拉机拖车相撞死亡。当时他正在使用自动驾驶系统。这不是第一次由自动驾驶系统引起的交通事故尽管自动驾驶制造商多次表示，他们的自动驾驶系统是为了帮助司机，但他们必须时刻注意并准备好接管车辆。然而，当许多车主选择购买他们的汽车时，他们喜欢他们宣传的“自动驾驶”功能。在最近的试验中，制造商被证明无罪，但是他们仍然修改了他们的“自动驾驶”宣传策略。

事件8:人工智能写假新闻足以迷惑

2年2月15日，人工智能研究机构OpenAI展示了一款只能通过向软件提供一些信息来写真实假新闻的软件一些人怀疑，在虚假信息正在传播和威胁全球科技产业的背景下，一个擅长制造虚假新闻的人工智能工具很难不被谴责。开放人工智能如果委托给非人类，很可能会成为影响选民意愿的政治工具。

事件9:斯坦福大学人工智能算法比人类更准确地识别性取向

2年017年，斯坦福大学发表在《人格与社会心理学》上的一项研究引发了广泛的社会争议这项研究基于对美国约会网站上超过35000名男性和女性头像的培训。它使用深层神经网络从图像中提取特征，并使用大量数据使计算机学会识别人们的性取向。

图:性取向特征点与图

的比较这项研究的争议点是，一旦这项技术普及，其中一对夫妇将使用这项技术来调查他们是否被欺骗。青少年使用这种算法来识别他们的同龄人，而关于识别某些特定群体的争议甚至更加难以想象。

事件10:英国广播公司发布了10年后某些职业被淘汰的概率:电话推销员、打字员和会计师根据剑桥大学研究人员的数据系统排名前3

英国广播公司发布了365个未来最有可能被机器人取代的职业根据这项研究，在365个职业中，最有可能被淘汰的是电话营销人员。像这样重复的工作更适合机器人做，机器人不会感到疲倦或烦躁。其次，打字员、会计师、保险推销员等等，他们都是以服务为导向的。例如，这些行业不需要技术，是可以通过培训轻松掌握的技能。

也有学者不同意这一点他们认为纵观历史，技术的影响是一样的。人们的工作方式已经变了又变，并没有永久性地摧毁劳动力市场。人工智能技术正在改变世界，重塑人类社会。人类社会的长期价值关键和法律规则面临挑战。人工智能发展的问题正在逐渐显现。

个聪明的演讲者建议所有者自杀，人工智能写假新闻，这反映了人工智能作为新事物给传统伦理和法律带来的挑战。确定性取向和未来将被机器人取代的职业涉及现代社会发展和人类平等之间的矛盾。自动驾驶事故的频繁发生反映了社会对识别技术权利和责任的机制的需求。监控头环、人工智能人脸变换和杭州人脸识别是最受关注的安全和隐私问题。“欧盟专利局裁决”是人类必须解决的最后一个问题:人工智能有权追求生命、自由和幸福吗？

人工智能开发和应用中存在的诸多问题，除了引起公众的关注和行业的反思外，各国政府也在密切关注行业法规和政策的研究。早在2017年，当中国启动“新一代人工智能发展计划”时，它就提出在一些领域初步建立人工智能的伦理标准。2019年第十三届全国人民代表大会第二次会议将把与人工智能密切相关的立法项目，如《数字安全法》、《个人信息保护法》、《科技进步法》等纳入会议五年立法计划。2018年，欧洲联盟发布了《一般数据保护条例》，将用于识别的生物特征定义为敏感数据。加州还通过了一项法案，进一步限制人脸识别和其他技术的应用。这表明处于人工智能技术应用前沿的主要国家和地区正开始走向人工智能立法的前沿。然而，从全球角度来看，人工智能治理仍然是一个面临巨大挑战的新课题。如何完善人工智能的相关法律法规，不仅可以打破现有人工智能技术和行业发展规则的束缚，还可以防止技术滥用带来的负面影响和危害，考验各国管理部门的智慧，也是行业可持续发展必须面对的问题。