阿里加入清华大学促进产学研合作，探索人工智能和关键安全技术

小学生用照片闯入凤超的面部识别系统，无人驾驶汽车失控打人，人工智能变脸让你暂时成为色情电影中的主角...随着人工智能技术的快速发展、普及和应用，以下安全、伦理等问题也引起了广泛关注。

作为人工智能研究和工业应用的重要组成部分，人工智能安全应促进政府、学术界和工业界之间更深入和广泛的合作，以系统地展示人工智能的安全性12月8日，在清华大学举行的人工智能与安全研讨会上，清华大学副校长、中国科学院院士薛启坤表示:“这一领域发展迅速。我们必须在关键时刻把握正确的方向和关键技术。”我们相信通过这次人工智能和安全会议可以取得新的进展和成果。"

据悉，此次研讨会由清华大学、阿里安全和北京致远人工智能研究所联合举办。它邀请来自大学、互联网公司和政府部门的科研人员参加研讨会。研讨会的目的是提高人工智能和各行各业安全的重要性，共同创造更多的安全人工智能成果。

“2019年天猫双11日，我们的安全人工智能大脑完成了388亿次风险防控，99%的黄牛被系统准确拦截。”阿里巴巴集团安全技术总经理雷倩指出，阿里拥有当前行业中最复杂的商业场景，清华拥有极强的技术和研发能力。今后，通过人才、项目等方面加强产学研合作将是双方很好的探索和主张。

清华大学计算机系党委书记刘奕群说，阿里和清华一直在密切合作。会议将推动各方进一步合作，推动建立中国人工智能领域的安全管理体系，更好地表达中国在国际人工智能安全领域的声音。

将可信和可解释的安全人工智能发展成为共识

人工智能的迅速发展和重要性是不言而喻的。2019年，美国、欧洲、日本等国家将出台各种政策和国家战略，促进人工智能的发展。公共数据显示，2019年将有2500多家人工智能相关公司，到2020年，中国人工智能产业将达到500亿元。

“安全保护和医疗被广泛应用于各种场景。最近，上海地铁摄像头捕捉到一名潜逃20年的杀人犯，这是一个典型的应用。”国家工业信息安全发展中心副主任李新社在报告中指出，人工智能目前面临许多安全问题，如数据、算法、网络、信息、伦理等。"建立可信的人工智能将成为发展的重要考虑因素."

早在1987年，他就带领清华建立了中国第一个以人工智能命名的国家重点实验室，见证并参与中国第一代和第二代人工智能技术的发展。清华大学人工智能研究所所长、中国科学院院士张博在主旨报告中强调，有必要开发安全、可靠、可信的第三代人工智能，使人工智能技术能够安全、广泛地应用。技术发展的关键在于基础研究，必须在基础研究上进行关键投资和突破。

(清华大学人工智能研究所所长、中国科学院院士张博在会上发表主旨讲话)

"一张有一点噪音的鸟瞰图可以让人工智能认出老虎."张博院士说，人工智能的安全问题源于深度学习技术的潜在缺陷。使用一个非常简单的神经网络系统通过概率和统计来提取低级特征。正确的方法应该是提取像人类这样的高级语义特征。“我们正朝着这个方向努力，但现实是没有永久安全的系统，我们也不期望有永久安全的人工智能系统。只有加强基础研究，我们才能有前瞻性的判断，及时采取措施。”

中国科学院院士、大数据算法与分析技术国家工程实验室主任徐宗本(音)在主旨报告中也强调，人工智能的未来发展，尤其是在医疗等关键领域的应用技术，需要充分利用数学等工具来加强基础研究，突破精度瓶颈，突破孤立的数据孤岛，实现小样本和可解释的深入学习。

人工智能和安全发展相辅相成。

针对众多与人工智能和安全相关的技术问题，中国科技大学网络安全学院副院长张伟明空、上海交通大学网络安全与技术学院副院长吴军空、Xi交通大学网络安全副院长沈超空、利物浦大学电子电气工程教授黄朱凯、清华大学副教授张超在会上做了精彩发言。它还从各个角度提出建议，如防止人工智能的滥用和误用，加强相关标准的制定，加强人员培训，进一步深化人工智能与各种实际行业的融合。

“虽然业界仍然担心人工智能的安全性，但我们已经在阿里的安全场景中充分利用了人工智能技术，人工智能在安全本身的攻防性质下不断发展，”雷倩说，阿里安全希望通过人工智能在打击假冒产品、商业环境治理、网络安全、数据安全、新零售安全等领域的应用，创造出更安全、更可信、更可解释的安全人工智能。

(阿里巴巴集团安全技术总经理雷倩在会上分享了阿里利用人工智能解决安全问题的做法)

雷倩在现场发布了一套安全人工智能防控数据:96%的涉嫌侵权链接一上线就被屏蔽，96%的知识产权投诉在24小时内得到处理。在确保业务运营方面，我们应该每天识别和判断数千万份高风险订单，拦截数百万次恶意攻击。

许宗本院士评论说，人工智能防伪提供了更多的机器学习和大数据分析，这对真假鉴别具有重要意义。人工智能防伪是数字技术和人工智能的应用场景。"阿里在这方面做得很好。"

罗马不是一天建成的。阿里巴巴集团安保部成立于2009年。最早的阶段是专家操作阶段，即通过离线数据分析和判断来修复产品漏洞。“在2013年之前，基本上是这种人肉模式。然而，随着阿里业务系统的不断扩展，如果需要两三名专家来分析每项业务，这基本上是不可能的，然后我们将进入数据智能时代。”雷倩说，这一时期的特点是通过大量信息建立了完善的安全体系和指标体系。指数变化由人们来解释，然后成为定期登陆和在线防控。"人们仍然占主导地位。"

“安全风控制的本质是一个识别、判断和处置的过程。我们试图通过算法提高效率，并在一些交通服务中使用它们。效果很好。从2018年起，我们将全面转向安全人工智能时代。”雷倩认为，安全能力水平和可在现场使用的数据量与所使用的数据水平正相关。人工智能技术在安全领域的大规模应用将大大提高安全服务中使用的数据水平。“安全对抗也为人工智能技术的发展提供了丰富多样的场景，促进了人工智能技术的快速发展。两者相辅相成。”

2019年6月，阿里和清华大学启动了安全人工智能挑战者项目(Safe AI Challenger Program)，分别进行了人脸识别、图像分类等场景对抗样本测试。总共有2000多个团队报名。前五名获胜的队伍也获得了现场奖项。

“我们希望与更多各方合作，在人工智能的可解释性和安全性以及更多应用场景方面取得更多成果，以促进人工智能和安全产业的发展。”雷倩说。