有关于生物的企业_ “AI换脸”不能罔顾企业社会责任

随着移动互联网和智能手机的普及，新的经济形态在中国迅速发展，新的网络如雨后竹笋般出现。 但是，由于缺乏一些APP经营者、开发者的社会责任意识和法律意识，如果新产品和服务上市，就会出现无视用户权利，对社会产生负面影响的行为，舆论的口头往往受到处罚。

最近，一个叫做ZAO的“AI换脸”应用突然点燃了。 用户在这个软件上传自己的脸部照片，选择软件中的照片和视频素材，可以把照片和视频中人物的脸部变成自己的脸部，可以制作出有着“把戏当明星”癖好的各种有趣的表情包。 运用这种人工智能技术的软件，一旦受到用户的欢迎，使用它制作的录像很快就在朋友之间传播开来，传播到整个互联网上。 据统计，8月31日上午，苹果商店的下载量上升到娱乐类第二位。

但是，软件大受欢迎之后舆论反对。 最令人印象深刻的是，有可能伤害用户合同中包含的用户的“霸王条款”。 根据用户协议，ZAO平台不需要对用户上传的内容负责，用户要使用软件，必须无偿无限制地授予ZAO及其利益相关方许可，并让ZAO及其利益相关方进行修改和编辑……

另外，用户担心脸部的图像因恶意而传播，收集生物特征，恶意的人被AI软件处理，被用于不正当行为。 洗脸，制作色情，骗取亲戚朋友的金钱……8月31日下午，ZAO修改了用户合同，删除或修改了一些不符合规定的条款。 9月3日，工信部网络安全管理局咨询ZAO所属北京未知科技有限公司的有关人员，要求修改自我调查，依法收集用人单位个人信息，规范协议条款，加强网络数据和用户个人信息的安全保护。

这是在产品和服务的研究开发中企业缺乏社会责任意识的典型案例。 为了企业未来可能出现的各种潜在业务需求，用户试图无限制地认可个人信息，逃避平台的管理责任。 这是企业对社会责任的无知和对用户权利的忽视。

首先，ZAO不能逃避平台管理责任。

2017年生效的《网络安全法》第9条，网络运营商开展经营和服务活动，必须遵守法律、行政法规，尊重社会公德，遵守商业道德，诚实守信，履行网络安全保护义务，接受政府和社会监督，承担社会责任。 《今年8月国务院办公厅发布的《促进平台经济规范健康发展的指导意见》明确要求科学合理界定平台责任，《平台经营者信息验证、产品和服务质量、平台权利、消费者权益保护、网络安全、数据安全 ZAO试图明确平台管理责任的条款显然是违法的。

畅销书《平台革命:改变世界商业模式》的作者之一马歇尔·w .范·埃尔斯汀去年接受媒体采访时说:“如果平台引发的交易和服务发生恶劣事件，即使是服务提供者也会受到服务提供者的损害和伤害 平台型公司应利用数据和技术，制定更好的规则，保证危害不会再发生。 ZAO作为AI影像技术公司，应该全面评估可能存在的技术风险、社会风险和法律风险，提出更加切实可行的用户信息安全措施，制定尊重用户隐私、保护用户权利的平台管理规则。

其次，ZAO违反国际主流社会责任标准和准则。

国际上有许多保护个人隐私的标准，包括ISO 27001、CSA STAR和ePrivacy Seal。 ISO26000《社会责任指南》、GRI《可持续发展报告标准》和港口交易所ESG报告指南也存在法规遵从性、道德、人权和安全问题，鼓励企业尊重消费者的个人权益，保护消费者的隐私。 ZAO的服务合同违反了这些标准，ZAO引导中国用户利用普遍淡泊的肖像权和隐私保护意识，免费向用户提供面部信息。

根据ZAO的用户协议，个人信息，例如用户的照片，可能转卖给更多的互联网平台、机构、个人，用户可能被陌生的第三方修改或使用，例如，现实中可能出现磨脸、色情或者被欺骗的现象 用户是ZAO的最大利益相关者，如果发生用户信息被滥用、用户利益和公共利益受到损害的事件，则受到政府的管制，对企业的生存发展可能是致命的。 禁止播放，放在DDT顺风车下面就是明显的例子。

再次，ZAO的商业模式与国际互联网公司的社会责任发展趋势不一致。

作为最近兴起的技术，面部识别产业近年来在中国的发展一帆风顺。 据统计，中国人脸识别产业市场的规模以年平均30%的复合增长率扩大，到2018年达到了131亿元。 但是在隐私保护越来越受到关注的今天，这项技术在欧美各国的处境大不相同，开始面对严格的监督。 今年年初，微软CEO警告说脸部认识不会助长市场的恶性竞争。 微软最近删除了世界上最大的公开脸部识别数据库——MS Celeb的Facebook、Google、Amazon等科技巨头也受到立法者和其他相关人士的隐私保护实践的特别关注。 根据欧盟于2018年发表的GDPR，公司在用户收集脸部等生物特征数据之前，必须征得个人同意。 否则，惩罚金额将达到世界收入的4%。 因此，作为创新产品和服务，ZAO必须探索更符合国际社会责任发展趋势的商业模式和产品开发。

ZAO“AI改变面孔”事件让更多的互联网创新企业意识到，科技创新不应忽视社会责任。 企业家们在筹划推出互联网新产品和服务时，希望企业社会责任专家、安全专家、法律专家以及不同利益相关者共同参与，制定符合公众利益的技术开发规范、信息安全规范、消费者权益保障措施和法律风险管理方案，真正确保“科技向善”。