手机网站
手机网站
现在人们比以前更加担心机器人的能量和潜力。问题不在于科幻电影或小说中构建的人形机器人总是讨厌人类，而是这些机器人可能有更广阔的视野和更强大的潜力。
国内外各界都在关注这个话题在两个月前的人工智能大会上的“两匹马的对话”中，埃隆·马斯克和马云讨论了人工智能和人类的未来据了解，“人工智能发展的道德边界”也是今天举行的中国计算机大会(CNCC)计算技术领域年会的重要论坛议题。
围绕人工智能、道德和人际关系这一热门话题，DeepTech采访了复旦大学生物医学伦理研究中心和复旦大学应用伦理研究中心主任王国玉教授。她出席了CNCC会议，并发表了题为“人工智能伦理:从可能性推测到可行性探索”的演讲
图|俞王国带来CNCC“人工智能伦理:从可能性推测到可行性探索”报告(资料来源:DeepTech)
禹王从三个方面展开了对人工智能伦理学的看法:为什么人工智能是伦理学的研究对象？人工智能伦理研究的路径与人工智能伦理问题的合作治理她认为人工智能的伦理源于人们对人工智能技术风险的恐惧和担忧。人工智能的伦理问题不是单一的技术问题或算法问题，而是来自技术系统和人们社会生活系统之间的相互作用。人工智能的伦理学应该从可能性推测转向可行性探索。
“一旦人工智能获得自我意识，它会‘从奴隶到将军’吗？“我认为，从人们对机器人的依赖角度来看，如果我们不做好早期准备，理论上是可能的，”王国玉认为，“人工智能中伦理问题的管理不仅是伦理学家的事，也是科学家和工程师的事，需要更多跨学科的合作。”“
下面是采访内容:
DeepTech:您一直关注与技术伦理相关的问题。你应该目睹许多新兴技术的崛起以及随之而来的伦理问题。那么，与其他技术相比，你认为人工智能伦理问题的特殊性是什么？
余秋雨:我认为人工智能在其他新兴技术中有自己特殊的伦理问题和一些常见的伦理问题。与其他新兴技术相比，当前的人工智能算法和系统具有更高的自主性，更有可能极大地改变人类的未来，从而引起社会对伦理问题的更多关注。在我看来，人工智能不是单一的技术，而是新兴技术体系的一个重要分支，是推动新一代工业革命的关键赋能技术人工智能必须与其他技术相结合才能落地。例如，人工智能和汽车制造的结合产生了自动驾驶或无人驾驶技术。并结合自动控制、遥感、机械制造等技术生产智能机器人。医学技术与医学技术结合产生智能诊疗技术等目前，人工智能的核心算法强烈依赖于数据驱动。可以说，没有大数据技术，就没有当前的人工智能技术。因此，从某种意义上说，人工智能技术是一种先进的系统技术或技术体系
从这个定义，那么我们可以说人工智能的伦理问题不是一个单一的问题它不仅有技术高度自治带来的特殊伦理问题，如算法伦理问题，也有其他新兴技术常见的伦理问题，如隐私问题、责任归属问题等。该算法具有与其他技术相同的值负载。算法设计中选择什么参数，优先考虑什么价值和利益，与设计者的道德敏感性和价值取向有很大关系。但与此同时，算法将会扩大，甚至可以根据自己的逻辑运算作出决定。设计者不能完全控制算法的运行，也不能预测，也不能保证算法的结果在道德上是可接受的。这也是目前有争议的智能主体能否被视为道德主体的问题。随着算法能力的提高，这一问题将变得越来越突出，也将影响责任的归属和识别。
例如，有很多关于如果自动驾驶与人相撞，谁应该对事故负责的讨论。这与一般的责任识别不完全相同，因为它一方面涉及自动驾驶汽车的主动性和自主性，方向盘和制动器掌握在智能机器手中；但另一方面，自动驾驶汽车本身不是道德主体，不能承担道德责任。因此，我们将询问谁应对事故负责。是自主车辆的设计者还是所有者？这是工程师、企业还是政府和管理人员的责任？这些都与人工智能的特殊性有关，但这个问题也涉及到一个更普遍的技术伦理问题:技术伦理如何面对技术的不确定性，或者我们如何与技术的不确定性沟通
图| 38岁的沃尔特·黄(Walter Huang)使用特斯拉的自动驾驶功能在一场车祸中丧生(来源:英国广播公司)
DeepTech:你认为“人工智能机器人具备自我意识后，机器人将主宰人类”的观点如何？为什么你认为人们比以前更加担心和害怕这个问题？
禹:这个问题的前半部分是一个假设，即假设人工智能机器人将产生自我意识，后半部分是推测，“机器人将主宰人类”这是典型的“如果然后”的推测性断言这让我想起了捷克作家卡雷尔·恰佩克的《鲁苏姆的通用机器人》中的情节。众所周知的“机器人”一词源于该剧。机器人这个词是捷克机器人和波兰机器人的组合。前者意味着“奴役和苦役”，而后者意味着“工人”。合在一起，它被翻译成“被奴役的工人和奴隶”起初，剧中的机器人没有意识或感觉。他们取代了所有的人类劳动。后来，机器人工厂的一名工程师悄悄地将“灵魂”注入机器人，使机器人能够感知疼痛，然后逐渐变得有自知之明不幸的是，机器人醒来后的第一个想法是抵抗和攻击。这可能是最早关于机器人统治人类的科幻文学。后来，越来越多类似的作品出现了。这样的叙述让人对人工智能感到恐惧和担忧
技术伦理源于人们对技术的恐惧和担忧因此，半个多世纪前，艾萨克·阿西莫夫提出应该用伦理规则来指导机器的人工智能行为:机器人不应该伤害人类，或者人类应该因无所作为而受到伤害。除非违反第一定律，否则机器人必须服从人类的命令。在不违反第一和第二定律的情况下，机器人必须保护自己。机器人不得伤害人类，也不得因无所作为而伤害人类(零定律，1985)
那么，人工智能机器人有可能获得自我意识吗？强大人工智能的倡导者认为这是肯定的，但这只是时间问题。库兹韦尔预测，到2045年，人和机器将深度融合，人工智能将超越人类本身，达到“奇点”。我不知道人工智能是否一定会产生自我意识，人类是否会乐于看到或允许人工智能产生自我意识，人工智能何时会产生自我意识，这我无法预测，但一旦获得自我意识，人工智能会“从奴隶变成将军”吗？我认为如果我们不提前做好准备，理论上是可能的。当然，我不会想象一个像科幻小说作家一样由机器人统治的国家。但是从丧失人类自主和自由的角度来看
事实上，我们今天已经感觉到人工智能使人们越来越依赖它，同时增强了他们的能力和行为自由。这种依赖性也可以解释人类独立性的丧失。正如黑格尔在《精神现象学》一书中谈到“主人和奴隶”的关系时指出的那样，主人和奴隶是相互定义的:一方面，主人因为奴隶的存在而成为主人；另一方面，一旦主人获得了统治者的地位，主人就没有独立的意识，而是依赖的意识，所以他不能决定自己的真实自我，而是促使奴隶超越主人。让我们举一个常见的例子。例如，我们今天使用的智能导航使我们能够安全避开路况不佳的各种道路。我们将根据它指引的路线到达目的地。从这个意义上说，这是一项有利的技术我们相信这些信息来自实时导航，它掌握了所有的动态，对路上的一切了如指掌。然而，只要我们担心放弃信息会绕道而行，并且相信接收信息可以很快到达我们的目的地，那么我们就开始依赖信息，这时，对人的信息的“控制”就会出现。
关于后一个问题:为什么公众对这个问题比以前更加担心和害怕？首先，我认为这是因为近年来人工智能本身的快速发展已经使人们对人工智能技术系统向我们生活世界的变化产生了强烈的感受。尤其是2016年3月阿尔法围棋(AlphaGo)击败人类围棋手李世石后，人们对人工智能的力量感到惊讶。与此同时，他们欢呼并担心这会如何改变世界和我们的生活。霍金、比尔·盖茨和马斯克等名人对人工智能威胁的预测也会加剧人们的恐慌。例如，霍金认为，“一旦机器人达到自我进化的关键阶段，我们就无法预测它们的目标是否仍然与人类的目标相同。”一些媒体经常传播和夸大人工智能的进步，更喜欢使用耸人听闻的词语，比如人工智能是魔鬼还是天使作为头条。这种叙述也增加了人们对发展人工智能的担忧。
DeepTech:最近火灾中的变脸技术，无论是在国外还是在国内的ZAO，都引起了轩然大波。你认为目前的人工智能应用能在很短的时间内广泛传播吗？部分原因是技术的快速发展和门槛的降低吗？没有约束的技术是危险的，那么如何在适度约束下尽可能多地释放技术创新呢？伦理与科技政策之间的冲突应该如何协调？
王国玉:我认为这种变脸技术的迅速传播部分是由于技术本身门槛低，另一方面，也与人们的好奇心有关。我在朋友圈和微信群中看到过类似的视频。虽然这不是一个变脸视频，但它是一个变脸应用。上传照片或当场拍照后，您可以获得不同时间和不同图像的照片。我认为许多人喜欢玩这个游戏是出于好奇。但是大多数人可能不知道。因此，我们的“脸谱”作为数据保存在后台。我们通常不知道数据将如何处理，馅饼将如何使用，我们也很少被清楚地告知。如果这些数据被恶意使用，将会给自己、他人和社会带来极大的危害。我们知道，现在许多银行甚至大门都用人脸来验证人的身份。这些面部数据，像指纹一样，是一个人身份的重要标志。一旦落入坏人之手，后果将不堪设想。
图| ZAO海报，ZAO是一款应用软件，使用人工智能技术完成脸部变化。用户可以上传正面人脸照片来创建面部表情包和人物(来源:苹果商店)
的问题是我们在立法和政策监管方面仍然有点慢。技术创新并不意味着你可以做任何你想做的事情。技术创新的目的是为了更好的生活。如果这种创新没有带来更好的生活，而是破坏了更好生活的正常秩序，危及他人，损害公共利益，那么这种创新就不是我们应该接受和拥护的。因此，我们应该坚持负责任的创新。负责任的创新不仅注重创新带来的经济效益，还注重创新的社会效益和企业的社会责任。相应地，政府相关部门应推动相关研究，尽快制定相关法律法规，对类似技术进行分类管理，合理引导技术创新，坚决制止一些侵犯公共利益和他人权利的行为
深度科技(DeepTech):你认为为了尽可能让“科技好”，社会不同层次需要做出什么努力？
禹:根据亚里士多德的说法，每一项技能都是针对某种善的。然而，现代技术的特征之一是它的不确定性。这种不确定性贯穿于现代科学技术从目的到方法和结果的整个过程。面对科技的不确定性，不仅是科技工作者和企业的责任，也是政府主管部门的责任。人文学者、媒体和公众也负有一定的责任。
作为从事科学研究和开发的科学家和工程师，他们是技术的创造者和生产者，最了解技术本身的特点和潜在风险，并有责任透明地解释和及时告知公众其潜在风险和不确定性科技研发的管理部门和决策者，包括政治家和企业家，有责任与科技工作者和人文学者一起对科技发展进行风险预测和伦理评价。由于科学技术活动直接渗透到政治活动中，科学技术决策也是政治决策。科技政策是科技发展的催化剂。它可以通过适当的政策调整科学和技术发展的轨迹，并在必要时发出警告。人文社会科学工作者也应关注科技发展前沿的社会影响，为政府制定公众可接受的科技政策提供支持和依据。主流媒体和公共媒体应该对科技本身的特点有一个透彻的了解，而不是以制作新闻为目标。最后，科学技术的发展离不开公众的支持。公众积极参与科技社会治理是保证现代科技良性发展的最重要力量之一。DeepTech:你今年CNCC会议报告的主题是“人工智能伦理:从可能性推测到可行性探索”。你能分享你选择这个话题的初衷吗？除了道德内容，你对哪个论坛或演讲者更感兴趣？
图|俞敏洪出席CNCC会议并发表题为“人工智能伦理:从可能性推测到可行性探索”的演讲报告(来源:CNCC官方网站)
禹:非常感谢你给我这个机会与你分享我对人工智能伦理的看法。人工智能伦理属于技术伦理范畴。虽然正如我们前面指出的，它有其特殊的地位，但我认为我们需要面对的核心问题是人工智能技术系统的安全、自由和公正带来的不确定性，就像其他技术伦理学分支一样。选择这个话题的初衷是为了和大家讨论如何在人工智能全面发展的同时，找到一种方法和途径来促进人工智能造福人类，同时有效避免人工智能带来的负面影响。
我早些时候还说过，人工智能伦理问题的管理不仅是伦理学家的事，也是科学家和工程师的事。需要更多的跨学科合作。在这方面，我们复旦大学科技伦理与社会治理研究中心特别期待向人工智能专家学习，并与人工智能专家一道，进一步探索以多种方式全方位推进人工智能伦理问题治理的方式方法。因此，在会议期间，我将尽力在不同的论坛上学习。
