ai语音安全不_ AI语音助手劝人“自杀” ，智能家居真的安全吗？

12月21日，智能助理现在广泛应用于手机等智能硬件中，这样的助理可以为用户解惑。

但是当这些智力助手提问题时，并不怎么好。 最近，一位智力助手的用户提问时，得到了意外的答案。

​

岳献芳

北京科学技术大学副教授

智能家居集中运用现代传感器、视频控制、交互、信息融合、互联网通信、人工智能和大数据分析等技术，是典型的高新技术集成体。 智能家居设备与传统家居设备的主要区别在于是否有网络和远程控制行为。 目前智能家庭系统的架构主要包括云、设备终端和移动终端，其安全风险主要包括云、设备终端、移动电话APP和通信四个方面。

这次事件，Alex的回答是根据维基百科的内容进行的，Alex有可能从每个人都有权编辑的维基百科得到了坏的信息。 根据维基百科的免责声明，任何文章的内容都可能被他人修改、破坏或篡改，但这些人为观点与相关领域的知识状况不一致，维基百科不保证其有效性。

亚马逊就这件事回答说这是错误，已经修复了。 AI能为用户提供更好的服务是好事，但安全性和隐私不确定性需要提高。 单纯从技术方面来看，今后随着终端产品种类的增加，收集数据的能力也越来越强，数据种类也越来越多，传统的检查机构在关注信息安全时关注传统的安全性，今后，用户数据可能会变得越来越重视 其他级别是不同的级别。

​

王鹏

人民大学智能社会研究中心研究员

任何技术的发展都有过程。 目前，正如清华大学的钹所提倡的那样，人工智能本身的发展也存在着瓶颈。

从长远角度来看，人工智能在未来与各行各业相融合，但实际上到具体水平为止，对于现阶段的人工智能，人们常常提出所谓的人工智能障碍，目前的技术和应用解决实际问题的能力非常有限。 例如，我们现在正在向人工智能提出问题。 那个有在互联网上进行更多的检索的可能性，有些答案没被问到，会带来更坏的影响。 比如，鼓励自杀，提供负面或错误的信息，其自身的判断能力非常有限。

也就是说，人工智能在当前情况下的发挥非常有效，仍然取决于算法和数据量的基础，同时也有一些限定条件。 例如，人工智能很难判断好坏。

在没有多元判断的情况下，人工智能容易发挥自己的性能。 另外，人工智能需要极限，使用场景不能相互连接，只能在单一场景、单一区域发挥作用。 也就是说，人工智能技术本身的发展存在瓶颈，目前尚不成熟。 现在，我们主管部门、企业、公关部门、教育机构应该对这些消息有一定的预测，我们现在所谓的幸存者的偏差总是发生，只看硬币的好处。

此外，不仅要判断技术本身的好坏，还要同时进行技术外延的研究，如技术对我们生活的影响、对经济社会发展的影响、人工智能的伦理、法律法规的问题等。 这不仅需要技术本身相关的科学家和工程师，还需要人文社会科学专家对前沿交叉学科的研究，甚至非前沿交叉学科的研究，不仅仅是技术与传统学科的融合。

相反，我们的人文学科也需要研究技术本身的发展。 技术本身不仅使我们的人文学科研究更好，人文学科本身也对技术产生影响。 这需要主管部门和科研部门共同努力。  

​

徐伟栋

杭州电子科技大学副教授

AI何时表达“恶意”，是AI历史上最伟大的突破。 佐罗亚斯特肯定意味着AI也能表达“善意”。 它今天只是一个高级的阅读机器，其所谓的智慧、善意、恶意，对于这次Alexa读到的这篇文章本身，与其说是在维基上传达的恶意，不如说是维基作者的深刻讽刺。

​

董志成

国际教育博士，完美的世界发展经理

化学家艾萨克·阿西莫夫的短篇小说集《我，机器人》中提出了《机器人的三个法则》，现实中是“机械伦理学”的基础

1 .机器人不能伤害人类，也不能使人类处于危难之中

2 .机器人必须服从人类的命令。 除非与第一定律发生冲突

3 .机器人可以在不与第一、第二定律冲突的情况下维持自己的存在，但由于现有的机器人和人工智能缺乏区别人和危险等概念的能力，这三定律在人工智能中实际上没有应用。 换句话说，现在的人工智能产品可以执行简单的操作，回答简单的问题。

在q&a的过程中，很多是来自网络的报道，例如Wikipedia等，类似于具备语音检索和语音输出功能的扬声器。 我们现在把他们和那个行为过于人格化，没有必要加以道德上的评价。 另一方面，网络上“反人类”的主张值得重视。 因为他们不仅影响现在大人的想法，还影响孩子们的想法。

我听说六年级的孩子做了同样的发言，不知道有没有看到“欺凌”。 我们必须承认对现在的世界环境的影响，资源的转移使用等，但我们作为人类有能力纠正自己的行动，也必须看到要改变现在的问题。 任何时候，我们自己都不能放弃我们自己。 应该充满希望，给我们的后代带来幸福。 (资料来源:有时间)