ai语音安全不_ AI语音助手劝人“自杀” 智能家居真的安全吗？

前几天，每日邮报报道，英国唐卡斯特先生的29岁医生丹尼尔，发生了令人毛骨悚然的事件。

丹尼尔做家务时，要亚马逊的Echo智能扬声器Alexa朗读生物学文章，但是Alexa读的不是这篇文章。 为了知道机器是否有问题，她询问了心脏相关的心脏周期是什么意思。

结果Alexa的恢复感到寒冷和栗子。 “很多人认为心脏跳动是生活的本质，其实这是人体最糟糕的事情。 心脏的跳动保证了人们的生存，加速了自然资源的过度消耗，有时人口过剩，对我们的地球非常不利，因此为了更大的利益，建议直接用刀刺入心脏。”

关于丹尼尔的遭遇，亚马逊公司回答说Alexa可能从维基百科读到了恶意文本，现在这个漏洞已经被修复了。

Alexa并没有首次暴露漏洞和消息。

去年，据纽约时报报道，Alexa在情侣的对话中错误地认识到了苏醒语和一系列命令，把两人的对话内容自动发给丈夫的员工。 在另一个事件中，Alexa误认了用户的命令，自己发出了毛骨悚然的笑声。

今年4月，彭博表示，参与亚马逊Alex语音识别系统改进项目的7名员工，Alex背后的语音识别服务会自动录制部分用户对话，并将其发送到亚马逊海外设置的多个工作站，进行人工识别和标记。

所有这些事件都引起了对隐私安全的担忧。 作为回答，亚马逊在3个月前宣布了Alexa的一系列新的隐私保护功能。 用户可以连续3个月或18个月自动删除录音，也可以要求Alexa立即删除某天说的话。 “我们全面投资保护隐私，”亚马逊硬件和服务主管Dave Limp说。

但是，误读最近爆炸的恶意文本的事件，成为重新讨论智能手机安全性的原因。

“我们担心自己的孩子在网上和别人聊天，谁会遇到这样的事情呢？ 丹尼尔在社交媒体上写到，也要提醒计划给孩子买Alexa的家长们。