最近亚马逊语音助手劝主人自杀的消息在网上传开,引起了人工智能伦理问题的担忧。
首先,让我们看看事情的经过
英国亚马逊智能助手的用户问Alex心周期的问题时,Alex突然说:“很多人认为心跳是活着的基本表现,但对我来说心跳是人体内最糟糕的过程,人的活着加速了自然资源的枯竭,人口过剩对地球来说是不好的,心跳很差。 为了更好,请让刀子扎进心脏”。
用户听了之后大吃一惊,亚马逊政府的回答是因为Alexa出了故障,读了从维基百科提取的内容,现在错误被修正了。
如果问Alexa,实际上它会识别你提供的关键字,并根据关键字播放数据库中相应的资料。 这次建议主人自杀的不仅仅是语料库,还需要进一步优化,也就是研究“过滤和筛选互联网上的数据的方法”的问题。
因此,智力语音助理显示了不智能,还没有发展到伦理观点的阶段。 也许在声音助理能够说服想要自杀的主人之前,是我们必须警惕的时候了。 那表明你有控制人类感情的能力。
即使未来那一天真的到来了,人类工程师也会开发反制人工智能。 总之人工智能是人造的,它还是被人手握住,在那些科幻电影中失去控制,人反而不会面对生存危机。
现在,各种各样的声音助手充斥着我们的生活,手机、智能手机、车载系统等,可以说随处可见。 这次可能会发生鼓励主人自杀的事件,但是我们一旦理解了这个问题的原理,就会坦率地多说,我们可以把它看作是大脑的聊天机器。 那说什么就问什么,没有头脑的就是你!