未来的智能人工智能会和人类有同样的情感和世界观吗？

关于人工智能技术的未来发展，一个重要的趋势是形成超级智能的可能性。所谓的超级智能可以定义为在几乎所有领域都超过人类认知能力的机器智能。对超级智能进行有意义讨论的一个先决条件是要认识到超级智能不仅仅是用来增强人类能力的另一种技术或工具，而且是一个完全不同的概念。毫不夸张地说，超级智能可能是人类历史上的最后一项发明。鉴于其智力优势，超级智力在科学研究和技术方面比任何人都强，甚至比所有人的总和都强。这一事实的直接后果是，先进的超级人工智能的到来将加速所有其他领域的技术进步。我们现在能预见的任何技术都有可能由第一个超级智能迅速发展，毫无疑问，还有许多我们不知道的新技术是由超级智能开发的。。当然，我们在这里讨论的超级智能具有更广泛的含义，即具有与人类智能相匹配的独立思考能力的机器智能。

机器人的合法权利以及我们如何定义人工智能是有感情还是有人性？虽然目前的人工智能技术不能让机器产生感觉，但随着神经科学家对人类意识秘密的探索，我们可以逐渐了解人类意识的好恶是如何产生的，并且我们已经通过动物实验验证了许多意识机制。例如，通过强化学习和训练，动物可以学习某些无法学习的技能，这是如何奖励意识研究中的行为的刺激。当然，这一领域的研究现在还比较肤浅，但是如果有一天超智能出现了，它们对外界的感知可以和人类一样，产生痛苦和快乐的感觉，也就是说，我们逐渐把它们当成能够感知、感受和拥有情感的生物，然后思考机器人的力量是一个自然的问题，很多人会认为到时候我们应该把机器人当成宠物，我们应该考虑它们的痛苦和快乐，我们应该对它们负责。超级智能出现后，这也是对人类道德的考验。

一致性是道德和正直不可或缺的。我们的决策必须遵循高于统计准确性的标准；几个世纪以来，相互信任、减少伤害、公平和平等的共同美德已被证明是任何推理系统存在的基本基石。没有内部逻辑的一致性，人工智能系统就缺乏健壮性和问责制——这是建立社会信任的两个关键措施。通过在道德情感和逻辑推理之间制造裂痕，数据驱动决策的不可预测性阻碍了批判性地参与决策过程的能力。

这是我们生活的新世界。复杂的决策被简化为反思性的选择，并被观察到的结果所强化。把复杂的事情简化成简单的事情，把道德简化成实际的事情。今天，我们的道德观念为我们的决策提供了一个框架。也许我们的决定很快会让人对我们的道德产生怀疑。

尽管现有的人工智能技术仍然非常初级，但它并不排除将来产生超级智能的可能性。在此之前，我们需要充分考虑人工智能技术发展带来的道德问题和社会观念的冲突。只有这样，我们才能避免这些问题带来的巨大社会风险，更好地保持人类在未来人工智能文明中的竞争力，并使我们与超级智能更好地相处。