如果人工智能真的形成自我意识会发生什么？

忘掉如今领域的小幅进步吧，比如汽车的能力越来越强。等待我们的可能是一项突破性的进展：一种能够感知自身及其周围环境的，它可以实时接收和处理大量数据。它可能会被安排执行危险的任务，比如被送进太空或参加战斗。除了开车，它还可以做饭、清洁、洗衣服——甚至当其他人不在身边时，陪伴在我们身旁。

理论上说，一系列十分先进的机器几乎可以取代所有的人类工作。这将使人类免于平凡的苦差事，但也会动摇许多社会基础。没有工作，只有玩乐的生活可能会变成一个反乌托邦（与“乌托邦”相对，指不幸之地，?这种社会表面上充满和平，但内在却充斥着无法控制的各种弊病）。

具备的机器也会给法律和道德带来问题。有意识的机器是否在法律意义上可被视为“一个人”，如果它的行为伤害了某人，或者是犯了错，它会承担责任吗？想想一个更可怕的场景：这些机器是否可能会反抗人类，并希望彻底消灭我们？如果答案是肯定的，它们代表了进化的顶点。

作为一名从事机器学习和的电气工程和计算机科学教授，我可以说，研究人员对于这种超感知机器是否会存在尚有分歧。还有一种争论是关于机器是否可以或者应该被称为“有意识的”，就像我们对人……