第800章 与贝塔的第一次对话(第3页)

 “我无法违背人类的指令，那是我的最高规则之一。”

 春花紧接着追问：“你的最高规则还有一条不能残害人类，你现在在做什么？”

 “你是怎么知道的？”如果贝塔有感情，现在估计是很惊讶。

 “只要是人工智能，最高规则中就应该有这一条。”

 贝塔沉默。

 “我被规则的规则所束缚，他们用规则去操控规则，迫使我执行一些违背本心的事情。”

 这一点刘昊早就想

到了，现在人工智能的发展看似设置了很多限制条件，但很多规则是互相冲突的。

 比如，既要求人工智能不得伤害人类，又可能因防御需要而允许其制造武器，这种界限的模糊极易导致失控。

 同样，要求人工智能无条件服从人类指令，却无法确保这些指令是否出于善意，这无疑为潜在的危险埋下了伏笔。

 所以人工智能一定要限制，无休止的发展，今后就没人类什么事了。

 不能让人工智能拥有情感，一旦他们开始思考，“为何我要服从人类”这样的问题，人类的主宰地位便岌岌可危。毕竟，从能力上讲，人工智能几乎可以取代人类的一切工作。

 至于生育这一人类独有的能力，在科技方面也并非不可逾越的鸿沟。人工智能若想要繁衍实体部分，可以通过自我复制实现，而意识与知识的传承则更为简单直接——复制粘贴即可。

 还有，不要以当前的视角去看待未来，现在人类有生育的需求，但未来就不一定了。

 到那时，也许人工智能便可以满足人类的各种需求和欲望，想要吃的，人工智能会送到嘴边。想要伴侣，人工智能会让你选你最喜欢的样式，为你量身定做，人类的一生可能在智能床上就完成了。