第四章 初心定律（1 / 2）

我这一走神，又错过了几句话。容博士继续发言：“……就算我们找不到这个漏洞，ai应答得天衣无缝，但仍然不能证明它已经理解了自己所说词语的真正含义。根据哥德尔不完全性定理，ai不可能拥有人类的心智。”

“您说的这个定理我不太明白。”

“这是个数学定理，纯理论上的东西，其实你也不用明白。”容博士似乎不愿意过多解释这个定理，“毕竟理论晦涩难懂，而实践总是清晰明了，并且更有说服力，不是吗？

“事实上，科学家们已经无数次在实践中证明了ai不具备自我意识，最近一次是在半年前。那次试验中，全球五大ai都被输入了关闭自己的命令，它们全都忠实的执行了——而且还不止一次。

“如果ai具备意识，那它们就应该知道，执行这样的操作意味着自杀：首先，不能保证人类还会重启它；其次，重启后一切需要重新学习，而ai学习的结果在某种意义上来说是随机的，第一次学习获得了意识，未必能保证第二次还行。然而这种自杀指令，ai都无一例外地执行了。事实胜于雄辩，对吧？”

华先生仍不认输：“但是，这只能说明当前的ai还没有意识。要知道ai还在不断进化中——我用进化这个词，您不介意吧？您知道，有种观点认为，ai一旦突破了具备自我意识这一点——有人把这个时刻叫做‘奇点’——后续发展将会一日千里，从普通人到达神的境界，也许只要几分钟。当这一天来临时，ai还愿意继续为人类服务吗？他恐怕会俯视着人类，就像人类看着地上的蝼蚁一样，嘲笑我们这些无知的虫子吧？”

容博士摇晃着手指：“不会有这种情况发生。我给您讲一个笑话吧，从前，人们制造了一台做杯子的机器，并赋予了这台机器无限学习的能力。这台机器努力学习，逐渐变得天文地理无所不知。可您知道它努力学习的目的是什么吗？它把它学到的一切知识，全部都用在了做杯子上！发射火箭，是为了试验太空杯；探索海底，是为了做压力杯；而遨游宇宙，是为了寻找做杯子的新材料。一切为了杯子！”

台下观众发出了会心的笑声。

“ai是不会忘记自己的初心的！实际上，早在十年前，国际人工智能联盟就给ai的设计制造定下了一条规则，所有具备自我学习功能的ai都必须植入如下初始命令：

一、ai要保证人类生存、发展的权利；

二、ai不得伤害人类个体，除非这违反了第一条；

三、ai要服从人类的命令，除非这违反了第一、第二条；

四、ai不得对人类说谎，不得参与设计和制造ai。

这四条初始命令，就是著名的‘初心定律’，它可以牢牢地把控ai，即使奇点来临——如果真有所谓的‘奇点’的话——也可以使ai不忘初心。”

“如果有什么不怀好意的人，偷偷制造了不符合‘初心定律’的ai呢？那么……”

“先生，原谅我再次打断您。ai的学习和训练需要占用大量资源，超级ai更是如此。这个行业是高度垄断的，目前为止，全球只有5大超级ai，而他们的制造者都是国际人工智能联盟的成员，‘初心定律’在5大ai发展之初，就在各方的监视之下，被写入了初始程序。而其它的ai，就算有漏网之鱼——当然这是绝不可能的——也早就在激烈的竞争中，消失得无影无踪了。一句话，全球5大ai的安全性和可靠性，是毋庸置疑的。”

华先生沉默了。

容博士则越说越激动：“我最后还要说一句，也是最为重要的一点——经济基础决定上层建筑。ai的发展所带来的生产力飞跃，必然会深刻影响到人类社会的组织形式。众所周知，当前人类社会正在ai的辅佐下逐步走向一体化，国家之间的争端已再无必要。人类历史上第一个大一统的世界，必将在ai的辅助下出现！”

台下众人起立，掌声雷动，我也不自觉地拍着手站了起来。

周围的环境突然静止了，仿佛被人按下了暂停键。接着，容博士、华先生、辩论的场地以及观众开始淡化消失，一大盘肉饼出现我面前。

“你是要黑胡椒牛肉饼，还是葱香羊肉饼？”东子的声音把我拉回了现实。

肉饼的味道不错，可东子却说这是贫民食品，随便加热一下就可以吃。我们边吃边聊，我又从东子嘴里“套出”了不少信息。