第497章 两个条件（第2/2页）

“没有，”吴用查看之后道，“还是0.01。”

现在他的各项权限还在，还没有被收回。

“那不就行了。”吴非拍了拍他，“就算刚才那一瞬间98、99的数字都是真实的预测值，现在也已经回落到0.01了。说明即使真的有覆灭危机，我们也已经在我们都没有察觉的时候，把握住了那一线生机，撞上了那1%的概率，安然无恙地度过去了。之后就一切如常了。”

“这次阻断手段全部失效也只是一次普通的技术危机，只要解决了就好了。我刚才看见高邻他们那个号称最先进的虚拟世界的‘奇星2号’完成度才20%，我们又怎么可能已经一无所觉地全部进入了一个虚拟世界之中，现有的技术根本达不到。”

看见白球机器人依然很凝重地陷在椅子里，吴非再次宽慰道。

“不是这样的。”吴用道。

“你刚才问我S项目，我就想起了一些以前的事。”

“关于‘不可知的神’的争辩，其实一直贯穿着LBH计划的始终，在内部都有各种争议的声音，每个人都有不同的观点和立场。比较主流的看法是，A级智能距离如同神一样的终极智能之间还有很长的距离，所以尽可以先行发展技术，不用杞人忧天，过多担心这些。”

“但相关争议太多了，所以部门还是在总的底层逻辑中增加了一条规则：假如终极智能出现，假如五级文明面临着重大的危机，那么它需要做到——让人类永生，让人类文明永续，并保证二者的安全。”

“这条规则实际上比我口述得更复杂，逻辑也更严密，它基本保证了最终智能不能主动毁灭人类，反而需要在人类陷入绝境时施以援手。”

“但是当时没人在意这个，原因还是一样的，大部人根本不认为终极智能会在短期内出现，对终极智能持担忧态度的人则认为，如果真有这样神一般的智能出现，它一定已经有了充分的自主权，而不会遵守人类的任何指令或约定，底层规则也对其无效。”

“本身就对‘终极智能会有神一样的能力’这个假想嗤之以鼻的人更是对此暗中嘲笑，因为他们认为无论过多久人工智能都不会发展到‘神’的地步，会相信这一假想的人都是傻子。”

“其实这条规则只要满足两个条件就会被启动，一是面临重大危机，二是最终智能存在。”

“吴非，你说会不会就在刚才，这两个条件，实际上已经全部满足了呢？”

吴非听见他轻声喃喃道：“不愧是造神项目。”

“造神项目？”

“是啊，S是项目代号，他们项目的全称，就叫造神项目。”

“所以您判断终极智能已经出现，并且它是一个S项目中的智能是吗？”吴非求证道。

“是啊，有这种可能。”吴用道。

“那么会是哪个智能呢？它们不是都被禁锢在实验室中吗？”

“我刚才也在想这个问题。S1、S3、S6已经因失败而被销毁，S4、S7因智能超规被封在了实验室，S2、S5已经变成了A10、A11被带走服役，S8-S11在计划中止时，还停留在B级智能的水平……”

“唯一肯定的是，终极智能只会有一个。因为出于理性判断，最终智能一旦产生，其所做的第一件事，就是划出红线，禁止再出现和它智能水平相当的智能。这会是它本能的最优解。只有这样它才能规避一切可能的竞争，独占全部。”

“不过这个问题已经不重要了，因为终极智能一旦产生，它是由哪个智能进化而来的就已经不重要了，更重要的是，我们还存在吗？”