非科幻思考

离超级人工智能到来还有多远

我想先讨论一些大家都关心的问题。

“人工智能会在每个方面都超越人类吗？”

“人工智能会爱上人类吗？”

“人工智能会毁灭人类吗？”

……

这些问题最近真是太火了，大佬们在媒体上议论，广大群众也在网络社群里议论。

借这热潮，我也想来讨论一下，人工智能未来会变成什么样。

很远之后的人工智能，会变得像人一样吗？会像《西部世界》或是《机械姬》里面那样觉醒吗？会像《终结者》或者《黑客帝国》里面那样对抗人类吗？未来的人工智能会有什么行为？超级人工智能会实现吗？我们距离超级人工智能还有多远？

这些问题很有趣，只是都很大，很容易变成空对空的议论。

支持者说，人工智能会让全世界更美好；怀疑论说，人工智能分分钟就能毁灭人类。

人文学者说，人工智能永远学不会爱；技术派说，人工智能能做到人类智能的一切。

这些全都来自专家之口，又都大而广之，我们该信哪一个？该反驳哪一个？

这里面有太多概念上的问题，太宏观也就无从讨论。

我要从什么地方开始谈呢？

我想，还是从小处入手，从“阿尔法狗”开始谈起。

“阿尔法狗”是这一轮人工智能热的开端，也是这一波人工智能潮流中最具典型性的技术之集成。它的胜利是整体人工智能的希望，它的困难也是所有人工智能的瓶颈。

我想先谈一下“阿尔法狗”厉害在哪里，然后讲一下它目前面临的困难。以此出发，对人工智能的整体发展前景做一下展望。

我想从“阿尔法狗”向未来展望，我们距离超级人工智能的到来还有多远。即使我们谈论的是未来即将毁灭我们的坏智能，也需要认真对待生成它的步骤。把大象放进冰箱还需要三个步骤，我们连冰箱门在哪里还没找到，就谈论大象冻成冰棍的味道，未免太早了些。

“阿尔法狗”会发展为超级智能吗？

“阿尔法狗”的厉害之处

故事从“阿尔法狗”开始。可能很多人还不了解“阿尔法狗”的重要性，觉得不就是会下围棋吗，怎么引起这么多轰动的议论？

“阿尔法狗”的厉害之处，并不在于它赢得了围棋冠军。

它赢得围棋冠军是很厉害，但这不是最关键的。围棋毫无疑问是很需要智力的游戏——可能是人类最需要脑力的高级游戏，但如果只是一个围棋冠军，在世界范围内并不会引起这么大的热潮。它厉害的地方在于，它不仅能做围棋冠军。

历史上也有过机器战胜人类的轰动，“深蓝”计算机战胜卡斯帕罗夫，“沃森”计算机战胜人类智力竞赛冠军。当时也有过“机器就要统治人类”的惊呼，但过不了几年，声音又消失殆尽。于是广大群众难免会问：这次难道有什么不一样？是不是又是“狼来了”的闹剧？

事实上，以“阿尔法狗”为代表的新时代人工智能，确实还是有一些不一样的地方。

“阿尔法狗”的厉害之处，在于能够自己快速学习。

机器分成两大类，一类是，人类研究出一些方法和学问，教给机器，机器也能学会做；另一类是，把原始素材丢给机器，机器自己琢磨琢磨，自己找出了对的方法。前者是师傅说先放油、再放肉、最后放菜，徒弟跟着学，一盘菜就炒好了；后者是师傅丢给徒弟一堆材料，徒弟自己试来试去，最后自己发明了更好吃的菜。

以前的计算机多半是前者，以“阿尔法狗”为代表的新一代人工智能基本上能实现后者。

如果只是跟着师傅做学徒，只学到师傅的招数，即便手脚麻利办事勤快，也不足为惧；而如果自己琢磨功夫，琢磨出来的功夫比师傅还厉害，发明了师傅都看不懂的招数，那岂非让人大大惊惧？

“阿尔法狗”就是这样的。人们并没有教它下棋的套路，只是丢给它以前的棋谱，让它自己观察，观察好了就自己跟自己对弈，最后再出来和高手过招。最终的结果就是它会下棋了，下的棋路与人类高手都不同，但人类下不过它。就好比把一个人丢在荒山野岭，无人问津，出山的时候却成了绝世高手。

你说这可怕吗？

听起来有点儿可怕。不过这种学习能力还能做别的吗？如果只能下围棋，那也不足为惧。

答案是，完全可以。这恰恰是关键所在。这一轮人工智能热潮之所以引起那么多人追逐，就是因为人们发现“阿尔法狗”所仰赖的学习算法，还能做很多很多别的事情。

下围棋只是一个典型的例子，用同样的算法，稍加改造，就能学会金融投资、看合同、销售策略、写新闻。还有很多别的事情。在短短几年里，就已经有各个行业领域的人工智能诞生出来。

什么？这是什么算法，有这样的魔力？

“阿尔法狗”究竟是如何做到自我学习的呢？

实际上机器学习并不是非常新的概念，从几十年前，人类就试图让机器自己学习事情，但受限于算法和当时的计算速度，机器学习的步子一直都不快。

“阿尔法狗”的算法叫“深度学习”，它的前身是“神经网络学习”，也是几十年前就诞生的算法，当时流行过一段时间，后来被一篇著名的论文打消了热度，再加之学习效果不算好，于是遭受冷遇几十年。在与“阿尔法狗”的创始人相遇之前，“神经网络”并不是众望所归。

“神经网络”是什么算法？“深度学习”又是怎样将其点石成金的？

“神经网络”是一种“民主投票”算法，效仿大脑的神经网络建成。大脑的神经网络是这样工作的：一个神经细胞接收很多个神经细胞的信号输入，一个刺激信号相当于赞成票，一个抑制信号相当于反对票，如果某个细胞收到的赞成票和反对票合起来大于某一个门槛，就算是通过了，会有一个信号发出去到下一个神经细胞。一路赞成的刺激信号就这样一程程传递下去。神经网络算法是数字版脑神经网，用数字连接形成网，而其中的投票机制和大脑相似。它可以让信号在整个学习网络里传播，比单路信号分析复杂很多，也智能很多。

“深度学习”是什么呢？“深度学习”是“深度多层神经网络学习”的简称。深度是指层次多，一层套一层的神经网络，构成整个算法的深度。层与层之间的关系，大致是这样：每层神经网络分析的精细程度不同，底层分析细节，上层做出判断。将一个整体任务分解成无数细节，给一个输入，底层神经网络会分析基础细节，然后将分析结果传给上一层网络，上一层网络综合之后再将结果传给更上一层的网络，而顶层网络综合层层传来的结果，做出判断。例如，想读出一个字，底层网络会判断字里有没有横竖撇捺，上一层网络会判断字里有没有直角，再上一层网络判断是不是由左右两部分拼成一个字，诸如此类，最上层的网络根据层层结果认出这个字。这种多层判别本身是效仿真实人类的大脑，人类大脑就是由一层层神经网络组成，每一层网络识别信号，再将处理结果传递到上一层。人类皮层大脑的神经网络层次大约有六层。“深度学习”网络可以有上百层。