AI现在还仅仅是“物理学出现之前的工程学”(3)

需要记得的是：尽管这些“深度学习”系统有时候看起来很聪明，但它们仍然很愚蠢。如果有一张图片显示一堆甜甜圈放在桌子上，而程序可以自动地将其标示为“堆在桌子上的一堆甜甜圈”的时候，你可能觉得这个程序很聪明。但是当同一个程序看到一个女孩刷牙的照片，会将其标识为“男孩拿着棒球棒”，这时你就会发现，它对世界缺乏理解。

神经网络只是无意识的模糊模式识别器，你可以将它们集成到几乎所有类型的软件中。但是 它们蕴含的智能很有限，而且容易被欺骗。如果你更改单个像素，一个识别图像的深层神经网络可能就会完全傻掉。我们在发现深度学习的更多运用方法的同时，也在频繁发现它的局限性。自动驾驶的汽车可能无法应对以前从未见过的路况。机器也无法解析需要运用常识才能理解的句子。

从某种程度上说，深度学习模仿了人类大脑中发生的事情，但模仿的程度非常浅显 —— 这也许解释了为什么它的智力有时看起来很有限。事实上，反向传播并不是通过深入探索大脑，解读思想本身来解密思想的。它的基础实际上是条件反射实验中动物如何使用试错法的学习模式。它的很多巨大飞跃并没有纳入神经科学的一些新洞见，而是多年来在数学上和工程上积累的技术改进。我们对智能的了解，相对于我们尚不了解的部分来说，只是沧海一粟。

“物理学出现之前的工程学”

多伦多大学的助理教授戴维o杜文多（David Duvenaud）说，目前深度学习就像是“物理学出现之前的工程学”。 他是这么解释的：“有人写了一篇文章，说‘我造好了这座桥！’另一个人发了论文：‘我造了这座桥，它倒下了——然后我添加了支柱，它就立起来了。’于是柱子就成了大热门。有人想到了使用桥拱，‘桥拱很棒！’但是直到有了物理学之后，你才明白怎么造桥能不倒，为什么。”他说，直到最近，人工智能界才开始走入这个实际了解它的阶段。

辛顿认为，克服AI的局限性是建立“计算机科学与生物学之间的桥梁”。在这种观点下，反向传播是一种“生物启发的计算”的胜利。它的灵感不是来自工程学，而是心理学。现在，辛顿正探索一个新的方法。

现在的神经网络是由巨大的平面层组成的，但是在人类新皮层中，真正的神经元不仅仅是水平构成层次，而且也是垂直排列成柱状的。 辛顿认为，他知道这些柱状有什么用——比如即使我们的视角改变，也能识别出对象——所以他正在构建类似的“胶囊” ，来测试这个理论。到目前为止，胶囊还没有大大提高神经网络的表现。但是，他30年前提出的反向传播也是直到不久前才显示出惊人效果的。

“它不奏效可能只是暂时的。” 他在谈到胶囊理论时说。

原文转自：http://tech.qq.com/a/20171016/006296.htm