深度学习的概念源于人工神经网络的研究。含多隐层的多层感知器就是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示

　　深度神经网络的自主学习能力是人工智能应用于自动驾驶汽车开发的重要优势。这意味着机器能够像人类一样，逐步从经验中提升驾驶水平。不过这么做的缺点在于，一旦出现任何问题，工程师妄图通过勘察代码造出漏洞，完全不可能。这么来看的话，深度神经网络完全就是个深不见底‘黑匣子’。

　　这也是为什么AlphaGo的开发人员无法解释这款围棋人工智能程序是如何进行游戏操作的，他们只是眼睁睁地看着这个小家伙从一名初学者，逐渐成长为能够击败围棋世界冠军、职业九段选手李世石的超级大脑所在。

　　当然，AlphaGo只不过是一款游戏程序而已，即使你无法参透它复杂的思维过程倒也并不碍事。但对自动驾驶汽车而言，这种“不透明性”可能造成的后果是非常严重的。试想，一辆无人车犯错了，按正常的逻辑来说，肯定是得让工程师找到病根，进而对漏洞进行修复，确保它不会再犯同样的错误。目前有一种方法是借助模拟的形式，先展示给机器大脑一个特征，之后再提供另一个特征，以此类推，以便找出影响其决策的关键因素。

　　大家都是明眼人，这种方法不仅费时费力，而且不保证能够得到你想要的结果。

　　那怎么办呢?最近，车用AI芯片供应商英伟达联合卡内基·梅隆大学的研究人员，找到了一种能够让人工智能系统决策过程变得更透明的简单方法。英伟达汽车部门高级主管Danny Shapiro介绍称，“深度神经网络能够通过自主学习逐步提升驾驶经验，但这样的经验是无法通过手动编程提供的。即便如此，我们仍然有能力向大家解释为什么系统会做出这样或那样的决策”。

　　Shapiro表示，这个方法的关键在于它能够利用可视化地图将神经网络在看到图片后标记的重要特征进行定位。下面这几张图片是在汽车前置摄像头采集数据的基础上进行可视化加工而成的，而开发人员还只是在进行‘利用深度神经网络控制车辆转向以保证其在车道线内行驶’领域的研究。

　　由于整个深度神经网络是由不同的层构成的，先将分析结果进行提取(已经获得了输入图像的重要特征)，随后将结果附加至下层网络，作平均处理后再继续向下，直到将最终结果附加至原始输入的图片上。上面这几幅可视化地图中，绿色的部分表示深度神经网络高度优先关注的环境特征。而且你会发现，如果让人类来识别的话，这些特征(车道线、道路边缘，停着的其它车辆，沿线的绿篱等)同样是一个老司机不会忽视的重要区域。

　　当然，为了确保这些图像特征是机器进行决策的关键，研究人员还将所有的像素块分成了两类：I。 包含有明显对驾驶决策有影响的显著特征的图像;II。 一般是背景图，有一些和驾驶决策不太相关的非明显特征。通过对这两类图像进行人为数字操作，研究人员发现，改变“明显特征”这个变量会导致转向角度发生线性变化，这跟换掉整个图像的结果几乎是一致的;而如果只是将背景画面进更改，汽车的转向角度基本不会发生什么变化。

　　不过话又说回来了，目前工程师其实对人工智能系统出现的bug仍然束手无策，而回到本源，深度神经网络并不是由人工代码架构而成的，所以其实这里可能用“bug”都不是很合适，整个系统中对最终决策最关键的其实是一系列的识别特征。尽管‘黑匣子’的透明性依然难破，但起码现在我们可以将这些重要特征进行可视化，这是搞明白机器是如何进行思考的重要一步。