可解释人工智能：符号主义、联结主义对比

 

在symbolic AI 和connectionist AI中，符号学派致力于知识及其在推理和学习中的应用(只有少量的输入数据)，而不是符号本身:符号通常只代表知识的抽象。类似地，联结主义阵营实际上是从很少或没有先验知识的数据中学习关联，通常需要大规模的数据。现如今，大量数据的存在与引用使得connectionist AI成为人工智能的主导范式。

符号主义（Symbolicism）：

   又称逻辑主义、计算机学派，主张用公理和逻辑体系搭建一套人工智能系统。

符号是人类大脑的一种主观对象，人类的认知基本上就是建立在符号的基础上的。符号对应于客观事物，就是主观与客观的对应。人类语言就是一种符号系统，人类用语言来表达思维的活动过程。从人类语言几乎万能的表达能力，我们就可以看出符号主义的强大之处。

专家系统是最经典的符号主义人工智能系统之一。即通过建立知识库与推理机来进行决策。专家系统主要是是模拟人类专家的推理思维过程。一般是将领域内专家的知识和经验，用一种知识表达模式存入计算机。系统对输入的事实进行推理，做出判断和决策。专家系统通常由人机交互界面、知识库、推理机、解释器、综合数据库、知识获取等6个部分构成。

优点：越来越多的人认识到，高风险决策领域对人工智能系统有需求，因此这些系统的行为要有可验证性与可解释性，而这恰恰是符号主义AI的优势，联结主义算法的短板。符号主义算法会剔除不符合特定模型的备选值，并能对符合所有约束条件的所求值做出验证，以后者而言，符号主义AI远比联结主义AI便捷。因为符号主义AI几乎或根本不包括算法训练，所以这个模型是动态的，能根据需要迅速调整不足。

劣势：符号主义主要依靠具象的过程来运作，比如逻辑，需要我们给出每一步的具体表达。但人类还具有形象思维，很多时候我们自己也说不出思维的过程，这显然用简单的符号主义很难实现。但是客观世界是连续的、复杂的，单纯的用符号主义来表示就会丢失很多信息。

不足：虽然符号主义AI技术可以处理部分不可观察概率模型，但这些技术并不适用于有噪输入信号，也不适用于无法精确建模的场合。在那些可以准确判断出特定条件下特定动作利弊与否的场合中，它们会更有效。此外，算法系统还要提供适当的机制来实现清晰的规则编码与规则执行。

 

连接主义（Connectionism）：

   又叫仿生学派，主张模仿人类的神经元，用神经网络的连接机制实现人工智能。

连接主义是类似于人类大脑神经元连接的一种理论，深度神经网络就是很好的成果。

所谓深度学习就是用很多层神经元构成的神经网络达到机器学习的功能。依靠人工神经网络提供的各种层的感知器，在功能上可以软件实现的深度学习器，实现了机器学习对归纳的掌握，基于连接主义的深度学习技术，目前是人工智能领域的研究重点。

优点：在处理杂乱且非结构化的数据时，神经网络的性能优于其他机器学习技术。对于神经网络来说，即使有输入噪音，网络仍然能正常的工作。

劣势：连接主义比符号主义更偏向于形象思维，但它是一个黑箱，人类并不能完全的分析清楚他的每一步运作原理，这就导致我们不可能把我们的思维过程在机器上实现，所以单纯的用连接主义来实现通用人工智能是最不靠谱的方法。

这些差异或者说不同之处大体上可以从以下的五个方面来进行概括和分析：

第一，符号主义把对于物理符号的加工看作是概念表征的适当载体，而联结主义则是用认知系统或者说人工神经网络的整体方面的状态的变化来表征外部世界的特征；

第二，符号主义将心智看作是一种单纯的“计算的心灵”，联结主义则是把心智视为对于人的大脑或是大脑神经系统的模拟；

第三，符号主义将数字计算机看作是操作物理符号的典型认知系统，联结主义则是将数字计算机看作是建立大脑或大脑神经系统模型的工具；

第四，符号主义将问题解决看作人的智能的基本形式或者说核心内容，试图通过构建某种形式结构来赋予物理符号系统以问题解决的能力，联结主义则把学习的能力当成人的智能的基本形式或者说核心内容，强调建立某种学习机制使得人工智能体能够获得或是拥有自我学习的能力。

本质：符号主义和连接主义都是人脑具备的功能，而人脑的基本物理结构就是神经元，所以符号主义和连接主义必定是基于同样的基本原理。按照这种基本原理，首先实现的就是符号主义，以逻辑为主体。基于符号代表事物之间的联系性，随着符号系统的复杂度不断变大，最终产生了连接主义的那种效果。

尽管最近connectionist AI已经开始解决狭义识别和分类任务之外的问题，但connectionist AI是否能够完成需要常识推理和因果推理的复杂任务还有待观察（所有这些都不包括knowledge和symbols。现在，和那时一样，人们需要新的技术来解释人工神经网络中的处理过程，因为处理过程通常是不透明的，需要将知识注入到联结主义的体系结构中以实现多步推理，需要结合两种范式优势的神经符号架构的第三种方式。

最近的认知科学理论提出了产生人类行为的双重过程——有时被称为系统1和系统2 (Kahneman, 2011; Stanovich and West, 2000)，为协调符号性人工智能和联结主义人工智能的各个方面提供了一个理论框架。根据思维的双过程理论，系统1是联想的、隐性的、想象的、个性化的和快速的，而系统 2是分析性的、明确的、口头的、泛化的和缓慢的。然而，值得注意的是，符号人工智能和联结主义人工智能与人类认知中的系统1和系统2之间的映射并不是一个直接的一对一映射。虽然系统1可能包含符号和连接主义人工智能的抽象和算法，但系统2的抽象和算法可能大多是象征性的（当然，它也是在人类大脑的神经网络上实现的）。

无论是符号化的还是联结主义的人工智能都没有太多关于社会环境智能的内容。这为XAI的发展提供了机会。