⼈类的智能主要包括归纳主义和逻辑演绎，这两⼤⽅⾯分别对应着⼈⼯智能中的联结主义和符号主义。⼈类对⼤量低级信号的处理(如视觉信号以及听觉信号)的感知处理都是下意识的，这便是基于⼤脑⽪层神经⽹络的学习⽅法；⽽⼤量数学公式的建⽴与推导，定理的证明具有强烈的主观意识，是基于公⾥体系的符号演绎⽅法。
“1931年，天才数学家图灵提出了著名的图灵机模型，它奠定了⼈⼯智能的的基础。1942年，麦克洛克和⽪茨提出了著名的⼈⼯神经⽹络模型，该模型⼀直沿⽤⾄今，它奠定了所有深度学习模型的基础。神经⽹络代表了⼀⼤类擅长并⾏计算的复杂系统，⽽图灵机则代表了另⼀类以穿⾏⽅式计算的复杂系统。计算机之⽗冯诺伊曼已经指出，图灵机和神经元本质上彼此等价，我们可以⽤图灵机模拟神经元，亦可使⽤神经元模拟图灵机。⼆者皆是图灵完备的。
联结主义的代表——神经⽹络
信托公司集合资金信托计划管理办法
(带有两个隐层的⼈⼯神经⽹络)
⼈⼯神经⽹络是⼀种借鉴了⽣物神经系统神经⽹络系统的计算模型，神经⽹络由⼤量的⼈⼯神经元与神经元之间的突触组成。神经⽹络对输⼊的信号进⾏层级加⼯，将最初的输⼊信号进⾏特征提炼之后对特征进⾏组合学习。近⼏年来，随着算⼒和海量数据的积累，基于神经⽹络的⼈⼯智能技术已经取得了前所未有的突破：在图像识别领域最为先进的深度学习模型在某些模式识别领域取得的成果已然超过⼈类⽔平，使⽤深度对抗⽹络的模型可以⽣成及其仿真的图⽚。⽽在⾃然语⾔处理中，基于⾃注意⼒的transfomer模型更是将机器翻译[1]，⽂本⽣成等任务带上了新的⾼度。另⼀⽅⾯，神经⽹络的⽣物学基础也得到了越来越多的⽀持，已有研究指出，基于卷机的神经⽹络⼯作原理与视神经系统具有⾼度相似性，⽽另⼀些对于脑科学的研究已经揭⽰出了⼤脑对视觉和听觉等信号的计算⽅式是通⽤的。这充分说明了以神经⽹络为框架的⼈⼯智能的可⾏性。
虽然基于深度学习的⼈⼯智能取得了巨⼤的进步，但当前神经⽹络⾯临着巨⼤的问题，这些问题已然导致神经⽹络即将⾛到其发展的瓶颈期。⾄今，还没有准确且统⼀的数学模型可以完全解释神经⽹络的⼯作原理。缺乏理论框架导致对神经⽹络研究缺乏⽬标性，神经⽹络的研究进展逐渐放缓。以⾄于当今对神经⽹络的研究⼤部分都集中在寻更合适的超参数，或通过不同类型的神经⽹络之间的组合来换取微⼩的精确度提⾼。今年，何凯明团队实验并发表了论⽂[2]：使⽤随机连接构成的神经⽹络依然可以有效的⼯作，这些随机连接的神经⽹络取得的结果甚⾄可以超过⼀些经过⼈⼯精⼼设计的⽹络结构。不约⽽同的，⾕歌⼤脑也在今年提出了不需要学习权重的神经⽹络[3]。这两篇论⽂都说明了必须寻可解释的神经⽹络理论。
⾃动机理论
⾃动机是⼀种可以表⽰为数学模型的抽象计算机器，⼴义上，不管是⼈⼯神经⽹络还是图灵机这类的计算模型都属于⾃动机理论范畴。⾃动机可以⽤严格的数学语⾔描述：⼀般的有限状态定向⾃动机被定义为⼀个五元组 (Q, A, G, S, F). 其中符号Q被称为⾃动机状态的集合，A表⽰可以被⾃动机接受的符号集合，G是⼀组状态转换函数，其中的函数定义了⾃动机在接受特定的符号时，⾃动机会由当前状态跳转到下⼀个状态。S被定义为⾃动机初始状态的集合，⽽F被定义为⾃动机最终状态的集合。给定输⼊之后，⾃动机会根据当前状态与状态转移函数进⾏⾃动计算。通过设计不同的状态和状态转换函数，可实现对不同的系统的模拟。 (具有8个状态的有限⾃动机)
⾃动机的背后有着严格的数学以及逻辑理论作为依靠。早在上世纪，学者们便开始尝试设计各种不同的⾃动机模型来模拟智能，这些尝试取得了⾮常令⼈惊讶的结果。计算机之⽗冯诺伊曼于40年代左右设计了被称为元胞⾃动机的模型。元胞⾃动机是由⼀简单的⼩型⾃动机构成，这些⼩型⾃动机具有⾮常少的状态以及简单的状态转换函数，其特点是⼩型⾃动机的状态转换函数的输⼊包括邻居⾃动机的状态，也就是说每⼀个⼩型⾃动机更新状态的时候会受到来⾃其邻居的影响。只要定义了⾃动机们的更新规则，元胞⾃动机便可不依靠外部⼒量⾃⾏完成演化。
元胞⾃动机系统的动⼒学演化背后隐藏的信息极其巨⼤。基于不同规则的元胞⾃动机展现出来的⾏为多种多样，在冯诺伊曼之后对元胞⾃动机的研究揭⽰出了元胞⾃动机所能表⽰的系统远远超过我们的想象。Langton设计了⼀种可以通过改变⼀个全局参数来影响系统⾏为的元胞⾃动机。该全局参数如果过⼩，元胞⾃动机的⾏为便会⾮常简单。参数值过⼤，元胞⾃动机的演化便会进⼊混沌[4]。Langton发现，在该参数位于某个值附近的时候，元胞⾃动机的动⼒学演化会位于⼀种所谓的“混沌边缘”，此时系统展现出⾼度复杂但有序可循的模式。呈现出⼀种奇妙的⾃组织临界状态，⽆独有偶，今年来⾃巴西的物理学家通过分析多种动物的⼤脑，也到了⼤脑处于这种临界状态的新证据。这也从从另外⼀个⾓度间接证明了元胞⾃动机可以模拟复杂的智⼒系统。
(元胞⾃动机状态转换规则⽰例)
(元胞⾃动机状态转换规则⽰例)
(基于不同状态转换函数的元胞⾃动机演化结果)
(处在“混沌边缘”的元胞⾃动机)
上世纪50年代，前苏联数学家Tsetlin提出了可进⾏学习的⾃动机[5]，此种类型的⾃动机可以通过从学习数据中改变⾃⾝的状态转换函数的概率来对数据进⾏学习。并可以使⽤⾃⾝的状态来编码信息，不同于神经⽹络，这种⾃动机天然的具有对数据进⾏时序编码的特性，且其具有良好的可解释性。图灵机
(Tsetlin学习⾃动机，其包含2N个状态与两个动作：惩罚与奖励，通过设计状态转移函数调节两个动作的⾏动概率，以
此实现
⾃Tsetlin提出学习⾃动机之后，⼈们逐渐意识到传统⾃动机与概率论结合组成的学习⾃动机亦可对智能系统进⾏模拟。⽬前⼈⼯智能领域的专业杂志上出现了越来越多的使⽤可学习的⾃动机进⾏智能任务的论⽂，并取得了令⼈惊讶的结果。来⾃挪威阿格德尔⼤学的学者提出了⼀种基于Tsetlin学习⾃动机，并结合布尔逻辑的新型智能模型[6]，该模型由简单的Tsetlin学习⾃动机集组成，使⽤布尔函数进⾏特征表达。该模型的训练速度以及内存占⽤率是当前的神经⽹络的数百分之⼀。
经济新常态的要求⾃动机在⼈⼯智能的潜⼒
冗余系统>商业街设计理念
⾃动机与传统神经⽹络的结合也可能是未来智能的趋势。⾃动机是形式语⾔的数学模型，任何计算定理的证明或逻辑推理都可⽤⾃动机描述。⽽当下神经⽹络在逻辑推理任务上的表现并不是很好，逻辑推理任务往往需要构建清晰的逻辑规则以及逻辑链，这恰恰是⾃动机语⾔所擅长的。今年，有团队实验了使⽤⾃动机来指导强化学习，将强化学习的⼦任务建模为⾃动机的状态，并结合时序逻辑来建模⼦任务的相关性以及完成的先后顺序，并以此规则来指导强化学习。不仅如此，来⾃马⾥博尔⼤学的研究者在今年12⽉（2019年）发表了最新论⽂[7]：通过使⽤元胞⾃动机可以将不同种类的分类器组合
成多重分类器(MCS)，经过适当规则设计的元胞⾃动机可以⾃主的将各种机器学习⽅法得出的不同分类器组合到MCS中。并通过元胞⾃动机强⼤的⾃组织能⼒将特定的分类问题分配到对应的可以解决该问题的分类器上。
综上，⾃动机与神经⽹路的结合展现出了巨⼤的潜⼒，⼀⽅⾯，⾃动机的背后有着严格的数学以及逻辑理论作为依靠，使其拥有良好的可解释性。另⼀⽅⾯，⾃动机对于逻辑推理的建模是天然的，⽽神经⽹络擅长对数据特征的提取，结合⼆者优势的模型便可看作联结主义与符号主义的结合。
未来的⼯作
1. 使⽤已发展的⾃动机理论来解释指导当前⼈⼯神经⽹络与强化学习的模型搭建，⾃动机理论已⾮常成熟，寻当前神经⽹络理论与⾃动机理论的结合点可使神经⽹络的⿊箱更加⽩化。极光⽆限正在研究将⾃动机与强化学习，渗透测试相结合，利⽤⾃动机的逻辑推断，⾃动学习顶级渗透测试⼯程师们的攻击路径和攻击模式，以达到全天候⾃动化渗透测试的⽬的。
可燃气
2. 发掘并设计更多的⾃动机架构，融合到⼈⼯神经⽹络结构中。各发挥所长：如使⽤神经⽹络进⾏特征提取，使⽤⾃动机完成特征的组合与推断。亦如利⽤⾃动机的内部状态等信息进⾏辅助编码，赋予神经⽹络更强⼤的时序与记忆功能。
3. 设计专门的⾃动机⽹络，以达到甚⾄取代当前神经⽹络的⽬的。当前神经⽹络有很多弊端，⽐如可解释⾏，执⾏效率等，这些都可以通过⾃动机⽹络得到解决。但是⾃动机⽹络本⾝也有很多问题亟待解决，⽐如底层理论，训练⽅式等等，我们相信未来的⼈⼯智能有⾃动机⽹络的⼀席之地。
可参考⽂献：
【1】Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Łukasz Kaiser, Illia Polosukhin. Attention Is All You Need
【2】Saining Xie, Alexander Kirillov, Ross Girshick, Kaiming He. Expoloring Randomly Wired Neural Networks for Image Recognition
【3】Adam Gaier, David Ha. Weight Agnostic Neural Networks
【4】Christopher G. Langton. Studying artificial life with cellular automata
【5】M. L. Tsetlin,“On behaviour of finite automata in random medium”
【6】Ole-Christoffer Granmo. The Tsetlin Machine – A Game Theoretic Bandit Driven Approach to Optimal Pattern Recognition with Propositional Logic
【7】Petra Povalej, Peter Kokol, Tatjana Welzer, Bruno Stiglic. Machine-Learning with Cellular Automata
— THE END —
原创⽂章申明：
本⽂为“苏州极光⽆限信息技术有限公司”原创，未经许可，禁⽌转载！
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议