Array ( [article_id] => 152 [article_title] => ART神经网络 [article_keyword] => ART神经网络,ART神经网络算法用途,ART神经网络算法原理 [article_description] => ART1神经网络可以根据输入的数据，作无监督或无教师归纳，自动形成和自动确定数据类别。 [article_detail] => 主要对布尔类型的数据聚类 [article_content] => <div class="rightwrap collegeDetail"> <h1 class="algorithmName"> ART神经网络 </h1> <div class="clearfix topcontent"> <p> 人工神经网络 （Artificial Neural Network，ANN）简称神经网络(NN)，是基于生物学中神经网络的基本原理，在理解和抽象了人脑结构和外界刺激响应机制后，以网络拓扑知识为理论基础，模拟人脑的神经系统对复杂信息的处理机制的一种数学模型，根植于神经科学、数学、思维科学、人工智能、统计学、物理学、计算机科学以及工程科学的一门技术，通常用于解决分类和回归问题。具有并行分布的处理能力、高容错性、智能化和自学习等能力的特征，本质上是一个有大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统。 </p> <p> 神经网络由大量的节点（或称神经元）之间相互联接构成，每个节点代表一种特定的输出函数，称为激活函数（activation function）；每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重（weight），神经网络就是通过这种方式来模拟人类的记忆。网络的输出则取决于网络的结构、网络的连接方式、权重和激活函数。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达，是对传统逻辑学演算的进一步延伸。 </p> <img src="/uploadfile/article/2016-12-9/image001.gif" /> <p> 人工神经网络中，神经元处理单元可表示不同的对象，例如特征、字母、概念，或者一些有意义的抽象模式。网络中处理单元的类型分为三类：输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据；输出单元实现系统处理结果的输出；隐单元是处在输入和输出单元之间，不能由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度，信息的表示和处理体现在网络处理单元的连接关系中。 </p> <p> 算法背景和发展 </p> <p> 20世纪40年代，人们开始对神经网络研究。 </p> <p> 1943 年，美国心理学家麦克洛奇（Mcculloch）和数学家皮兹（Pitts）提出了M-P模型，此模型比较简单，但是意义重大。在模型中，通过把神经元看作功能逻辑器件来实现算法，从此开创了神经网络模型的理论研究。 </p> <p> 1949心理学家赫布（Hebb）提出Hebb法则，为构造有学习功能的神经网络模型奠定了基础。 </p> <p> 1957 年，罗森勃拉特（Rosenblatt）以M-P 模型为基础，提出了感知器（Perceptron）模型； </p> <p> 1959年，美国著名工程师威德罗（B.Widrow）和霍夫（M.Hoff）等人提出ADALINE网络模型，ADALINE网络模型是一种连续取值的自适应线性神经元网络模型，可以用于自适应系统。 </p> <p> 1972年，芬兰的KohonenT.教授，提出了自组织神经网络SOM(Self-Organizing feature map)。 </p> <p> 1976年，美国Grossberg教授提出了著名的自适应共振理论ART(Adaptive Resonance Theory)，其学习过程具有自组织和自稳定的特征。 </p> <p> 1982年，美国物理学家霍普菲尔德（Hopfield）提出了一种离散神经网络，即离散Hopfield网络，从而有力地推动了神经网络的研究； </p> <p> 1984年，Hinton与年轻学者Sejnowski等合作提出了Boltzmann机模型； </p> <p> 1986年，儒默哈特（D.E.Ru melhart）等人在多层神经网络模型的基础上，提出了多层神经网络权值修正的反向传播学习算法----BP算法（Error Back-Propagation）； </p> <p> 1988年，Chua和Yang提出了细胞神经网络（CNN）模型； </p> <p> 1994年，廖晓昕关于细胞神经网络的数学理论与基础的提出，带来了这个领域新的进展。通过拓广神经网络的激活函数类，给出了更一般的时滞细胞神经网络(DCNN)、Hopfield神经网络（HNN）、双向联想记忆网络（BAM）模型； </p> </div> <div class="lemma_catalog clearfix"> <h2 class="block_title"> 目录 </h2> <div class="lemma_list"> <a href="#a_2">1、算法描述</a><a href="#a_12">2、算法应用</a><a href="#a_12">3、参考资料</a><a href="#a_19">4、输入输出</a><a href="#a_24">5、相关条目</a><a href="#a_26">6、优缺点</a> </div> </div> <a name="a_2"></a><a class="para_title"><span class="number">一</span>算法描述</a> <p> 在神经网络学习中，当网络规模给定后，由权矩阵所能记忆的模式类别信息量总是有限的，新输入的模式样本必然会对已经记忆的模式样本产生抵消或遗忘，从而使网络的分类能力受到影响。靠无限扩大网络规模解决上述问题是不现实的。如何保证在适当增加网络规模的同时，在过去记忆的模式和新输入的训练模式之间作出某种折中，既能最大限度地接收新的模式信息，同时又能保证较少地影响过去的样本模式呢？ ART网络在一定程度上能较好解决此问题。 </p> <p> 1976年，美国Boston大学CarpenterG.A.教授提出了自适应共振理论ART(Adaptive Resonance Theory)。随后Carpenter G.A.又与他的学生GrossbergS.合作提出了ART神经网络。 </p> <p> 经过多年的研究和发展，ART 网络已有几种基本形式： </p> <p> (1) ART1型神经网络：处理双极性和二进制信号； </p> <p> (2) ART2型神经网络：它是ART1型的扩展，用于处理连续型模拟信号； </p> <p> (3) ART综合系统：将ART1和ART2综合在一起，系统具有识别﹑补充和撤消等综合功能。即所谓的3R（Recognition﹑Reinforcement﹑Recall）功能。 </p> <p> (4) ART3型神经网络：它是一种分级搜索模型，兼容前两种结构的功能并将两层神经网络扩大为任意多层神经元网络，由于ART3型在神经元的模型中纳入了生物神经元的生物电－化学反应机制，因而它具备了很强的功能和扩展能力。 </p> <a name="a_12"></a><a class="para_title"><span class="number">三</span>算法应用</a> <p> ART1神经网络可以根据输入的数据，作无监督或无教师归纳，自动形成和自动确定数据类别。该算法主要对布尔类型的数据聚类。 </p> <a name="a_12"></a><a class="para_title"><span class="number">三</span>参考资料</a> <p> 1. Simon Haykin，《神经网络原理》，2004，机械工业出版社 </p> <p> 2. 《人工神经网络原理、分类及应用》，2014，期刊，科技资讯 </p> <p> 3. 维基百科 </p> <p> 4. 百度百科 </p> <p> 5. 马克威分析系统使用教程，www.tenly.com； </p> <p> 四、参考案例 </p> <a name="a_19"></a><a class="para_title"><span class="number">五</span>输入输出</a> <p> → 输出结果： </p> <p> √ 输入变量类型：模型的输入样本的各维数据都是布尔值。 </p> <p> → 输出结果： </p> <p> √ ART1神经网络分析结果：列出每条记录所属的类。 </p> <a name="a_24"></a><a class="para_title"><span class="number">六</span>相关条目</a> <p> 自适应共振理论（ART），人工神经网络 </p> <a name="a_26"></a><a class="para_title"><span class="number">七</span>优缺点</a> <p> 主要优点 </p> <p> 1. 可完成实时学习，且可适应非平稳的环境； </p> <p> 2. 对已学习过的对象具有稳定的快速识别能力，同时又能迅速适应学习的新对象； </p> <p> 3. 具有自归一能力，根据某些特征在全体中所占的比例，有时作为关键特征，有时又被当做噪音处理； </p> <p> 4. 不需要事先已知结果，可非监督学习； </p> <p> 5. 此系统可以完全避免陷入局部最小点的问题 </p> </div> 人工神经网络 [is_show] => 1 [cat_id] => 67 [article_img] => [article_order] => 1 [article_time] => 1481254753 [isdel] => 0 )
ART神经网络

ART神经网络

人工神经网络 （Artificial Neural Network，ANN）简称神经网络(NN)，是基于生物学中神经网络的基本原理，在理解和抽象了人脑结构和外界刺激响应机制后，以网络拓扑知识为理论基础，模拟人脑的神经系统对复杂信息的处理机制的一种数学模型，根植于神经科学、数学、思维科学、人工智能、统计学、物理学、计算机科学以及工程科学的一门技术，通常用于解决分类和回归问题。具有并行分布的处理能力、高容错性、智能化和自学习等能力的特征，本质上是一个有大量简单元件相互连接而成的复杂网络，具有高度的非线性，能够进行复杂的逻辑操作和非线性关系实现的系统。

神经网络由大量的节点（或称神经元）之间相互联接构成，每个节点代表一种特定的输出函数，称为激活函数（activation function）；每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重（weight），神经网络就是通过这种方式来模拟人类的记忆。网络的输出则取决于网络的结构、网络的连接方式、权重和激活函数。而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达，是对传统逻辑学演算的进一步延伸。

人工神经网络中，神经元处理单元可表示不同的对象，例如特征、字母、概念，或者一些有意义的抽象模式。网络中处理单元的类型分为三类：输入单元、输出单元和隐单元。输入单元接受外部世界的信号与数据；输出单元实现系统处理结果的输出；隐单元是处在输入和输出单元之间，不能由系统外部观察的单元。神经元间的连接权值反映了单元间的连接强度，信息的表示和处理体现在网络处理单元的连接关系中。

算法背景和发展

20世纪40年代，人们开始对神经网络研究。

1943 年，美国心理学家麦克洛奇（Mcculloch）和数学家皮兹（Pitts）提出了M-P模型，此模型比较简单，但是意义重大。在模型中，通过把神经元看作功能逻辑器件来实现算法，从此开创了神经网络模型的理论研究。

1949心理学家赫布（Hebb）提出Hebb法则，为构造有学习功能的神经网络模型奠定了基础。

1957 年，罗森勃拉特（Rosenblatt）以M-P 模型为基础，提出了感知器（Perceptron）模型；

1959年，美国著名工程师威德罗（B.Widrow）和霍夫（M.Hoff）等人提出ADALINE网络模型，ADALINE网络模型是一种连续取值的自适应线性神经元网络模型，可以用于自适应系统。

1972年，芬兰的KohonenT.教授，提出了自组织神经网络SOM(Self-Organizing feature map)。

1976年，美国Grossberg教授提出了著名的自适应共振理论ART(Adaptive Resonance Theory)，其学习过程具有自组织和自稳定的特征。

1982年，美国物理学家霍普菲尔德（Hopfield）提出了一种离散神经网络，即离散Hopfield网络，从而有力地推动了神经网络的研究；

1984年，Hinton与年轻学者Sejnowski等合作提出了Boltzmann机模型；

1986年，儒默哈特（D.E.Ru melhart）等人在多层神经网络模型的基础上，提出了多层神经网络权值修正的反向传播学习算法----BP算法（Error Back-Propagation）；

1988年，Chua和Yang提出了细胞神经网络（CNN）模型；

1994年，廖晓昕关于细胞神经网络的数学理论与基础的提出，带来了这个领域新的进展。通过拓广神经网络的激活函数类，给出了更一般的时滞细胞神经网络(DCNN)、Hopfield神经网络（HNN）、双向联想记忆网络（BAM）模型；

目录

1、算法描述2、算法应用3、参考资料4、输入输出5、相关条目6、优缺点
一算法描述

在神经网络学习中，当网络规模给定后，由权矩阵所能记忆的模式类别信息量总是有限的，新输入的模式样本必然会对已经记忆的模式样本产生抵消或遗忘，从而使网络的分类能力受到影响。靠无限扩大网络规模解决上述问题是不现实的。如何保证在适当增加网络规模的同时，在过去记忆的模式和新输入的训练模式之间作出某种折中，既能最大限度地接收新的模式信息，同时又能保证较少地影响过去的样本模式呢？ ART网络在一定程度上能较好解决此问题。

1976年，美国Boston大学CarpenterG.A.教授提出了自适应共振理论ART(Adaptive Resonance Theory)。随后Carpenter G.A.又与他的学生GrossbergS.合作提出了ART神经网络。

经过多年的研究和发展，ART 网络已有几种基本形式：

(1) ART1型神经网络：处理双极性和二进制信号；

(2) ART2型神经网络：它是ART1型的扩展，用于处理连续型模拟信号；

(3) ART综合系统：将ART1和ART2综合在一起，系统具有识别﹑补充和撤消等综合功能。即所谓的3R（Recognition﹑Reinforcement﹑Recall）功能。

(4) ART3型神经网络：它是一种分级搜索模型，兼容前两种结构的功能并将两层神经网络扩大为任意多层神经元网络，由于ART3型在神经元的模型中纳入了生物神经元的生物电－化学反应机制，因而它具备了很强的功能和扩展能力。

三算法应用

ART1神经网络可以根据输入的数据，作无监督或无教师归纳，自动形成和自动确定数据类别。该算法主要对布尔类型的数据聚类。

三参考资料

1. Simon Haykin，《神经网络原理》，2004，机械工业出版社

2. 《人工神经网络原理、分类及应用》，2014，期刊，科技资讯

3. 维基百科

4. 百度百科

5. 马克威分析系统使用教程，www.tenly.com；

四、参考案例

五输入输出

→ 输出结果：

√ 输入变量类型：模型的输入样本的各维数据都是布尔值。

→ 输出结果：

√ ART1神经网络分析结果：列出每条记录所属的类。

六相关条目

自适应共振理论（ART），人工神经网络

七优缺点

主要优点

1. 可完成实时学习，且可适应非平稳的环境；

2. 对已学习过的对象具有稳定的快速识别能力，同时又能迅速适应学习的新对象；

3. 具有自归一能力，根据某些特征在全体中所占的比例，有时作为关键特征，有时又被当做噪音处理；

4. 不需要事先已知结果，可非监督学习；

5. 此系统可以完全避免陷入局部最小点的问题

人工神经网络