-------------
人工神经网络与数学建模
曾黄麟
随着人们从研究内容到研究方法经历的发展与变化,在对于高层次智能行为的研究中,大多数研究不仅集中于知识表示和符号推理,而是更加重视知识与大量观察和实验数据的处理、归纳、分类相联系,这就是数据挖掘。
数学建模就是从大量数据中利用某些方法,寻找该系统或事件的内在规律,建立该系统或事件的数据之间的联系,并用一种数学描述其输入与输出之间的关系,这种关系就是数学模型。
一个系统的内在联系是通过数据、图表、图像、图形、公式、方程、网络结构等形式来体现的,所以,在某种程度上可以说,数据、图表、图像、图形、公式、方程、网络结构等都是该系统的模型表达,这种表达就是相似系统的概念。因此,数学建模就是由一种系统的模型表达转换为系统的另一种模型表达。人工神经网络数学建模就是用人工神经网络的结构形式来代替实际物理系统模型。
-------------
-------------
人工神经网络是以工程技术手段模拟人脑神经系统的结构和功能为特征,通过大量的非线性并行处理器来模拟人脑中众多的神经元之间的突触行为,企图在一定程度上实现人脑形象思维、分布式记忆、自学习自组织的功能。
人工神经网络理论(ANN,artificial neural networks)的概念早在40年代就由美国心理学家 McCulloch 和数理逻辑学家Pitts提出了M-P模型。1949 年美国心理学家Hebb根据心理学中条件反射的机理,提出了神经元之间连接变化的规则,即Hebb规则。50年代Rosenblatt提出的感知器模型、60年代Widrow 提出的自适应线性神经网络,以及80年代Hopfield,、Rumelharth等人富有开创性的研究工作,有力地推动了人工神经网络研究的迅速发展。
大脑是由大量的神经细胞和神经元组成的,每个神经元可以当成是一个小的信息处理单元,这些神经元按照某种方式互相连接起来构成一个复杂的大脑神经网络。人工神经网络方法企图模拟人类的形象直觉思维,通过由大量的简单模拟神经元实现一种非线性网络,用神经网络本身结构表达输入与输出关联知识的隐函数编码,并通过学习或自适应使网络利用非线性映射的思想对信息能够并行处理。
-------------
-------------
人工神经网络从数据中挖掘知识的主要特点是: 1. 在信息处理机制上,它具有大规模并行模拟处理,网络全局作用, 信息分布存储,存储区和操作区合二为一等特点。
2. 神经网络可以通过训练、学习,对输入空间产生一个非线性映射; 也可以自适应地、 自组织地对输入数据产生聚类。
3. 神经网络具有较强的鲁棒性和容错能力,它不仅能处理不准确、不完整、不确定信息,而且能够克服网络本身的不精确性,甚至网络具有自身修复缺陷的能力。
首先让我们了解一下人的大脑的神经网络基本特性。 人工神经元基本特性模拟如图8.3所示:
x1 w1 v u x2 w2 ? ... wn xn 图 1 人工神经元基本特性示意图
-------------
-------------
在人工神经网络中, 突触输入信息为矢量 X= {x1,
x2, ... ,xn}, 通过突触的联接强度 W= {w1, w2, ... ,wn}
的加权, 进行线性求和后, 通过非线性输入─输出函数得到输出
u?f(v)?f(?wixi)
i?1n其中输入─输出函数一般为S 型函数。
虚线框内代表一个神经元,在网络中我们常用一个神经元节点表示。
一般输入─输出S 型函数有下列几种形式: (1) 线性函数:u?kv (2)对数函数:u?(1?e?kv)?1
(3)
1?e?kv双曲正切函数: u?1?e?kv
这里k是一个常量。 (4)高斯函数:
1v?c2u?exp(?())
2?这里c确定函数的中心,?确定函数的宽度。 (5)柯西函数:
u?1v?c41?||a
这里c确定函数的中心,a确定函数的宽度。
-------------
-------------
(6)符号函数:u?sgn(v)???(7)阶跃函数:u???1,1,v?0v?0??1,
v?0v?0?0,
线性函数常用于线性神经元网络;对数函数、双曲正切函数常用于多层或反馈连接非线性神经元网络;高斯函数、柯西函数常用于非线性径向基函数神经元网络;符号函数、阶跃函数是对数函数、双曲正切函数的极限情况,因此,利用它们可把连续神经网络变成为离散神经网络。
根据人脑神经元之间联接的多样性,模拟人脑神经网络的人工神经网络的联接也具有各式各样的结构,但它们大体可以分为两大类,即具有反馈互联的神经网络和无反馈的前向互联神经网络。
(1) 反馈互联网络
这种网络的神经元与神经元之间通过广泛联接,传递、反馈交换信息,网络结构十分复杂,由于网络由输出端反馈到输入端,所以动态特性丰富,存在网络的全局稳定性问题。
在广泛互联反馈网络中,有把输入信号分别输入到每一个神经元,每一个神经元的输出反馈到其它所有神经元的输入端,这种结构是全互联反馈网络,典型的代表网络就是Hopfield 神经网络[40] (HNN,Hopfield neural network)。
-------------
(整理)人工神经网络与数学建模
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)
![](/skin/haowen/images/icon_star.png)