用模拟电子技术实现的神经元器件,称为模拟神经元。同时,用电子设备和计算机系统来模拟神经网络的功能,称该系统为
神经网络模型。由于对神经网络的生理机制及其信息处理功能了解得较肤浅,因此,虽然有大量的神经网络模型出现,但只是模拟极少的部分功能而已。
简介
人工
神经网络是现代信息处理领域的一个重要的方法,相对于软件实现,硬件实现方式能充分发挥神经网络并行处理的特点。用模拟电路实现神经网络电路形式简单、功耗低、速度快、占用
芯片面积小,可以提高在神经网络芯片上神经元的集成度,神经元电路适合用模拟电路实现。
模拟神经元结构
用模拟电子技术实现的神经元器件,称为模拟神经元器件。一个模拟神经元器件,通常由胞体、树突、轴突和突触四大部分电路组成。作为一个神经元器件,应具有的功能特征是:
(1)是一个多输入单输出的处理单元;
(2)具有加权求和能力;
(4)突触权值是可调节的。
为了甩模拟电子技术来实现这些功能,通常,人们用模拟运算放大器来代表胞体,用导线来代表树突和轴突,用电阻器来代表突触连接,其阻值即为连接权值。比如,典型的Hopfield网络中的模拟型神经元就是这样实现的。图1所示即为一个模拟电子神经网络的结构,它是一个全互连联想记忆模型的实现。图1中,水平线为输入,垂直线为输出。每个神经元器件的输出通过一电阻器与其他神经元器件输出相连。
技术实现
模拟型电子神经网络的学习功能是通过改变突触电路的权值来实现的,如何实现突触权值的变化是设计和实现这类电子神经元的关键。在模拟电路的实现技术中,有四种改变权值的方法,即控制MOS晶体管的导通电阻,控制导通晶体管的数目,采用RAM电路以及采用高集成度的薄膜技术(包括非晶半导体技术、金属氮氧化物半导体MNOS技术等)。
1.控制MOS晶体管的导通阻抗
一个典型的3输入神经元的模拟电路实现原理如图2所示,电路通过控制MOS晶体管的导通阻抗来改变权值。该电路分为突触(T1~T3和T18~T20)、树突(T4~T11)和细胞体(T12~T17)三部分,分别具有权值控制、加权求和运算和阈值处理功能。
在上述电路中,权值控制由乘法电路实现。当给开关晶体管了T18加上一权值输入电压W1,且栅极S处于低电平时,T18导通,将信息以电荷形式积蓄在门电路了,中。显然,W1值越大,T1积蓄电荷量越多,权值就越大;反之,权值就越小。权值输入W1与来自其他神经元的输出信号V1相乘,成为T1与T4管之间的电压W1V1。经树突电路中晶体管T4和T7,将乘积传送到A点。同样,从其他神经元来的信号V2、V3,分别通过了T19,T20与权值W2,W3对应相乘,得部分积W2V2,W3V3,并传送到A点。
加法运算∑WiVi,在节点A处实现。在节点A处,来自各树突支路的输入信号以电荷形式累积,并供给细胞体电路。阈值处理是利用T12和T13构成的反相器的阈值,与节点A来的电位进行比较,以决定神经元电路的输出电压V0。
2.用RAM电路控制权值
图3表示的是一种采用RAM电路来存储和改变连接权值的方案。假设每个神经元都具有两个RAM单元,一个为兴奋性RAM单元,另一个为抑制性RAM单元。它们分别控制一个开关晶体管,决定连接权的类型。当有一RAM单元存储值为1,且放大器输出为“高”时,形成一电流源,作为另一放大器i的一路输入;当两个RAM单元存储值均为0时,相连开关晶体管处于“开”状态,即断路,则放大器j的输入不影响放大器i的输出。因此,有三种连接类型,兴奋连接—T1接通,抑制连接—T4接通,断开状态—T1和T4均断开。由RAM单元实现的连接权作用,只需简单的编程,设置相应单元的值,便可实现不同类型连接输入。
3.由导通晶体管数目改变权值
图4所示电路即为通过控制导通晶体管数目来改变神经元的连接权值的电路。它由四组晶体管实现权值Wij的变化,每组有(n+1)个晶体管。图4中TSCN用来控制神经元之间的连接关系,T0~T(N-1)和TSCN的导通、截止信息存储在(n+1)个相连触发器中,由处理机控制。
4.采用MNOS技术控制权值
图5所示为采用MNOS技术实现突触连接的电路构造。栅极S是金属氮氧化物半导体材料做成的,通过氮化膜中注入的电荷量控制栅极的势阱深度。这种改变权值方法的核心是用通过MNOS的电荷量来改变权值的大小。
实际应用
人工神经网络
有机体神经元具有很强的学习能力,为了在机器学习中运用这种能力,人们进行了大量的研究工作。图6是神经元的简单模型。虽然这个模型仅仅是对生物学神经元的一种近似,但是它已经成为非常重要的计算模型。这些模拟神经元组成的网络,即
人工神经网络或ANN,已经证明在许多机器视觉问题上非常有用,特别是因为它们的学习能力。人工神经网络能够学习多维空间中样本的复杂结构,与最近邻分类方法相比需要较少的内存,它还可实现海量的并行计算。