實際的生物神經(jīng)工作在電脈沖輸入和輸出的情形;輸入是由“觸突”完成的,觸突的前面是上一個神經(jīng)元的輸出——軸突,后面是本神經(jīng)元的細胞體——神經(jīng)細胞膜;細胞膜和神經(jīng)元的軸突是相連的,所以一個神經(jīng)細胞的輸出是個一次性的激發(fā)過程——輸出一個電脈沖;因此,神經(jīng)細胞膜的動作代表著這個細胞的整體行為,它是在輸入不斷刺激下,當激發(fā)化學成分達到一定程度時的一次“激動”。
一個神經(jīng)元有許多輸入端(當然也有較少的輸入,完成中繼放大的作用)神經(jīng)輸入——觸突,每個觸突的大小可以是不同的,也就是它們由接受輸入脈沖到刺激本神經(jīng)元的細胞膜的強度是不一樣的。在人為的描述中我們以連接強度——權重值表示(如圖中的a,b等等)。

這些由觸突連接和電脈沖傳遞的網(wǎng)絡,為了簡單人為將他們表示為一個連續(xù)的量(如圖中的x1,x2等等)。但這種表示與實際還是有差別的。
人為的神經(jīng)元模型如圖所示,輸出y可以表示為:
y=a*x1+b*x2+c*x3+d*x4的形式;其中的輸入數(shù)量(這里為4)認為是輸入“信息”空間的大小。但是,如此的神經(jīng)元如果我們將它們級聯(lián)許多,其效果如同一個神經(jīng)元,因為其中只有“線性”的關系。生物在自然形成中具有很好的優(yōu)化和“智慧”;一個神經(jīng)元的輸出,我們已經(jīng)說明了,它不是一下子就傳遞的,是要有積累的,并且輸出的脈沖每次也是單一的,有限的;所以實際的神經(jīng)元的輸出對輸入而言是呈“非線性”的;在人為的神經(jīng)元中就是函數(shù)f,它是一個非線性的影射函數(shù);它的存在十分重要,它能將有限的輸入空間維數(shù)加以增加,使神經(jīng)網(wǎng)絡具有識別復雜形狀的能力!
一個如下功能的神經(jīng)元能干什么哪?
y=f(a*x1+b*x2+c*x3+d*x4)
這個例子中選用了4個輸入變量(x1,x2,x3,x4),所以輸入空間的維數(shù)是4.而觸突強度(a,b,c,d)實際上是對這些變量的一個限制。如我們解如下方程,
a*x1+b*x2+c*x3+d*x4=0
我們能知道,變量所在的區(qū)域是一個在4維空間中鑲嵌的一個“平面”,我們叫它“超平面”(3維空間,比樣本空間少一維)。其中這個平面有一個正方向,即平面的“法”矢量方向,以以上例子,這個法向矢量就是(a,b,c,d)。
所以一個神經(jīng)元能夠判斷輸入的變量(x1,x2,x3,x4)處于“超平面”的正方向上,還是反方向上,還是處于這個“超平面”之上;當樣本點在“平面”的正方向上,神經(jīng)元輸出為正值,否則就為0和負值;也就是這個神經(jīng)元是輸出一個電脈沖,還是保持不動作。
而神經(jīng)元的輸出經(jīng)過非線性變形,可以將空間中的樣本的復雜性通過層疊的網(wǎng)絡加以簡化,從而說神經(jīng)網(wǎng)絡在理想意義下可以處理任意的復雜問題。這就是一個神經(jīng)元和它作用在網(wǎng)絡中的功能和模型;但我們可能也注意到真實的神經(jīng)元是以脈動的電脈沖為傳遞信息的信號,在一定意義下這樣的神經(jīng)元還處理著“時間”空間的信息,所以生物神經(jīng)元還具有在時間空間上對問題的優(yōu)化;而這一點是現(xiàn)代人工神經(jīng)元欠缺的!
神經(jīng)元的學習是指對“觸突”——連接強度的調整;用最簡單的Hebb學習規(guī)則就可以了;對一組樣本集中的每一個樣本做如下的調整:
設有n個樣本,用i表示其中的一個,x1i表示第一個觸突上現(xiàn)在輸入的第i個樣本值,yi為輸入第i個樣本時神經(jīng)元的實際輸出;而正確的輸出應為Yi,那么本次對第一個觸突a的調整量為:
da = r * (Yi -yi)* x1i,
a = a +da
其中r是一個較小的正數(shù)。i取1到n,輪流進行學習。學習中r如果很大會出現(xiàn)學習的跳躍,甚至發(fā)散;對復雜的問題要用級聯(lián)的網(wǎng)絡,網(wǎng)絡中間的神經(jīng)元數(shù)量越多學習的用時就越短;因為神經(jīng)網(wǎng)絡對問題事先是不知道的,中間層的神經(jīng)元決定的“超平面”全都是隨機的;一旦“超平面”趨向問題的解決方向學習就會很快結束。
猴子的智力僅次于人,就是有些重要的網(wǎng)絡還沒有轉到較高的智力結構上;人的智力發(fā)育也是如此,小時候的“弱智”,不一定長大就弱,那是因為這些人的神經(jīng)學習還沒有到達“啟蒙”期;所以我不贊成小孩從小就強化學習;相對“弱”,也并不等于以后智力不如別人!
愛華網(wǎng)

