人工神經網絡具有大規模的信息處理和存儲能力、良好的自適應性以及很強的學習功能、聯想功能和容錯功能。動態特性的研究一直是人工神經網絡理論研究的重點，主要原因在于人工神經網絡的應用都與網絡的動態特性有關。目前，神經網絡的研究主要是基于層級網絡，其拓撲不能模擬真實生物神經網絡。小世界網絡作為大量真實復雜系統的高度抽象，具有生物神經網絡特性。本研究首先構建了小世界網絡并基于復雜網路理論選擇出適合于小世界網絡的最佳參數，進而基于突觸可塑性調節機制和小世界網絡拓撲構建了小世界神經網絡，并從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。實驗結果表明：隨著時間的增加，小世界神經網絡的興奮性與抑制性神經元放電模式沒有改變且神經元的放電時間趨于同步；小世界神經網絡中各神經元間的突觸權重急劇減小最終趨于穩定；網絡的連接減弱且信息傳遞效率降低，但小世界屬性較為穩定。小世界神經網絡的動態特性隨時間而變化且相互影響：網絡的放電同步特性可影響突觸權重趨于最小值分布，進而突觸權重的動態變化也可影響復雜網絡特性。
引用本文： 張偉, 郭磊, 冉鵬飛, 陳云閣. 基于突觸可塑性的小世界神經網絡的動態特性研究. 生物醫學工程學雜志, 2018, 35(4): 509-517. doi: 10.7507/1001-5515.201701013 復制
引言
對于大量真實世界的網絡而言，它們既不是規則網絡也不是隨機網絡，而是介于兩者之間的復雜網絡，比如互聯網、無線通訊網絡、電力網絡、生物神經網絡和社會關系網絡等。小世界網絡作為一種重要的復雜網絡，具有較小的最短路徑長度和較大的聚類系數等小世界特性。實證結果表明，大多數的真實網絡具有小世界特性[1]。近年來小世界網絡成為國際學術界一個新興的研究熱點。小世界網絡模型包括 Watts-Strogatz（WS）小世界網絡模型、Newman-Watts（NW）小世界網絡模型、Monasson 小世界網絡模型以及一些其他的變形模型包括 Barabasi-Albert（BA）小世界網絡模型等[2]。廖志賢等[3]研究了基于小世界網絡模型的光伏微網系統同步方法并與基于鄰近耦合規則的光伏微網同步進行比較。研究發現，基于小世界網絡模型的光伏微網系統比傳統的基于鄰近耦合規則的光伏微網系統具有更短的同步時間，在外加擾動的情況下也具有更快的恢復時間。于凱[4]構建了突觸可塑性的小世界神經網絡，并研究了脈沖時間依賴的突觸可塑性參數的改變對網絡同步振蕩性的影響。該研究對突觸可塑性神經網絡的構建及突觸可塑性作用機制的研究有重要的參考意義。Yu等[5]進一步研究了突觸可塑性和噪聲強度在時間空間上對 NW 小世界網絡的影響。數值結果表明，引起相干共振和尖峰同步發生的加性中間噪聲強度可以優化神經系統的動態響應。Dong 等[6]在無線網絡中模擬了 WS 小世界網絡模型和 NW 小世界模型并評估了網絡的平均路徑和節點度。該研究提供了無線網絡在具有分布式路由協議的小世界網絡模型下的行為的見解。曲海波等[7]應用靜息態功能磁共振成像的圖論數據分析方法，分析全腦共 90 個分區的幼兒小世界神經網絡。實驗結果表明，小世界神經網絡節點屬性與幼兒智力水平及人口學數據存在廣泛的相關性并且不同的腦區有其不同的分布特點。Guan 等[8]結合 WS 小世界模型和 NW 小世界模型提出了一個新的小世界網絡模型的算法。數值模擬結果表明，新型的小世界網絡模型可以獲得更接近于真實的即時通訊聊天網。目前小世界網絡的研究主要集中在模型構建及應用上，針對網絡的動態特性并未深入探究。本研究首先構建了小世界網絡并基于復雜網絡理論選擇出適合于小世界網絡的最佳參數，進而基于突觸可塑性調節機制和小世界拓撲構建了小世界神經網絡并對其動態特性進行了分析。
1 小世界網絡的生成及特性分析
1.1 小世界網絡的生成
本研究采用 WS 小世界模型算法生成節點為 500 的小世界網絡，其主要生成步驟如下：
首先，構建一個含有 500 個節點的最近鄰耦合規則網絡，它們圍成一個環，其中每個節點都與它左右相鄰的各 10 個節點相連。
以重連概率
隨機地重新連接網絡中的每個邊：即將邊的一個端點保持不變，而另一個端點取為網絡中隨機選擇的一個節點。
在 WS 小世界網絡模型中，
對應于完全規則網絡，
則對應于完全隨機的網絡，調節概率
（
）可以得到小世界網絡拓撲。
1.2 小世界網絡的特性分析
1.2.1 節點度
度是對節點互相連接統計特性最重要的描述，也反映網絡演化特性[9]。節點度計算公式如下：
 |
為網絡中節點數量，
連接矩陣中的元素。如果
等于 0 表示兩節點間沒有連接邊，如果
等于 1 表示兩個節點之間具有連接邊。整個網絡的平均度如下所示：
 |
1.2.2 聚類系數
聚類系數衡量網絡的集團化程度，是度量網絡的另一個重要參數[10]。聚類系數的計算公式如下：
 |
表示可能出現的最大邊數，
是節點
與鄰居節點間實際連接的邊的數目。由于小世界網絡是一個復雜的系統，不能單獨研究每個節點的聚類系數。所以本研究采用聚類系數的平均值來整體評價網絡特性，其計算公式如下：
 |
1.2.3 最短路徑長度
最短路徑對網絡的信息傳輸起著重要的作用，是描述網絡內部結構非常重要的一個參數[11]。網絡的平均最短路徑長度計算公式如下所示：
 |
表示網絡節點總數，
表示任意兩個節點間距離。
1.2.4 全局效率
如果網絡中存在不連通的節點，會導致這兩個節點間的最短路徑長度值為無窮。因此有人提出了全局效率[12]，其計算公式如下所示：
 |
、
分別代表節點的數量和節點間距離。
1.2.5 小世界屬性
為了量化網絡的小世界屬性，聚類系數和最短路徑長度兩個指標被統一為一個指標來衡量小世界屬性[13]。
 |
其中，
為小世界網絡的平均聚類系數與隨機網絡的平均聚類系數的比值，
為小世界網絡的平均最短路徑長度與隨機網絡的平均最短路徑長度的比值。當
時，網絡具有小世界屬性，且
越大網絡的小世界屬性越強。
本研究將從以上五個方面對復雜網絡特性進行分析。不同概率
下，小世界網絡的復雜網絡特性參數如表 1 所示。
表1
小世界網絡特性參數
Table1.
The characteristic parameters of the small world network
由表 1 得，隨著小世界網絡概率
的增大，網絡的平均聚類系數值越來越小且受概率的影響較大，網絡的平均最短路徑長度值越來越小但受概率的影響較小，網絡的全局效率值越來越大但受概率的影響較小，網絡的小世界屬性越來越小且受概率的影響較大。已知小世界網絡具有高聚類系數和低平均最短路徑長度的特性，小世界屬性大于 1 且其值越大小世界屬性越強。由表 1 可知，隨著概率
的增加，網絡的平均聚類系數和小世界屬性越來越小且受概率的影響較大；網絡的平均最短路徑長度越來越小，全局效率越來越大，但二者受概率的影響較小。因此，考慮犧牲影響很小的平均最短路徑長度和全局效率而獲得較大的平均聚類系數和小世界屬性，選擇概率
作為網絡的重連概率，以最大程度地滿足小世界網絡特性。重連概率
為 0.1 時，小世界網絡的拓撲如圖 1 所示。
圖1
小世界網絡拓撲
Figure1.
The topology of small world network
2 小世界神經網絡的構建
2.1 Izhikevich 神經元模型
Izhikevich 神經元模型更加接近真實生物的脈沖放電特征且適于大規模仿真[14]，因此本研究選取 Izhikevich 神經元模型作為神經網絡構建的基本單元，其數學描述如式（8）所示：
 |
其中，
代表神經元的膜電壓；
代表膜電壓恢復變量，同時為膜電壓提供一個負反饋；
代表外部輸入電流和經多個突觸傳導來的突觸電流的總和。通過調節無量綱參數 a、b、c、d，Izhikevich 神經元模型能夠模擬多種放電模式。本研究采用規則放電（regular spiking，RS）作為神經網絡中興奮性神經元的放電模式，其參數設置為：
；采用低閾值放電（low-threshold spiking，LTS）作為抑制性神經元的放電模式，其參數設置為：
。興奮性和抑制性神經元的放電特性如圖 2 所示。其中，橫坐標為仿真時間，縱坐標為神經元的膜電壓。
圖2
Izhikevich 神經元的放電模式
Figure2.
The firing patterns of Izhikevich neuron
2.2 突觸可塑性調節機制
突觸可塑性調節機制是神經元之間信息傳遞的根本。生物神經網絡中的突觸類型可以分為興奮性突觸和抑制性突觸，它們具有不同的信息傳遞特性[15]。對于突觸模型而言，其突觸輸出電流與輸入電壓近似呈線性關系，可表示為：
 |
其中，
為突觸電流；
為突觸電導；
為突觸后神經元的膜電位；
為反轉電位。興奮性突觸和抑制性突觸都通過突觸電導的變化對神經元之間的信息傳遞效率進行調節，它們具有不同的調節規律，每種突觸都存在以下兩種不同的變化情況：
（1）當突觸后神經元
沒有接收到突觸前神經元
的動作電位時，興奮性突觸和抑制性突觸電導會呈指數衰減，分別如下所示：
興奮性突觸：
 |
抑制性突觸：
 |
其中，
為興奮性突觸電導；
為抑制性突觸電導；
和
分別為興奮性電導和抑制性電導的衰減常數，本文中設定
。
（2）當突觸后神經元
接收到突觸前神經元
的動作電位時，興奮性突觸和抑制性突觸電導變化如下：
興奮性突觸：
 |
抑制性突觸：
 |
其中，
和
分別為動作電位引起的興奮性電導增量和抑制性電導增量。興奮性突觸模型中，
由興奮性突觸權重
進行調節，具體的調節過程為
，且興奮性突觸電導增量
（
）。抑制性突觸模型中，
由抑制性突觸權重
進行調節，具體的調節過程為
，且抑制性突觸電導增量
（
）。興奮性突觸權重
與抑制性突觸權重
與突觸前神經元
和突觸后神經元
的脈沖放電有關，其數學表達式如下所示：
 |
 |
其中，
為突觸前后神經元放電時刻間隔；
和
為突觸增強和減弱時突觸前后神經元放電時刻間隔范圍，本文設定
；
和
為興奮時突觸電導值在增強和減弱時的最大修正值和最小修正值；
和
為抑制時突觸電導值在增強和減弱時的最大修正值和最小修正值。經查閱相關文獻，本文設定
[16]。
2.3 小世界神經網絡的生成
依據神經解剖學實驗結果，網絡中興奮性神經元和抑制性神經元的比例為 4∶1[17]。神經元之間的突觸類型取決于突觸前神經元的類型，網絡中神經元之間的信息傳遞由興奮性突觸和抑制性突觸共同調節作用。以 Izhikevich 神經元模型為節點，以突觸可塑性動力學模型為連接關系，基于小世界網絡的拓撲構建了小世界神經網絡，并在仿真時間 1 000 ms 內分析了該網絡的動態特性。
3 小世界神經網絡的動態特性分析
小世界神經網絡的動態特性分析反映了網絡的動態演化過程，是神經網絡的研究重點。本研究從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。
3.1 放電特性分析
節點為 500、重連概率
為 0.1 的小世界神經網絡中隨機抽取的興奮性神經元和抑制性神經元的放電序列如圖 3 所示。其中，橫坐標為仿真時間，縱坐標為神經元的膜電壓。在圖 3 中，經過一段時間的調控，興奮性神經元與抑制性神經元的放電模式沒有改變，且抑制性神經元的放電頻率大于興奮性神經元。
圖3
神經元放電序列
Figure3.
The neuronal firing sequence
放電柵圖可以反映神經元集群在時間域上的同步放電活動。小世界神經網絡的放電柵圖如圖 4 所示。其中，橫坐標代表仿真時間，縱坐標代表神經元數目。在圖 4 中，仿真初始時，各神經元的放電較為密集。隨著時間的增加，各神經元的放電時刻越來越集中，同步性顯著提高直至達到完全同步。
圖4
小世界神經網絡放電柵圖
Figure4.
The firing spatiotemporal map of small world neural network
3.2 突觸權重動態特性分析
在小世界神經網絡中，突觸權重會隨著時間的變化而變化。本研究隨機選取（184，186）和（497，500）兩對神經元代表興奮性突觸前神經元
興奮性突觸后神經元；隨機選取（3，1）和（241，245）兩對神經元代表興奮性突觸前神經元
抑制性突觸后神經元；隨機選取（12，15）和（317，318）兩對神經元代表抑制性突觸前神經元
興奮性突觸后神經元；隨機選取（221，228）和（453，457）兩對神經元代表抑制性突觸前神經元
抑制性突觸后神經元。各神經元之間的突觸權重隨時間的變化如圖 5 所示。
圖5
突觸權重變化
Figure5.
The changes of synaptic weight
由圖 5 得，各神經元之間的突觸權重變化趨勢大致相同。仿真初期，各神經元之間的權重分布穩定且權重值達到最大；隨著時間的增加，各神經元之間的權重急劇減小，最后趨于最小值分布保持不變。經過興奮性和抑制性突觸可塑性的動態調節，各神經元間突觸權重的動態特性趨于穩定。
在小世界神經網絡中，神經元之間的突觸權重分布如圖 6 所示。由圖 6 得，仿真開始時，小世界神經網絡的突觸權重呈兩端分布，即突觸權重在最大值和最小值這兩個區間里的分布最多，其他區間分布較少；隨著時間的增加，突觸權重呈最小值分布且趨于穩定，即權重在最小值區間里的分布最多，其他區間分布較少。
圖6
突觸權重分布
Figure6.
The distribution of synaptic weight
3.3 復雜網絡特性分析
復雜網絡特性主要包括平均度、平均聚類系數、平均最短路徑長度、全局效率和小世界屬性，可以揭示網絡的內部特性[18-19]。本研究基于復雜理論對小世界神經網絡的動態特性進行分析。
3.3.1 平均度
在小世界神經網絡中，平均度的大小直接影響網絡連接[17]。小世界神經網絡的平均度分布如圖 7 所示。由圖 7 得，在仿真開始的前
內，小世界神經網絡的平均度值保持在最大值；在仿真時間的
內，小世界神經網絡的平均度值會急劇減小；在仿真時間的
，小世界神經網絡的平均度值仍呈減小趨勢，但減小的幅度較小，即受時間的影響小；在仿真時間的
內，小世界神經網絡的平均度值會有小幅度的增加。平均度的大小表征網絡的連接強弱，平均度越大，網絡的連接越強。實驗結果表明，隨著時間的增加，小世界神經網絡的平均度分布整體呈減小趨勢，即網絡的連接減弱。
圖7
小世界網絡的復雜網絡特性
Figure7.
Complex network properties for small world neural network
3.3.2 平均聚類系數
聚類系數度量網絡的局部信息傳輸能力，也在一定程度上反映了網絡防御隨機攻擊的能力。小世界神經網絡的平均聚類系數分布如圖 7 所示。在圖 7 中，隨著時間的增加，小世界神經網絡的平均聚類系數分布趨于穩定。聚類系數表征網路的集團化程度和信息傳遞能力。聚類系數越大，網絡的信息傳遞能力越強。實驗結果表明，隨著時間的增長，小世界神經網絡的信息傳遞能力越發穩定。
3.3.3 平均最短路徑長度
最短路徑刻畫了網絡中某一節點的信息到達另一節點的最優路徑，通過最短路徑可以更快地傳輸信息，從而節省系統資源。小世界神經網絡的平均最短路徑長度分布如圖 7 所示。由圖 7 可得，在仿真時間
內，小世界神經網絡平均最短路徑長度呈增長趨勢；在仿真時間的
內，平均最短路徑長度趨于穩定。最短路徑長度表征小世界神經網絡的信息傳遞效率。最短路徑長度越短，網絡的信息傳遞效率越高。實驗結果表明，隨著時間的增加，平均最短路徑長度呈增長趨勢，即小世界神經網絡的信息傳遞效率隨時間增長而減弱。
3.3.4 全局效率
全局效率代表網絡的信息傳遞效率。小世界神經網絡的全局效率分布如圖 7 所示。由圖 7 得，在仿真時間
內，小世界神經網絡全局效率呈減小趨勢；在仿真時間的
內，網絡的全局效率趨于穩定。隨著時間的增加，小世界神經網路的全局效率呈現先減小后趨于穩定的趨勢。全局效率和最短路徑長度一樣，表征網絡的信息傳遞效率。全局效率越大，網絡的信息傳遞效率越高。實驗結果表明，小世界神經網絡的信息傳遞效率隨時間的增加而減弱。
3.3.5 小世界屬性
小世界屬性量化了復雜網絡特性，是衡量小世界網絡的基準。小世界神經網絡的小世界屬性分布如圖 7 所示。由圖 7 得，隨著時間的增加，小世界屬性的整體分布較為穩定且小世界屬性均遠大于 1。實驗結果表明，本文所構建的小世界神經網絡符合小世界特征且網絡特性較為穩定。
3.4 討論
本研究從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。小世界神經網絡的動態特性均隨著時間而變化，動態特性之間也可相互影響。
小世界神經網絡中各神經元的放電特性可影響網絡的突觸權重動態特性。隨著時間的增加，小世界神經網絡中各神經元的放電時刻越來越集中，神經元表現出較好的集群放電特性，即小世界神經網絡的放電趨于同步。突觸權重與突觸前后神經元的脈沖放電時刻間隔相關。小世界神經網絡中各神經元的放電時刻隨著時間的增加越來越集中，即突觸前后神經元的脈沖放電間隔減小，導致突觸權重受放電時刻間隔的影響較小，突觸權重趨于最小值分布。
小世界神經網絡的突觸權重動態變化也可影響小世界神經網絡的復雜網絡特性，具體分析如下：
（1）小世界神經網絡的平均度是所有關聯節點之間的突觸權值總和的平均值。各神經元間的突觸權重隨時間的增加急劇減小最終呈最小值分布，導致小世界神經網絡的平均度也隨時間的增加而減小且變化幅度較大。
（2）小世界神經網絡的平均聚類系數是神經元的鄰居間互為鄰居的可能，衡量網絡的集團化程度。突觸權重調控各神經元之間的連接關系，而神經元間的突觸權重主要分布在最小值區域，導致網絡中各神經元間的連接關系受突觸權重的調控較小，即網絡的聚類特性較為穩定。
（3）小世界神經網絡的平均最短路徑長度和全局效率度量網絡的信息傳遞效率。最短路徑長度越短，網絡全局效率越高，則網絡中各神經元間傳遞信息的速率就越快。突觸權重隨著時間的增加而減小，導致網絡的連接減弱，即信息從一個神經元到另一個神經元的最短距離變長，網絡的全局效率減小，各神經元間傳遞信息的效率降低。
（4）小世界神經網絡的小世界屬性量化了復雜網絡特性，是網絡普遍具有的統計性質。突觸權重隨著時間的增加而減小，使得各神經元間的連接關系受突觸權重的調控較小，進而導致網絡的整體網絡特性較為穩定，即小世界屬性分布較為穩定。
4 總結
本研究首先基于 WS 小世界模型生成了小世界網絡并基于復雜網絡理論選擇出適合于小世界網絡的最佳參數，進而以 Izhikevich 神經元模型作為網絡的節點，以突觸可塑性調節機制作為節點之間的連接，以小世界網絡的拓撲作為網絡的基礎構建了小世界神經網絡，并從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。從放電特性方面分析：隨著時間的增加，小世界神經網絡中的興奮性與抑制性神經元的放電模式沒有改變且抑制性神經元的放電頻率高于興奮性神經元，各神經元的放電時刻越來越集中，即同步性顯著提高，最終達到完全同步。從突觸權重動態特性方面分析：隨著時間的增加，小世界神經網絡中各神經元的突觸權重急劇減小，最后趨于最小值分布。從復雜網絡特性方面分析：隨著時間的增加，小世界神經網絡的平均度急劇減小，即網絡的連接減弱；平均聚類系數基本保持不變，即網絡的信息傳遞能力穩定；平均最短路徑長度提高，全局效率減小，代表網絡的信息傳遞效率減弱；同時，小世界屬性較為穩定。小世界神經網絡的動態特性均隨著時間變化，動態特性之間也可相互影響。小世界神經網絡的放電同步特性可影響突觸權重趨于最小值分布，進而突觸權重的動態變化也可影響復雜網絡特性。基于已構建的小世界神經網絡和動態特性分析，本研究將進一步開展不同外部刺激下的小世界神經網絡的編碼和抗干擾研究，為腦科學的研究以及人工神經網絡的工程應用奠定基礎。
引言
對于大量真實世界的網絡而言，它們既不是規則網絡也不是隨機網絡，而是介于兩者之間的復雜網絡，比如互聯網、無線通訊網絡、電力網絡、生物神經網絡和社會關系網絡等。小世界網絡作為一種重要的復雜網絡，具有較小的最短路徑長度和較大的聚類系數等小世界特性。實證結果表明，大多數的真實網絡具有小世界特性[1]。近年來小世界網絡成為國際學術界一個新興的研究熱點。小世界網絡模型包括 Watts-Strogatz（WS）小世界網絡模型、Newman-Watts（NW）小世界網絡模型、Monasson 小世界網絡模型以及一些其他的變形模型包括 Barabasi-Albert（BA）小世界網絡模型等[2]。廖志賢等[3]研究了基于小世界網絡模型的光伏微網系統同步方法并與基于鄰近耦合規則的光伏微網同步進行比較。研究發現，基于小世界網絡模型的光伏微網系統比傳統的基于鄰近耦合規則的光伏微網系統具有更短的同步時間，在外加擾動的情況下也具有更快的恢復時間。于凱[4]構建了突觸可塑性的小世界神經網絡，并研究了脈沖時間依賴的突觸可塑性參數的改變對網絡同步振蕩性的影響。該研究對突觸可塑性神經網絡的構建及突觸可塑性作用機制的研究有重要的參考意義。Yu等[5]進一步研究了突觸可塑性和噪聲強度在時間空間上對 NW 小世界網絡的影響。數值結果表明，引起相干共振和尖峰同步發生的加性中間噪聲強度可以優化神經系統的動態響應。Dong 等[6]在無線網絡中模擬了 WS 小世界網絡模型和 NW 小世界模型并評估了網絡的平均路徑和節點度。該研究提供了無線網絡在具有分布式路由協議的小世界網絡模型下的行為的見解。曲海波等[7]應用靜息態功能磁共振成像的圖論數據分析方法，分析全腦共 90 個分區的幼兒小世界神經網絡。實驗結果表明，小世界神經網絡節點屬性與幼兒智力水平及人口學數據存在廣泛的相關性并且不同的腦區有其不同的分布特點。Guan 等[8]結合 WS 小世界模型和 NW 小世界模型提出了一個新的小世界網絡模型的算法。數值模擬結果表明，新型的小世界網絡模型可以獲得更接近于真實的即時通訊聊天網。目前小世界網絡的研究主要集中在模型構建及應用上，針對網絡的動態特性并未深入探究。本研究首先構建了小世界網絡并基于復雜網絡理論選擇出適合于小世界網絡的最佳參數，進而基于突觸可塑性調節機制和小世界拓撲構建了小世界神經網絡并對其動態特性進行了分析。
1 小世界網絡的生成及特性分析
1.1 小世界網絡的生成
本研究采用 WS 小世界模型算法生成節點為 500 的小世界網絡，其主要生成步驟如下：
首先，構建一個含有 500 個節點的最近鄰耦合規則網絡，它們圍成一個環，其中每個節點都與它左右相鄰的各 10 個節點相連。
以重連概率
隨機地重新連接網絡中的每個邊：即將邊的一個端點保持不變，而另一個端點取為網絡中隨機選擇的一個節點。
在 WS 小世界網絡模型中，
對應于完全規則網絡，
則對應于完全隨機的網絡，調節概率
（
）可以得到小世界網絡拓撲。
1.2 小世界網絡的特性分析
1.2.1 節點度
度是對節點互相連接統計特性最重要的描述，也反映網絡演化特性[9]。節點度計算公式如下：
|
為網絡中節點數量，
連接矩陣中的元素。如果
等于 0 表示兩節點間沒有連接邊，如果
等于 1 表示兩個節點之間具有連接邊。整個網絡的平均度如下所示：
|
1.2.2 聚類系數
聚類系數衡量網絡的集團化程度，是度量網絡的另一個重要參數[10]。聚類系數的計算公式如下：
|
表示可能出現的最大邊數，
是節點
與鄰居節點間實際連接的邊的數目。由于小世界網絡是一個復雜的系統，不能單獨研究每個節點的聚類系數。所以本研究采用聚類系數的平均值來整體評價網絡特性，其計算公式如下：
|
1.2.3 最短路徑長度
最短路徑對網絡的信息傳輸起著重要的作用，是描述網絡內部結構非常重要的一個參數[11]。網絡的平均最短路徑長度計算公式如下所示：
|
表示網絡節點總數，
表示任意兩個節點間距離。
1.2.4 全局效率
如果網絡中存在不連通的節點，會導致這兩個節點間的最短路徑長度值為無窮。因此有人提出了全局效率[12]，其計算公式如下所示：
|
、
分別代表節點的數量和節點間距離。
1.2.5 小世界屬性
為了量化網絡的小世界屬性，聚類系數和最短路徑長度兩個指標被統一為一個指標來衡量小世界屬性[13]。
|
其中，
為小世界網絡的平均聚類系數與隨機網絡的平均聚類系數的比值，
為小世界網絡的平均最短路徑長度與隨機網絡的平均最短路徑長度的比值。當
時，網絡具有小世界屬性，且
越大網絡的小世界屬性越強。
本研究將從以上五個方面對復雜網絡特性進行分析。不同概率
下，小世界網絡的復雜網絡特性參數如表 1 所示。
表1
小世界網絡特性參數
Table1.
The characteristic parameters of the small world network
由表 1 得，隨著小世界網絡概率
的增大，網絡的平均聚類系數值越來越小且受概率的影響較大，網絡的平均最短路徑長度值越來越小但受概率的影響較小，網絡的全局效率值越來越大但受概率的影響較小，網絡的小世界屬性越來越小且受概率的影響較大。已知小世界網絡具有高聚類系數和低平均最短路徑長度的特性，小世界屬性大于 1 且其值越大小世界屬性越強。由表 1 可知，隨著概率
的增加，網絡的平均聚類系數和小世界屬性越來越小且受概率的影響較大；網絡的平均最短路徑長度越來越小，全局效率越來越大，但二者受概率的影響較小。因此，考慮犧牲影響很小的平均最短路徑長度和全局效率而獲得較大的平均聚類系數和小世界屬性，選擇概率
作為網絡的重連概率，以最大程度地滿足小世界網絡特性。重連概率
為 0.1 時，小世界網絡的拓撲如圖 1 所示。
圖1
小世界網絡拓撲
Figure1.
The topology of small world network
2 小世界神經網絡的構建
2.1 Izhikevich 神經元模型
Izhikevich 神經元模型更加接近真實生物的脈沖放電特征且適于大規模仿真[14]，因此本研究選取 Izhikevich 神經元模型作為神經網絡構建的基本單元，其數學描述如式（8）所示：
|
其中，
代表神經元的膜電壓；
代表膜電壓恢復變量，同時為膜電壓提供一個負反饋；
代表外部輸入電流和經多個突觸傳導來的突觸電流的總和。通過調節無量綱參數 a、b、c、d，Izhikevich 神經元模型能夠模擬多種放電模式。本研究采用規則放電（regular spiking，RS）作為神經網絡中興奮性神經元的放電模式，其參數設置為：
；采用低閾值放電（low-threshold spiking，LTS）作為抑制性神經元的放電模式，其參數設置為：
。興奮性和抑制性神經元的放電特性如圖 2 所示。其中，橫坐標為仿真時間，縱坐標為神經元的膜電壓。
圖2
Izhikevich 神經元的放電模式
Figure2.
The firing patterns of Izhikevich neuron
2.2 突觸可塑性調節機制
突觸可塑性調節機制是神經元之間信息傳遞的根本。生物神經網絡中的突觸類型可以分為興奮性突觸和抑制性突觸，它們具有不同的信息傳遞特性[15]。對于突觸模型而言，其突觸輸出電流與輸入電壓近似呈線性關系，可表示為：
|
其中，
為突觸電流；
為突觸電導；
為突觸后神經元的膜電位；
為反轉電位。興奮性突觸和抑制性突觸都通過突觸電導的變化對神經元之間的信息傳遞效率進行調節，它們具有不同的調節規律，每種突觸都存在以下兩種不同的變化情況：
（1）當突觸后神經元
沒有接收到突觸前神經元
的動作電位時，興奮性突觸和抑制性突觸電導會呈指數衰減，分別如下所示：
興奮性突觸：
|
抑制性突觸：
|
其中，
為興奮性突觸電導；
為抑制性突觸電導；
和
分別為興奮性電導和抑制性電導的衰減常數，本文中設定
。
（2）當突觸后神經元
接收到突觸前神經元
的動作電位時，興奮性突觸和抑制性突觸電導變化如下：
興奮性突觸：
|
抑制性突觸：
|
其中，
和
分別為動作電位引起的興奮性電導增量和抑制性電導增量。興奮性突觸模型中，
由興奮性突觸權重
進行調節，具體的調節過程為
，且興奮性突觸電導增量
（
）。抑制性突觸模型中，
由抑制性突觸權重
進行調節，具體的調節過程為
，且抑制性突觸電導增量
（
）。興奮性突觸權重
與抑制性突觸權重
與突觸前神經元
和突觸后神經元
的脈沖放電有關，其數學表達式如下所示：
|
|
其中，
為突觸前后神經元放電時刻間隔；
和
為突觸增強和減弱時突觸前后神經元放電時刻間隔范圍，本文設定
；
和
為興奮時突觸電導值在增強和減弱時的最大修正值和最小修正值；
和
為抑制時突觸電導值在增強和減弱時的最大修正值和最小修正值。經查閱相關文獻，本文設定
[16]。
2.3 小世界神經網絡的生成
依據神經解剖學實驗結果，網絡中興奮性神經元和抑制性神經元的比例為 4∶1[17]。神經元之間的突觸類型取決于突觸前神經元的類型，網絡中神經元之間的信息傳遞由興奮性突觸和抑制性突觸共同調節作用。以 Izhikevich 神經元模型為節點，以突觸可塑性動力學模型為連接關系，基于小世界網絡的拓撲構建了小世界神經網絡，并在仿真時間 1 000 ms 內分析了該網絡的動態特性。
3 小世界神經網絡的動態特性分析
小世界神經網絡的動態特性分析反映了網絡的動態演化過程，是神經網絡的研究重點。本研究從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。
3.1 放電特性分析
節點為 500、重連概率
為 0.1 的小世界神經網絡中隨機抽取的興奮性神經元和抑制性神經元的放電序列如圖 3 所示。其中，橫坐標為仿真時間，縱坐標為神經元的膜電壓。在圖 3 中，經過一段時間的調控，興奮性神經元與抑制性神經元的放電模式沒有改變，且抑制性神經元的放電頻率大于興奮性神經元。
圖3
神經元放電序列
Figure3.
The neuronal firing sequence
放電柵圖可以反映神經元集群在時間域上的同步放電活動。小世界神經網絡的放電柵圖如圖 4 所示。其中，橫坐標代表仿真時間，縱坐標代表神經元數目。在圖 4 中，仿真初始時，各神經元的放電較為密集。隨著時間的增加，各神經元的放電時刻越來越集中，同步性顯著提高直至達到完全同步。
圖4
小世界神經網絡放電柵圖
Figure4.
The firing spatiotemporal map of small world neural network
3.2 突觸權重動態特性分析
在小世界神經網絡中，突觸權重會隨著時間的變化而變化。本研究隨機選取（184，186）和（497，500）兩對神經元代表興奮性突觸前神經元
興奮性突觸后神經元；隨機選取（3，1）和（241，245）兩對神經元代表興奮性突觸前神經元
抑制性突觸后神經元；隨機選取（12，15）和（317，318）兩對神經元代表抑制性突觸前神經元
興奮性突觸后神經元；隨機選取（221，228）和（453，457）兩對神經元代表抑制性突觸前神經元
抑制性突觸后神經元。各神經元之間的突觸權重隨時間的變化如圖 5 所示。
圖5
突觸權重變化
Figure5.
The changes of synaptic weight
由圖 5 得，各神經元之間的突觸權重變化趨勢大致相同。仿真初期，各神經元之間的權重分布穩定且權重值達到最大；隨著時間的增加，各神經元之間的權重急劇減小，最后趨于最小值分布保持不變。經過興奮性和抑制性突觸可塑性的動態調節，各神經元間突觸權重的動態特性趨于穩定。
在小世界神經網絡中，神經元之間的突觸權重分布如圖 6 所示。由圖 6 得，仿真開始時，小世界神經網絡的突觸權重呈兩端分布，即突觸權重在最大值和最小值這兩個區間里的分布最多，其他區間分布較少；隨著時間的增加，突觸權重呈最小值分布且趨于穩定，即權重在最小值區間里的分布最多，其他區間分布較少。
圖6
突觸權重分布
Figure6.
The distribution of synaptic weight
3.3 復雜網絡特性分析
復雜網絡特性主要包括平均度、平均聚類系數、平均最短路徑長度、全局效率和小世界屬性，可以揭示網絡的內部特性[18-19]。本研究基于復雜理論對小世界神經網絡的動態特性進行分析。
3.3.1 平均度
在小世界神經網絡中，平均度的大小直接影響網絡連接[17]。小世界神經網絡的平均度分布如圖 7 所示。由圖 7 得，在仿真開始的前
內，小世界神經網絡的平均度值保持在最大值；在仿真時間的
內，小世界神經網絡的平均度值會急劇減小；在仿真時間的
，小世界神經網絡的平均度值仍呈減小趨勢，但減小的幅度較小，即受時間的影響小；在仿真時間的
內，小世界神經網絡的平均度值會有小幅度的增加。平均度的大小表征網絡的連接強弱，平均度越大，網絡的連接越強。實驗結果表明，隨著時間的增加，小世界神經網絡的平均度分布整體呈減小趨勢，即網絡的連接減弱。
圖7
小世界網絡的復雜網絡特性
Figure7.
Complex network properties for small world neural network
3.3.2 平均聚類系數
聚類系數度量網絡的局部信息傳輸能力，也在一定程度上反映了網絡防御隨機攻擊的能力。小世界神經網絡的平均聚類系數分布如圖 7 所示。在圖 7 中，隨著時間的增加，小世界神經網絡的平均聚類系數分布趨于穩定。聚類系數表征網路的集團化程度和信息傳遞能力。聚類系數越大，網絡的信息傳遞能力越強。實驗結果表明，隨著時間的增長，小世界神經網絡的信息傳遞能力越發穩定。
3.3.3 平均最短路徑長度
最短路徑刻畫了網絡中某一節點的信息到達另一節點的最優路徑，通過最短路徑可以更快地傳輸信息，從而節省系統資源。小世界神經網絡的平均最短路徑長度分布如圖 7 所示。由圖 7 可得，在仿真時間
內，小世界神經網絡平均最短路徑長度呈增長趨勢；在仿真時間的
內，平均最短路徑長度趨于穩定。最短路徑長度表征小世界神經網絡的信息傳遞效率。最短路徑長度越短，網絡的信息傳遞效率越高。實驗結果表明，隨著時間的增加，平均最短路徑長度呈增長趨勢，即小世界神經網絡的信息傳遞效率隨時間增長而減弱。
3.3.4 全局效率
全局效率代表網絡的信息傳遞效率。小世界神經網絡的全局效率分布如圖 7 所示。由圖 7 得，在仿真時間
內，小世界神經網絡全局效率呈減小趨勢；在仿真時間的
內，網絡的全局效率趨于穩定。隨著時間的增加，小世界神經網路的全局效率呈現先減小后趨于穩定的趨勢。全局效率和最短路徑長度一樣，表征網絡的信息傳遞效率。全局效率越大，網絡的信息傳遞效率越高。實驗結果表明，小世界神經網絡的信息傳遞效率隨時間的增加而減弱。
3.3.5 小世界屬性
小世界屬性量化了復雜網絡特性，是衡量小世界網絡的基準。小世界神經網絡的小世界屬性分布如圖 7 所示。由圖 7 得，隨著時間的增加，小世界屬性的整體分布較為穩定且小世界屬性均遠大于 1。實驗結果表明，本文所構建的小世界神經網絡符合小世界特征且網絡特性較為穩定。
3.4 討論
本研究從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。小世界神經網絡的動態特性均隨著時間而變化，動態特性之間也可相互影響。
小世界神經網絡中各神經元的放電特性可影響網絡的突觸權重動態特性。隨著時間的增加，小世界神經網絡中各神經元的放電時刻越來越集中，神經元表現出較好的集群放電特性，即小世界神經網絡的放電趨于同步。突觸權重與突觸前后神經元的脈沖放電時刻間隔相關。小世界神經網絡中各神經元的放電時刻隨著時間的增加越來越集中，即突觸前后神經元的脈沖放電間隔減小，導致突觸權重受放電時刻間隔的影響較小，突觸權重趨于最小值分布。
小世界神經網絡的突觸權重動態變化也可影響小世界神經網絡的復雜網絡特性，具體分析如下：
（1）小世界神經網絡的平均度是所有關聯節點之間的突觸權值總和的平均值。各神經元間的突觸權重隨時間的增加急劇減小最終呈最小值分布，導致小世界神經網絡的平均度也隨時間的增加而減小且變化幅度較大。
（2）小世界神經網絡的平均聚類系數是神經元的鄰居間互為鄰居的可能，衡量網絡的集團化程度。突觸權重調控各神經元之間的連接關系，而神經元間的突觸權重主要分布在最小值區域，導致網絡中各神經元間的連接關系受突觸權重的調控較小，即網絡的聚類特性較為穩定。
（3）小世界神經網絡的平均最短路徑長度和全局效率度量網絡的信息傳遞效率。最短路徑長度越短，網絡全局效率越高，則網絡中各神經元間傳遞信息的速率就越快。突觸權重隨著時間的增加而減小，導致網絡的連接減弱，即信息從一個神經元到另一個神經元的最短距離變長，網絡的全局效率減小，各神經元間傳遞信息的效率降低。
（4）小世界神經網絡的小世界屬性量化了復雜網絡特性，是網絡普遍具有的統計性質。突觸權重隨著時間的增加而減小，使得各神經元間的連接關系受突觸權重的調控較小，進而導致網絡的整體網絡特性較為穩定，即小世界屬性分布較為穩定。
4 總結
本研究首先基于 WS 小世界模型生成了小世界網絡并基于復雜網絡理論選擇出適合于小世界網絡的最佳參數，進而以 Izhikevich 神經元模型作為網絡的節點，以突觸可塑性調節機制作為節點之間的連接，以小世界網絡的拓撲作為網絡的基礎構建了小世界神經網絡，并從放電特性、突觸權重動態特性和復雜網絡特性三個方面分析了小世界神經網絡的動態特性。從放電特性方面分析：隨著時間的增加，小世界神經網絡中的興奮性與抑制性神經元的放電模式沒有改變且抑制性神經元的放電頻率高于興奮性神經元，各神經元的放電時刻越來越集中，即同步性顯著提高，最終達到完全同步。從突觸權重動態特性方面分析：隨著時間的增加，小世界神經網絡中各神經元的突觸權重急劇減小，最后趨于最小值分布。從復雜網絡特性方面分析：隨著時間的增加，小世界神經網絡的平均度急劇減小，即網絡的連接減弱；平均聚類系數基本保持不變，即網絡的信息傳遞能力穩定；平均最短路徑長度提高，全局效率減小，代表網絡的信息傳遞效率減弱；同時，小世界屬性較為穩定。小世界神經網絡的動態特性均隨著時間變化，動態特性之間也可相互影響。小世界神經網絡的放電同步特性可影響突觸權重趨于最小值分布，進而突觸權重的動態變化也可影響復雜網絡特性。基于已構建的小世界神經網絡和動態特性分析，本研究將進一步開展不同外部刺激下的小世界神經網絡的編碼和抗干擾研究，為腦科學的研究以及人工神經網絡的工程應用奠定基礎。
