全局優化RBF網絡的一種新算法
張剛林,甘 敏,董學平,陳威兵
長沙學院電子與通信工程系,湖南長沙
合肥工業大學電氣與自動化工程學院,安徽合肥
摘 要:神經網絡的輸入變量、隱含層結點以及中心的選擇對模型的性能都有重大的影響,以前的研究一般只考慮優化網絡的參數或其結點數。為解決這個問題,提出了一種新的全局優化算法來自動選擇RBF神經網絡的輸入變量和結點數目,并同時優化其參數。在提出的算法中,RBF網絡的結點數目、輸入變量的選擇和參數都采用二進制編碼,并用遺傳算法來優化。為提高算法的性能和收斂速度,在遺傳算法優化的同時引入了一種高性能的基于梯度的局部搜索算子(結構化的非線性參數優化方法)來優化RBF網絡中的參數。BoxJenkins煤氣爐標準時間序列的預測問題被用來檢驗算法的性能。實驗結果表明,提出的算法可以得到非常“緊湊”的RBF網絡,且其性能優于其他一些算法。
關 鍵 詞:RBF神經網絡;遺傳算法;混合優化方法
1 引 言
RBF網絡自從由Broomhead和Lowe[1]引入到人工神經網絡以來一直是學術界研究和應用的熱點。由于其簡單的結構、非線性逼近的精度和快速學習的能力被廣泛地應用于模式識別、函數逼近、信號處理和時間序列預測等領域[25]。應用RBF神經網絡的一個難點是如何選擇網絡結構,優化模型參數,以及輸入層中的輸入變量選擇。當前,把“軟計算” (softcomputing)的多種方法相混合被認為是很有前景的研究領域。特別是用遺傳算法來優化神經網絡已在大量的研究論文中出現[6]。然而,以前的一些研究絕大多數都只是優化RBF網絡的參數,或其結點數。對于同時選擇結點數目,模型參數以及輸入變量在國內外還是很鮮見的。以往的研究[78]表明,輸入結點、隱含結點以及中心的選擇對模型的性能都有重大的影響。為解決以上問題,本文提出了一種新的算法來同時優化RBF網絡的結構和參數。在這種方法中RBF網絡的結點數目、輸入變量的選擇和參數都采用二進制編碼,并用遺傳算法來優化。為提高算法的性能和加速收斂,新算法引入了一種高性能的基于梯度的局部搜索算子[10]來優化RBF網絡中的參數。實驗結果表明新算法可以得到非常“緊湊” 的模型,且性能優于現存的其他一些算法。
相關閱讀:
- ...· Efinix® 全力驅動AI邊緣計算,成功推出Trion™ T20 FPGA樣品, 同時將產品擴展到二十萬邏輯單元的T200 FPGA
- ...· 英飛凌亮相進博會,引領智慧新生活
- ...· 三電產品開發及測試研討會北汽新能源專場成功舉行
- ...· Manz亞智科技跨入半導體領域 為面板級扇出型封裝提供化學濕制程、涂布及激光應用等生產設備解決方案
- ...· 中電瑞華BITRODE動力電池測試系統順利交付北汽新能源
- ...· 中電瑞華FTF系列電池測試系統中標北京新能源汽車股份有限公司
- ...· 中電瑞華大功率高壓能源反饋式負載系統成功交付中電熊貓
- ...· 中電瑞華國際在電動汽車及關鍵部件測評研討會上演繹先進測評技術