混沌時間序列的小波神經(jīng)網(wǎng)絡預測方法及其優(yōu)化研究

　　預測是作決策、規(guī)劃之前的必不可少的重要環(huán)節(jié)，是科學決策、規(guī)劃的重要前提?；煦鐣r間序列預測是預測領(lǐng)域內(nèi)的一個重要研究方向?；谛〔ê腿斯ど窠?jīng)網(wǎng)絡的混沌時間序列預測研究是近幾年來的研究熱點，受到了特別的重視。小波神經(jīng)網(wǎng)絡是結(jié)合小波變換理論與人工神經(jīng)網(wǎng)絡的思想而構(gòu)造的一種新的神經(jīng)網(wǎng)絡模型，它結(jié)合了小波變換良好的時頻局域化性質(zhì)及神經(jīng)網(wǎng)絡的自學習功能，因而具有較強的逼近能力和容錯能力。自從小波神經(jīng)網(wǎng)絡被提出以后，它在非線性函數(shù)或信號逼近、信號表示和分類、系統(tǒng)辨識和動態(tài)建模、非平穩(wěn)時間序列預測與分析等許多領(lǐng)域中被較為廣泛地應用。盡管如此，將小波和人工神經(jīng)網(wǎng)絡理論應用到預測還有許多不盡如人意和有待進一步研究的地方，還有很大的研究余地。姜愛萍編著的《混沌時間序列的小波神經(jīng)網(wǎng)絡預測方法及其優(yōu)化研究》對此進行了深入分析和研究，主要研究了小波神經(jīng)網(wǎng)絡的構(gòu)造、學習和優(yōu)化以及小波神經(jīng)網(wǎng)絡在混沌時間序列預測中的應用，構(gòu)建了適應于混沌時間序列短期預測的模型，并將其應用于中國股票價格預測。《混沌時間序列的小波神經(jīng)網(wǎng)絡預測方法及其優(yōu)化研究》主要研究成果與創(chuàng)新點分述如下：（1）用混沌理論及其分析方法對非線性時間序列進行了研究，為混沌時間序列的短期預測性提供了理論基礎(chǔ)。并以上證綜合指數(shù)為例，通過對其進行相空間重構(gòu)，反映了股指序列具有吸引子結(jié)構(gòu)。同時，對股指序列進行了確定性檢驗，求取最大李雅普諾夫指數(shù)。根據(jù)最大李雅普諾夫指數(shù)，確定了上證綜合指數(shù)序列具有混沌特性，這為探求股指變化規(guī)律和正確建立其短期預測模型奠定了基礎(chǔ)。（2）從小波神經(jīng)網(wǎng)絡構(gòu)造理論出發(fā)，詳細介紹了小波神經(jīng)網(wǎng)絡的數(shù)學基礎(chǔ)和性質(zhì)，對目前廣泛應用的四種小波神經(jīng)網(wǎng)絡的結(jié)構(gòu)進行了深入分析，根據(jù)網(wǎng)絡算法、逼近細節(jié)能力、包含頻域信息廣等方面因素，提出多分辨小波神經(jīng)網(wǎng)絡更適合混沌時間序列預測，因為多分辨小波神經(jīng)網(wǎng)絡既能逼近混沌時間序列的整體變化趨勢，又能捕捉細節(jié)的變化。（3）利用相空間重構(gòu)技術(shù)，把消噪后得到的狀態(tài)矢量作為多分辨小波神經(jīng)網(wǎng)絡的多維輸入，構(gòu)建了多維多分辨小波神經(jīng)網(wǎng)絡預測模型，將其應用于混沌時間序列預測，并給出了實現(xiàn)方法。針對多分辨小波神經(jīng)網(wǎng)絡提出了BP和多分辨率學習組合算法，解決了傳統(tǒng)學習算法網(wǎng)絡隱層節(jié)點數(shù)難以確定的問題，克服了BP網(wǎng)絡單尺度學習算法很難學習復雜的時間序列的不足。以上證綜合指數(shù)為例，分別采用具有相同結(jié)構(gòu)的MRA—WNN和RBF_VJNN預測模型對股價時序進行預測，仿真結(jié)果表明，多分辨小波神經(jīng)網(wǎng)絡具有較高的預測精度。（4）給出了小波神經(jīng)網(wǎng)絡的優(yōu)化的兩類非單調(diào)的方法。一類是非單調(diào)的濾子方法，并且證明了該算法是全局收斂到一階臨界點。這個算法不同于傳統(tǒng)的濾子信賴域方法，因為它使用了試探步的切向和法向的分解；也不同于Gould提出的非單調(diào)方法，因為本書提出的非單調(diào)性更為松弛。這使得在不引入二階校正步的情況下改進了濾子方法。同時也不再定義支配區(qū)域的邊界，而直接使用面積，這樣也相應簡化了算法。另一類是非單調(diào)的無罰函數(shù)方法，該方法利用非單調(diào)線搜索和對于約束違反度函數(shù)的可行性恢復階段來達到目標函數(shù)和約束違反度函數(shù)之間的平衡，而非單調(diào)的方法在M一1時是等價于單調(diào)方法的，非單調(diào)方法從M步看來仍然是單調(diào)的。當然，在這種方法中，也可以采用試探步分解的技術(shù)，然后利用濾子來做接受性的檢驗。進一步地，我們還可以將非單調(diào)的濾子方法推廣到一般的約束最小化問題之中，數(shù)值結(jié)果表明這種方法也是可執(zhí)行的且是有效的，并用此兩種方法作為訓練小波神經(jīng)網(wǎng)絡的優(yōu)化新算法。（5）提出將無罰函數(shù)方法與非線性互補問題相結(jié)合用于小波神經(jīng)網(wǎng)絡的優(yōu)化，將互補問題轉(zhuǎn)化為約束優(yōu)化問題，應用約束優(yōu)化問題的策略和技巧對其求解，融入無罰函數(shù)的概念，并得到了算法的收斂性。同時，其數(shù)值結(jié)果也表明這類算法和同類的其他方法比起來更為靈活，且具有更好的數(shù)值效果。（6）提出基于修正的SQP濾子方法的小波神經(jīng)網(wǎng)絡的優(yōu)化，修正了序列二次規(guī)劃子問題，使得二次規(guī)劃子問題在每個迭代處總是可解的，同時不用線搜索，提出了修正的濾子方法。另外，引入積極集策略，減小運算量。當?shù)谝淮蔚玫降乃阉鞣较虿槐粸V子接受時，不是直接舍棄它，而是轉(zhuǎn)而以這個方向為基礎(chǔ)，構(gòu)造另一個可行下降的搜索方向。并在此基礎(chǔ)上加入了線搜索，得到了帶線搜索的濾子方法，其數(shù)值結(jié)果也說明基于修正的SQP濾子方法的小波神經(jīng)網(wǎng)絡的優(yōu)化是有效的。（7）提出基于新的無罰函數(shù)方法的小波神經(jīng)網(wǎng)絡的優(yōu)化，應用NCP函數(shù)把約束優(yōu)化問題轉(zhuǎn)化為非線性非光滑方程的求解問題。運用分裂的思想將其分裂為光滑函數(shù)和非光滑函數(shù)之和，同時將NCP函數(shù)的信息融入了濾子對中，改造了原有的濾子對的形式，最終得到了算法的全局收斂性和局部超線性收斂性。另外，為了求解大規(guī)模問題，結(jié)合積極集策略，提出了積極集濾子方法，得到了非單調(diào)的濾子方法簡化小波神經(jīng)網(wǎng)絡優(yōu)化運算的目的。（8）用全局優(yōu)化方法——填充函數(shù)法研究了小波神經(jīng)網(wǎng)絡的優(yōu)化方法，構(gòu)造了一種新的易于計算的單參數(shù)的填充函數(shù)，不僅證明了新構(gòu)造的函數(shù)具有填充函數(shù)的性質(zhì)，還把填充函數(shù)和BP算法相結(jié)合，提出一種訓練小波神經(jīng)網(wǎng)絡的混合型全局優(yōu)化新算法。（9）在退火遺傳算法的基礎(chǔ)上提出一個新的自適應退火策略，將自適應退火策略用于選擇概率的計算以增強算法的收斂性，在交叉和變異概率的選取上也進行了自適應處理，以進一步改善算法的穩(wěn)定性和收斂性，并將此自適應退火遺傳算法應用于小波神經(jīng)網(wǎng)絡權(quán)值的優(yōu)化。

暫缺《混沌時間序列的小波神經(jīng)網(wǎng)絡預測方法及其優(yōu)化研究》作者簡介