計(jì)算機(jī)理論論文智能算法綜述
《計(jì)算機(jī)理論論文智能算法綜述》由會(huì)員分享,可在線(xiàn)閱讀,更多相關(guān)《計(jì)算機(jī)理論論文智能算法綜述(6頁(yè)珍藏版)》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、 智能算法綜述 摘要:隨著機(jī)技術(shù)的飛速,智能計(jì)算的領(lǐng)域也越來(lái)越廣泛,本文介紹了當(dāng)前存在的1些智能計(jì)算方法,闡述了其工作原理和特點(diǎn),同時(shí)對(duì)智能計(jì)算方法的發(fā)展進(jìn)行了展望。 關(guān)鍵詞:人工神經(jīng)遺傳算法模擬退火算法群集智能蟻群算法粒子群算 1什么是智能算法 智能計(jì)算也有人稱(chēng)之為“軟計(jì)算”,是們受(生物界)的啟迪,根據(jù)其原理,模仿求解的算法。從自然界得到啟迪,模仿其結(jié)構(gòu)進(jìn)行發(fā)明創(chuàng)造,這就是仿生學(xué)。這是我們向自然界的1個(gè)方面。另1方面,我們還可以利用仿生原理進(jìn)行設(shè)計(jì)(包括設(shè)計(jì)算法),這就是智能計(jì)算的思想。這方面的很多,如人工神經(jīng)網(wǎng)絡(luò)技術(shù)、遺
2、傳算法、模擬退火算法、模擬退火技術(shù)和群集智能技術(shù)等。 2人工神經(jīng)網(wǎng)絡(luò)算法 “人工神經(jīng)網(wǎng)絡(luò)”(ARTIFICIALNEURALNETWORK,簡(jiǎn)稱(chēng)ANN)是在對(duì)人腦組織結(jié)構(gòu)和運(yùn)行機(jī)制的認(rèn)識(shí)理解基礎(chǔ)之上模擬其結(jié)構(gòu)和智能行為的1種工程系統(tǒng)。早在本世紀(jì)40年代初期,心家McCulloch、數(shù)學(xué)家Pitts就提出了人工神經(jīng)網(wǎng)絡(luò)的第1個(gè)數(shù)學(xué)模型,從此開(kāi)創(chuàng)了神經(jīng)的。其后,F(xiàn)Rosenblatt、Widrow和J.J.Hopfield等學(xué)者又先后提出了感知模型,使得人工神經(jīng)網(wǎng)絡(luò)技術(shù)得以蓬勃發(fā)展。 神經(jīng)系統(tǒng)的基本構(gòu)造是神經(jīng)元(神經(jīng)細(xì)胞),它是處理人體內(nèi)各部分之間相互信息傳遞的基本單元。據(jù)神經(jīng)生物學(xué)家
3、研究的結(jié)果表明,人的1個(gè)大腦1般有1010~1011個(gè)神經(jīng)元。每個(gè)神經(jīng)元都由1個(gè)細(xì)胞體,1個(gè)連接其他神經(jīng)元的軸突和1些向外伸出的其它較短分支——樹(shù)突組成。軸突的功能是將本神經(jīng)元的輸出信號(hào)(興奮)傳遞給別的神經(jīng)元。其末端的許多神經(jīng)末梢使得興奮可以同時(shí)傳送給多個(gè)神經(jīng)元。樹(shù)突的功能是接受來(lái)自其它神經(jīng)元的興奮。神經(jīng)元細(xì)胞體將接受到的所有信號(hào)進(jìn)行簡(jiǎn)單處理(如:加權(quán)求和,即對(duì)所有的輸入信號(hào)都加以考慮且對(duì)每個(gè)信號(hào)的重視程度——體現(xiàn)在權(quán)值上——有所不同)后由軸突輸出。神經(jīng)元的樹(shù)突與另外的神經(jīng)元的神經(jīng)末梢相連的部分稱(chēng)為突觸。 2.1人工神經(jīng)網(wǎng)絡(luò)的特點(diǎn) 人工神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元廣泛互連而成的系統(tǒng),它的
4、這1結(jié)構(gòu)特點(diǎn)決定著人工神經(jīng)網(wǎng)絡(luò)具有高速信息處理的能力。人腦的每個(gè)神經(jīng)元大約有103~104個(gè)樹(shù)突及相應(yīng)的突觸,1個(gè)人的大腦總計(jì)約形成1014~1015個(gè)突觸。用神經(jīng)網(wǎng)絡(luò)的術(shù)語(yǔ)來(lái)說(shuō),即是人腦具有1014~1015個(gè)互相連接的存儲(chǔ)潛力。雖然每個(gè)神經(jīng)元的運(yùn)算功能10分簡(jiǎn)單,且信號(hào)傳輸速率也較低(大約100次/秒),但由于各神經(jīng)元之間的極度并行互連功能,最終使得1個(gè)普通人的大腦在約1秒內(nèi)就能完成現(xiàn)行計(jì)算機(jī)至少需要數(shù)10億次處理步驟才能完成的任務(wù)。 人工神經(jīng)網(wǎng)絡(luò)的知識(shí)存儲(chǔ)容量很大。在神經(jīng)網(wǎng)絡(luò)中,知識(shí)與信息的存儲(chǔ)表現(xiàn)為神經(jīng)元之間分布式的物理聯(lián)系。它分散地表示和存儲(chǔ)于整個(gè)網(wǎng)絡(luò)內(nèi)的各神經(jīng)元及其連線(xiàn)上。每個(gè)
5、神經(jīng)元及其連線(xiàn)只表示1部分信息,而不是1個(gè)完整具體概念。只有通過(guò)各神經(jīng)元的分布式綜合效果才能表達(dá)出特定的概念和知識(shí)。 由于人工神經(jīng)網(wǎng)絡(luò)中神經(jīng)元個(gè)數(shù)眾多以及整個(gè)網(wǎng)絡(luò)存儲(chǔ)信息容量的巨大,使得它具有很強(qiáng)的不確定性信息處理能力。即使輸入信息不完全、不準(zhǔn)確或模糊不清,神經(jīng)網(wǎng)絡(luò)仍然能夠聯(lián)想思維存在于記憶中的事物的完整圖象。只要輸入的模式接近于訓(xùn)練樣本,系統(tǒng)就能給出正確的推理結(jié)論。 正是因?yàn)槿斯ど窠?jīng)網(wǎng)絡(luò)的結(jié)構(gòu)特點(diǎn)和其信息存儲(chǔ)的分布式特點(diǎn),使得它相對(duì)于其它的判斷識(shí)別系統(tǒng),如:專(zhuān)家系統(tǒng)等,具有另1個(gè)顯著的優(yōu)點(diǎn):健壯性。生物神經(jīng)網(wǎng)絡(luò)不會(huì)因?yàn)閭€(gè)別神經(jīng)元的損失而失去對(duì)原有模式的記憶。最有力的證明是,當(dāng)1個(gè)人的
6、大腦因意外事故受輕微損傷之后,并不會(huì)失去原有事物的全部記憶。人工神經(jīng)網(wǎng)絡(luò)也有類(lèi)似的情況。因某些原因,無(wú)論是網(wǎng)絡(luò)的硬件實(shí)現(xiàn)還是軟件實(shí)現(xiàn)中的某個(gè)或某些神經(jīng)元失效,整個(gè)網(wǎng)絡(luò)仍然能繼續(xù)工作。 人工神經(jīng)網(wǎng)絡(luò)是1種非線(xiàn)性的處理單元。只有當(dāng)神經(jīng)元對(duì)所有的輸入信號(hào)的綜合處理結(jié)果超過(guò)某1門(mén)限值后才輸出1個(gè)信號(hào)。因此神經(jīng)網(wǎng)絡(luò)是1種具有高度非線(xiàn)性的超大規(guī)模連續(xù)時(shí)間動(dòng)力學(xué)系統(tǒng)。它突破了傳統(tǒng)的以線(xiàn)性處理為基礎(chǔ)的數(shù)字計(jì)算機(jī)的局限,標(biāo)志著人們智能信息處理能力和模擬人腦智能行為能力的1大飛躍。 2.2幾種典型神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介 2.2.1多層感知網(wǎng)絡(luò)(誤差逆?zhèn)鞑ド窠?jīng)網(wǎng)絡(luò)) 在1986年以Rumelhart和McCe
7、lland為首的科學(xué)家出版的《ParallelDistributedProcessing》1書(shū)中,完整地提出了誤差逆?zhèn)鞑W(xué)習(xí)算法,并被廣泛接受。多層感知網(wǎng)絡(luò)是1種具有3層或3層以上的階層型神經(jīng)網(wǎng)絡(luò)。典型的多層感知網(wǎng)絡(luò)是3層、前饋的階層網(wǎng)絡(luò),即:輸入層I、隱含層(也稱(chēng)中間層)J和輸出層K。相鄰層之間的各神經(jīng)元實(shí)現(xiàn)全連接,即下1層的每1個(gè)神經(jīng)元與上1層的每個(gè)神經(jīng)元都實(shí)現(xiàn)全連接,而且每層各神經(jīng)元之間無(wú)連接。 但BP網(wǎng)并不是10分的完善,它存在以下1些主要缺陷:學(xué)習(xí)收斂速度太慢、網(wǎng)絡(luò)的學(xué)習(xí)記憶具有不穩(wěn)定性,即:當(dāng)給1個(gè)訓(xùn)練好的網(wǎng)提供新的學(xué)習(xí)記憶模式時(shí),將使已有的連接權(quán)值被打亂,導(dǎo)致已記憶的學(xué)習(xí)模式
8、的信息的消失。 2.2.2競(jìng)爭(zhēng)型(KOHONEN)神經(jīng)網(wǎng)絡(luò) 它是基于人的視網(wǎng)膜及大腦皮層對(duì)剌激的反應(yīng)而引出的。神經(jīng)生物學(xué)的研究結(jié)果表明:生物視網(wǎng)膜中,有許多特定的細(xì)胞,對(duì)特定的圖形(輸入模式)比較敏感,并使得大腦皮層中的特定細(xì)胞產(chǎn)生大的興奮,而其相鄰的神經(jīng)細(xì)胞的興奮程度被抑制。對(duì)于某1個(gè)輸入模式,通過(guò)競(jìng)爭(zhēng)在輸出層中只激活1個(gè)相應(yīng)的輸出神經(jīng)元。許多輸入模式,在輸出層中將激活許多個(gè)神經(jīng)元,從而形成1個(gè)反映輸入數(shù)據(jù)的“特征圖形”。競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)是1種以無(wú)教師方式進(jìn)行網(wǎng)絡(luò)訓(xùn)練的網(wǎng)絡(luò)。它通過(guò)自身訓(xùn)練,自動(dòng)對(duì)輸入模式進(jìn)行分類(lèi)。競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)及其學(xué)習(xí)規(guī)則與其它類(lèi)型的神經(jīng)網(wǎng)絡(luò)和學(xué)習(xí)規(guī)則相比,有其自己
9、的鮮明特點(diǎn)。在網(wǎng)絡(luò)結(jié)構(gòu)上,它既不象階層型神經(jīng)網(wǎng)絡(luò)那樣各層神經(jīng)元之間只有單向連接,也不象全連接型網(wǎng)絡(luò)那樣在網(wǎng)絡(luò)結(jié)構(gòu)上沒(méi)有明顯的層次界限。它1般是由輸入層(模擬視網(wǎng)膜神經(jīng)元)和競(jìng)爭(zhēng)層(模擬大腦皮層神經(jīng)元,也叫輸出層)構(gòu)成的兩層網(wǎng)絡(luò)。兩層之間的各神經(jīng)元實(shí)現(xiàn)雙向全連接,而且網(wǎng)絡(luò)中沒(méi)有隱含層。有時(shí)競(jìng)爭(zhēng)層各神經(jīng)元之間還存在橫向連接。競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)的基本思想是網(wǎng)絡(luò)競(jìng)爭(zhēng)層各神經(jīng)元競(jìng)爭(zhēng)對(duì)輸入模式的響應(yīng)機(jī)會(huì),最后僅有1個(gè)神經(jīng)元成為競(jìng)爭(zhēng)的勝者,并且只將與獲勝神經(jīng)元有關(guān)的各連接權(quán)值進(jìn)行修正,使之朝著更有利于它競(jìng)爭(zhēng)的方向調(diào)整。神經(jīng)網(wǎng)絡(luò)工作時(shí),對(duì)于某1輸入模式,網(wǎng)絡(luò)中與該模式最相近的學(xué)習(xí)輸入模式相對(duì)應(yīng)的競(jìng)爭(zhēng)層神經(jīng)元將有最
10、大的輸出值,即以競(jìng)爭(zhēng)層獲勝神經(jīng)元來(lái)表示分類(lèi)結(jié)果。這是通過(guò)競(jìng)爭(zhēng)得以實(shí)現(xiàn)的,實(shí)際上也就是網(wǎng)絡(luò)回憶聯(lián)想的過(guò)程。 除了競(jìng)爭(zhēng)的方法外,還有通過(guò)抑制手段獲取勝利的方法,即網(wǎng)絡(luò)競(jìng)爭(zhēng)層各神經(jīng)元抑制所有其它神經(jīng)元對(duì)輸入模式的響應(yīng)機(jī)會(huì),從而使自己“脫穎而出”,成為獲勝神經(jīng)元。除此之外還有1種稱(chēng)為側(cè)抑制的方法,即每個(gè)神經(jīng)元只抑制與自己鄰近的神經(jīng)元,而對(duì)遠(yuǎn)離自己的神經(jīng)元不抑制。這種方法常常用于圖象邊緣處理,解決圖象邊緣的缺陷問(wèn)題。 競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)的缺點(diǎn)和不足:因?yàn)樗鼉H以輸出層中的單個(gè)神經(jīng)元代表某1類(lèi)模式。所以1旦輸出層中的某個(gè)輸出神經(jīng)元損壞,則導(dǎo)致該神經(jīng)元所代表的該模式信息全部丟失。 2.2.3Hopfi
11、eld神經(jīng)網(wǎng)絡(luò) 1986年美國(guó)物理學(xué)家J.J.Hopfield陸續(xù)發(fā)表幾篇論文,提出了Hopfield神經(jīng)網(wǎng)絡(luò)。他利用非線(xiàn)性動(dòng)力學(xué)系統(tǒng)理論中的能量函數(shù)方法研究反饋人工神經(jīng)網(wǎng)絡(luò)的穩(wěn)定性,并利用此方法建立求解優(yōu)化計(jì)算問(wèn)題的系統(tǒng)方程式?;镜腍opfield神經(jīng)網(wǎng)絡(luò)是1個(gè)由非線(xiàn)性元件構(gòu)成的全連接型單層反饋系統(tǒng)。 網(wǎng)絡(luò)中的每1個(gè)神經(jīng)元都將自己的輸出通過(guò)連接權(quán)傳送給所有其它神經(jīng)元,同時(shí)又都接收所有其它神經(jīng)元傳遞過(guò)來(lái)的信息。即:網(wǎng)絡(luò)中的神經(jīng)元t時(shí)刻的輸出狀態(tài)實(shí)際上間接地與自己的t-1時(shí)刻的輸出狀態(tài)有關(guān)。所以Hopfield神經(jīng)網(wǎng)絡(luò)是1個(gè)反饋型的網(wǎng)絡(luò)。其狀態(tài)變化可以用差分方程來(lái)表征。反饋型網(wǎng)絡(luò)的1個(gè)
12、重要特點(diǎn)就是它具有穩(wěn)定狀態(tài)。當(dāng)網(wǎng)絡(luò)達(dá)到穩(wěn)定狀態(tài)的時(shí)候,也就是它的能量函數(shù)達(dá)到最小的時(shí)候。這里的能量函數(shù)不是物理意義上的能量函數(shù),而是在表達(dá)形式上與物理意義上的能量概念1致,表征網(wǎng)絡(luò)狀態(tài)的變化趨勢(shì),并可以依據(jù)Hopfield工作運(yùn)行規(guī)則不斷進(jìn)行狀態(tài)變化,最終能夠達(dá)到的某個(gè)極小值的目標(biāo)函數(shù)。網(wǎng)絡(luò)收斂就是指能量函數(shù)達(dá)到極小值。如果把1個(gè)最優(yōu)化問(wèn)題的目標(biāo)函數(shù)轉(zhuǎn)換成網(wǎng)絡(luò)的能量函數(shù),把問(wèn)題的變量對(duì)應(yīng)于網(wǎng)絡(luò)的狀態(tài),那么Hopfield神經(jīng)網(wǎng)絡(luò)就能夠用于解決優(yōu)化組合問(wèn)題。 對(duì)于同樣結(jié)構(gòu)的網(wǎng)絡(luò),當(dāng)網(wǎng)絡(luò)參數(shù)(指連接權(quán)值和閥值)有所變化時(shí),網(wǎng)絡(luò)能量函數(shù)的極小點(diǎn)(稱(chēng)為網(wǎng)絡(luò)的穩(wěn)定平衡點(diǎn))的個(gè)數(shù)和極小值的大小也將變化
13、。因此,可以把所需記憶的模式設(shè)計(jì)成某個(gè)確定網(wǎng)絡(luò)狀態(tài)的1個(gè)穩(wěn)定平衡點(diǎn)。若網(wǎng)絡(luò)有M個(gè)平衡點(diǎn),則可以記憶M個(gè)記憶模式。 當(dāng)網(wǎng)絡(luò)從與記憶模式較靠近的某個(gè)初始狀態(tài)(相當(dāng)于發(fā)生了某些變形或含有某些噪聲的記憶模式,也即:只提供了某個(gè)模式的部分信息)出發(fā)后,網(wǎng)絡(luò)按Hopfield工作運(yùn)行規(guī)則進(jìn)行狀態(tài)更新,最后網(wǎng)絡(luò)的狀態(tài)將穩(wěn)定在能量函數(shù)的極小點(diǎn)。這樣就完成了由部分信息的聯(lián)想過(guò)程。 Hopfield神經(jīng)網(wǎng)絡(luò)的能量函數(shù)是朝著梯度減小的方向變化,但它仍然存在1個(gè)問(wèn)題,那就是1旦能量函數(shù)陷入到局部極小值,它將不能自動(dòng)跳出局部極小點(diǎn),到達(dá)全局最小點(diǎn),因而無(wú)法求得網(wǎng)絡(luò)最優(yōu)解。 $False$
14、 3遺傳算法 遺傳算法(GeneticAlgorithms)是基于生物進(jìn)化的原理起來(lái)的1種廣為的、高效的隨機(jī)搜索與優(yōu)化的。其主要特點(diǎn)是群體搜索策略和群體中個(gè)體之間的信息交換,搜索不依賴(lài)于梯度信息。它是在70年代初期由美國(guó)密執(zhí)根(Michigan)大學(xué)的霍蘭(Holland)教授發(fā)展起來(lái)的。1975年霍蘭教授發(fā)表了第1本比較系統(tǒng)論述遺傳算法的專(zhuān)著《系統(tǒng)與人工系統(tǒng)中的適應(yīng)性》(《AdaptationinNaturalandArtificialSystems》)。遺傳算法最初被的出發(fā)點(diǎn)不是為專(zhuān)門(mén)解決最優(yōu)化而設(shè)計(jì)的,它與進(jìn)化策略、進(jìn)化規(guī)劃共同構(gòu)成了進(jìn)化算法的主要框架,都是為當(dāng)時(shí)人工智能的發(fā)展服
15、務(wù)的。迄今為止,遺傳算法是進(jìn)化算法中最廣為人知的算法。 近幾年來(lái),遺傳算法主要在復(fù)雜優(yōu)化問(wèn)題求解和工程領(lǐng)域應(yīng)用方面,取得了1些令人信服的結(jié)果,所以引起了很多人的關(guān)注。在發(fā)展過(guò)程中,進(jìn)化策略、進(jìn)化規(guī)劃和遺傳算法之間差異越來(lái)越小。遺傳算法成功的應(yīng)用包括:作業(yè)調(diào)度與排序、可靠性設(shè)計(jì)、車(chē)輛路徑選擇與調(diào)度、成組技術(shù)、設(shè)備布置與分配、問(wèn)題等等。 3.1特點(diǎn) 遺傳算法是解決搜索問(wèn)題的1種通用算法,對(duì)于各種通用問(wèn)題都可以使用。搜索算法的共同特征為:①首先組成1組候選解;②依據(jù)某些適應(yīng)性條件測(cè)算這些候選解的適應(yīng)度;③根據(jù)適應(yīng)度保留某些候選解,放棄其他候選解;④對(duì)保留的候選解進(jìn)行某些操作,生成新的候選
16、解。在遺傳算法中,上述幾個(gè)特征以1種特殊的方式組合在1起:基于染色體群的并行搜索,帶有猜測(cè)性質(zhì)的選擇操作、交換操作和突變操作。這種特殊的組合方式將遺傳算法與其它搜索算法區(qū)別開(kāi)來(lái)。 遺傳算法還具有以下幾方面的特點(diǎn): (1)遺傳算法從問(wèn)題解的串集開(kāi)始嫂索,而不是從單個(gè)解開(kāi)始。這是遺傳算法與傳統(tǒng)優(yōu)化算法的極大區(qū)別。傳統(tǒng)優(yōu)化算法是從單個(gè)初始值迭代求最優(yōu)解的;容易誤入局部最優(yōu)解。遺傳算法從串集開(kāi)始搜索,覆蓋面大,利于全局擇優(yōu)。(2)許多傳統(tǒng)搜索算法都是單點(diǎn)搜索算法,容易陷入局部的最優(yōu)解。遺傳算法同時(shí)處理群體中的多個(gè)個(gè)體,即對(duì)搜索空間中的多個(gè)解進(jìn)行評(píng)估,減少了陷入局部最優(yōu)解的風(fēng)險(xiǎn),同時(shí)算法本身易于
17、實(shí)現(xiàn)并行化。 (3)遺傳算法基本上不用搜索空間的知識(shí)或其它輔助信息,而僅用適應(yīng)度函數(shù)值來(lái)評(píng)估個(gè)體,在此基礎(chǔ)上進(jìn)行遺傳操作。適應(yīng)度函數(shù)不僅不受連續(xù)可微的約束,而且其定義域可以任意設(shè)定。這1特點(diǎn)使得遺傳算法的應(yīng)用范圍大大擴(kuò)展。 (4)遺傳算法不是采用確定性規(guī)則,而是采用概率的變遷規(guī)則來(lái)指導(dǎo)他的搜索方向。 (5)具有自組織、自適應(yīng)和自性。遺傳算法利用進(jìn)化過(guò)程獲得的信息自行組織搜索時(shí),硬度大的個(gè)體具有較高的生存概率,并獲得更適應(yīng)環(huán)境的基因結(jié)構(gòu)。 3.2運(yùn)用領(lǐng)域 前面描述是簡(jiǎn)單的遺傳算法模型,可以在這1基本型上加以改進(jìn),使其在和工程領(lǐng)域得到廣泛應(yīng)用。下面列舉了1些遺傳算法的應(yīng)用領(lǐng)域:
18、①優(yōu)化:遺傳算法可用于各種優(yōu)化問(wèn)題。既包括數(shù)量?jī)?yōu)化問(wèn)題,也包括組合優(yōu)化問(wèn)題。②程序設(shè)計(jì):遺傳算法可以用于某些特殊任務(wù)的機(jī)程序設(shè)計(jì)。③機(jī)器學(xué)習(xí):遺傳算法可用于許多機(jī)器學(xué)習(xí)的應(yīng)用,包括分類(lèi)問(wèn)題和預(yù)測(cè)問(wèn)題等。④學(xué):應(yīng)用遺傳算法對(duì)經(jīng)濟(jì)創(chuàng)新的過(guò)程建立模型,可以研究投標(biāo)的策略,還可以建立市場(chǎng)競(jìng)爭(zhēng)的模型。⑤免疫系統(tǒng):應(yīng)用遺傳算法可以對(duì)自然界中免疫系統(tǒng)的多個(gè)方面建立模型,研究個(gè)體的生命過(guò)程中的突變現(xiàn)象以及發(fā)掘進(jìn)化過(guò)程中的基因資源。⑥進(jìn)化現(xiàn)象和學(xué)習(xí)現(xiàn)象:遺傳算法可以用來(lái)研究個(gè)體是如何學(xué)習(xí)生存技巧的,1個(gè)物種的進(jìn)化對(duì)其他物種會(huì)產(chǎn)生何種等等。⑦經(jīng)濟(jì)問(wèn)題:遺傳算法可以用來(lái)研究社會(huì)系統(tǒng)中的各種演化現(xiàn)象,例如在1個(gè)多主體
19、系統(tǒng)中,協(xié)作與交流是如何演化出來(lái)的。 4模擬退火算法 模擬退火算法來(lái)源于固體退火原理,將固體加溫至充分高,再讓其徐徐冷卻,加溫時(shí),固體內(nèi)部粒子隨溫升變?yōu)闊o(wú)序狀,內(nèi)能增大,而徐徐冷卻時(shí)粒子漸趨有序,在每個(gè)溫度都達(dá)到平衡態(tài),最后在常溫時(shí)達(dá)到基態(tài),內(nèi)能減為最小。根據(jù)Metropolis準(zhǔn)則,粒子在溫度T時(shí)趨于平衡的概率為e-ΔE/(kT),其中E為溫度T時(shí)的內(nèi)能,ΔE為其改變量,k為Boltzmann常數(shù)。用固體退火模擬組合優(yōu)化問(wèn)題,將內(nèi)能E模擬為目標(biāo)函數(shù)值f,溫度T演化成控制參數(shù)t,即得到解組合優(yōu)化問(wèn)題的模擬退火算法:由初始解i和控制參數(shù)初值t開(kāi)始,對(duì)當(dāng)前解重復(fù)“產(chǎn)生新解→計(jì)算目標(biāo)函數(shù)差→
20、接受或舍棄”的迭代,并逐步衰減t值,算法終止時(shí)的當(dāng)前解即為所得近似最優(yōu)解,這是基于蒙特卡羅迭代求解法的1種啟發(fā)式隨機(jī)搜索過(guò)程。退火過(guò)程由冷卻進(jìn)度表(CoolingSchedule)控制,包括控制參數(shù)的初值t及其衰減因子Δt、每個(gè)t值時(shí)的迭代次數(shù)L和停止條件S。 5群體(群集)智能(SwarmIntelligence) 受社會(huì)性昆蟲(chóng)行為的啟發(fā),計(jì)算機(jī)工作者通過(guò)對(duì)社會(huì)性昆蟲(chóng)的模擬產(chǎn)生了1系列對(duì)于傳統(tǒng)問(wèn)題的新的解決方法,這些研究就是群集智能的研究。群集智能(SwarmIntelligence)中的群體(Swarm)指的是“1組相互之間可以進(jìn)行直接通信或者間接通信(通過(guò)改變局部環(huán)境)的主體,這
21、組主體能夠合作進(jìn)行分布問(wèn)題求解”。而所謂群集智能指的是“無(wú)智能的主體通過(guò)合作表現(xiàn)出智能行為的特性”。群集智能在沒(méi)有集中控制并且不提供全局模型的前提下,為尋找復(fù)雜的分布式問(wèn)題的解決方案提供了基礎(chǔ)。 群集智能的特點(diǎn)和優(yōu)點(diǎn):群體中相互合作的個(gè)體是分布式的(Distributed),這樣更能夠適應(yīng)當(dāng)前環(huán)境下的工作狀態(tài);沒(méi)有中心的控制與數(shù)據(jù),這樣的系統(tǒng)更具有魯棒性(Robust),不會(huì)由于某1個(gè)或者某幾個(gè)個(gè)體的故障而影響整個(gè)問(wèn)題的求解??梢圆煌ㄟ^(guò)個(gè)體之間直接通信而是通過(guò)非直接通信(Stimergy)進(jìn)行合作,這樣的系統(tǒng)具有更好的可擴(kuò)充性(Scalability)。由于系統(tǒng)中個(gè)體的增加而增加的系統(tǒng)的通
22、信開(kāi)銷(xiāo)在這里10分小。系統(tǒng)中每個(gè)個(gè)體的能力10分簡(jiǎn)單,這樣每個(gè)個(gè)體的執(zhí)行時(shí)間比較短,并且實(shí)現(xiàn)也比較簡(jiǎn)單,具有簡(jiǎn)單性(Simplicity)。因?yàn)榫哂羞@些優(yōu)點(diǎn),雖說(shuō)群集智能的研究還處于初級(jí)階段,并且存在許多困難,但是可以預(yù)言群集智能的研究代表了以后計(jì)算機(jī)研究發(fā)展的1個(gè)重要方向。 在計(jì)算智能(ComputationalIntelligence)領(lǐng)域有兩種基于群智能的算法,蟻群算法(AntColonyOptimization)和粒子群算 法(ParticleSwarmOptimization),前者是對(duì)螞蟻群落食物采集過(guò)程的模擬,已經(jīng)成功運(yùn)用在很多離散優(yōu)化問(wèn)題上。 5.1蟻群優(yōu)
23、化算法 受螞蟻覓食時(shí)的通信機(jī)制的啟發(fā),90年代Dorigo提出了蟻群優(yōu)化算法(AntColonyOptimization,ACO)來(lái)解決計(jì)算機(jī)算法學(xué)中經(jīng)典的“貨郎擔(dān)問(wèn)題”。如果有n個(gè)城市,需要對(duì)所有n個(gè)城市進(jìn)行訪(fǎng)問(wèn)且只訪(fǎng)問(wèn)1次的最短距離。 在解決貨郎擔(dān)問(wèn)題時(shí),蟻群優(yōu)化算法設(shè)計(jì)虛擬的“螞蟻”將摸索不同路線(xiàn),并留下會(huì)隨時(shí)間逐漸消失的虛擬“信息素”。虛擬的“信息素”也會(huì)揮發(fā),每只螞蟻每次隨機(jī)選擇要走的路徑,它們傾向于選擇路徑比較短的、信息素比較濃的路徑。根據(jù)“信息素較濃的路線(xiàn)更近”的原則,即可選擇出最佳路線(xiàn)。由于這個(gè)算法利用了正反饋機(jī)制,使得較短的路徑能夠有較大的機(jī)會(huì)得到選擇,并且由于采用了
24、概率算法,所以它能夠不局限于局部最優(yōu)解。 蟻群優(yōu)化算法對(duì)于解決貨郎擔(dān)問(wèn)題并不是最好的方法,但首先,它提出了1種解決貨郎擔(dān)問(wèn)題的新思路;其次由于這種算法特有的解決方法,它已經(jīng)被成功用于解決其他組合優(yōu)化問(wèn)題,例如圖的著色(GraphColoring)以及最短超串(ShortestCommonSupersequence)等問(wèn)題。 5.2粒子群優(yōu)化算法 粒子群優(yōu)化算法(PSO)是1種進(jìn)化計(jì)算技術(shù)(EvolutionaryComputation),有Eberhart博士和Kennedy博士發(fā)明。源于對(duì)鳥(niǎo)群捕食的行為研究。 PSO同遺傳算法類(lèi)似,是1種基于疊代的優(yōu)化工具。系統(tǒng)初始化為1組隨
25、機(jī)解,通過(guò)疊代搜尋最優(yōu)值。但是并沒(méi)有遺傳算法用的交叉(crossover)以及變異(mutation)。而是粒子在解空間追隨最優(yōu)的粒子進(jìn)行搜索。 同遺傳算法比較,PSO的優(yōu)勢(shì)在于簡(jiǎn)單容易實(shí)現(xiàn)并且沒(méi)有許多參數(shù)需要調(diào)整。目前已廣泛應(yīng)用于函數(shù)優(yōu)化,神經(jīng)網(wǎng)絡(luò)訓(xùn)練,模糊系統(tǒng)控制以及其他遺傳算法的應(yīng)用領(lǐng)域。 粒子群優(yōu)化算法(PSO)也是起源對(duì)簡(jiǎn)單社會(huì)系統(tǒng)的模擬,最初設(shè)想是模擬鳥(niǎo)群覓食的過(guò)程,但后來(lái)發(fā)現(xiàn)PSO是1種很好的優(yōu)化工具。 5.2.1算法介紹 PSO模擬鳥(niǎo)群的捕食行為。1群鳥(niǎo)在隨機(jī)搜索食物,在這個(gè)區(qū)域里只有1塊食物。所有的鳥(niǎo)都不知道食物在那里。但是他們知道當(dāng)前的位置離食物還有多遠(yuǎn)。那
26、么找到食物的最優(yōu)策略是什么呢。最簡(jiǎn)單有效的就是搜尋目前離食物最近的鳥(niǎo)的周?chē)鷧^(qū)域。 PSO從這種模型中得到啟示并用于解決優(yōu)化問(wèn)題。PSO中,每個(gè)優(yōu)化問(wèn)題的解都是搜索空間中的1只鳥(niǎo)。我們稱(chēng)之為“粒子”。所有的粒子都有1個(gè)由被優(yōu)化的函數(shù)決定的適應(yīng)值(fitnessvalue),每個(gè)粒子還有1個(gè)速度決定他們飛翔的方向和距離。然后粒子們就追隨當(dāng)前的最優(yōu)粒子在解空間中搜索。 PSO初始化為1群隨機(jī)粒子(隨機(jī)解),然后通過(guò)疊代找到最優(yōu)解,在每1次疊代中,粒子通過(guò)跟蹤兩個(gè)“極值”來(lái)更新自己。第1個(gè)就是粒子本身所找到的最優(yōu)解,這個(gè)解叫做個(gè)體極值pBest,另1個(gè)極值是整個(gè)種群目前找到的最優(yōu)解,這個(gè)極值是
27、全局極值gBest。另外也可以不用整個(gè)種群而只是用其中1部分最優(yōu)粒子的鄰居,那么在所有鄰居中的極值就是局部極值。 5.2.2PSO算法過(guò)程 ①種群隨機(jī)初始化。 ②對(duì)種群內(nèi)的每1個(gè)個(gè)體計(jì)算適應(yīng)值(fitnessvalue)。適應(yīng)值與最優(yōu)解的距離直接有關(guān)。 ③種群根據(jù)適應(yīng)值進(jìn)行復(fù)制。 ④如果終止條件滿(mǎn)足的話(huà),就停止,否則轉(zhuǎn)步驟②。 從以上步驟,我們可以看到PSO和遺傳算法有很多共同之處。兩者都隨機(jī)初始化種群,而且都使用適應(yīng)值來(lái)評(píng)價(jià)系統(tǒng),而且都根據(jù)適應(yīng)值來(lái)進(jìn)行1定的隨機(jī)搜索。兩個(gè)系統(tǒng)都不是保證1定找到最優(yōu)解。但是,PSO沒(méi)有遺傳操作如交叉(crossover)和變異(muta
28、tion),而是根據(jù)自己的速度來(lái)決定搜索。粒子還有1個(gè)重要的特點(diǎn),就是有記憶。 與遺傳算法比較,PSO的信息共享機(jī)制是很不同的。在遺傳算法中,染色體(chromosomes)互相共享信息,所以整個(gè)種群的移動(dòng)是比較均勻的向最優(yōu)區(qū)域移動(dòng)。在PSO中,只有g(shù)Best(orlBest)給出信息給其他的粒子,這是單向的信息流動(dòng)。整個(gè)搜索更新過(guò)程是跟隨當(dāng)前最優(yōu)解的過(guò)程。與遺傳算法比較,在大多數(shù)的情況下,所有的粒子可能更快的收斂于最優(yōu)解。 現(xiàn)在已經(jīng)有1些利用PSO代替反向傳播算法來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)的論文。研究表明PSO是1種很有潛力的神經(jīng)網(wǎng)絡(luò)算法,同時(shí)PSO速度比較快而且可以得到比較好的結(jié)果。 6展
29、望 目前的智能計(jì)算研究水平暫時(shí)還很難使“智能機(jī)器”真正具備人類(lèi)的常識(shí),但智能計(jì)算將在21世紀(jì)蓬勃發(fā)展。不僅僅只是功能模仿要持有信息機(jī)理1致的觀(guān)點(diǎn)。即人工腦與生物腦將不只是功能模仿,而是具有相同的特性。這兩者的結(jié)合將開(kāi)辟1個(gè)全新的領(lǐng)域,開(kāi)辟很多新的研究方向。智能計(jì)算將探索智能的新概念,新理論,新方法和新技術(shù),而這1切將在以后的發(fā)展中取得重大成就。 “Ant-ColonyOptimizationAlgorithms(ACO)”, http://leanair4.mit.edu/docushare/dscgi/ds.py/Get/File-378/RG_EE141_W8ACO.pd
30、f [2]“Swarmintelligence-whatisitandwhyisitinteresting” http://www.micro.caltech.edu/Courses/EE150/dungeon/Week1/OH_W1SwarmIntel.pdf [3]TonyWhite,“SwarmIntelligence:AGentleIntroductionWithApplication”, http://www.sce.carleton.ca/netmanage/tony/swarm-presentation/index.htm [4]胡守仁等.神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].長(zhǎng)沙:國(guó)防大學(xué)出版社,1993.113~117. [5]姚新,陳國(guó)良,徐惠敏等.進(jìn)化算法研究進(jìn)展[J].計(jì)算機(jī)學(xué)報(bào),1995,18(9):694-706. [6]張曉,戴冠中,徐乃平.1種新的優(yōu)化搜索算法—遺傳算法.控制理論與應(yīng)用[J].1995,12(3):265-273. [7]楊志英.BP神經(jīng)網(wǎng)絡(luò)在水質(zhì)評(píng)價(jià)中的應(yīng)用[J].水利水電,2001,9:27-29. 
- 溫馨提示:
1: 本站所有資源如無(wú)特殊說(shuō)明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
2: 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶(hù)所有。
3.本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒(méi)有圖紙預(yù)覽就沒(méi)有圖紙。
4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
5. 裝配圖網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶(hù)上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶(hù)上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶(hù)因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。
最新文檔
- 財(cái)務(wù)管理第六講 營(yíng)運(yùn)資金管理
- 地圖上的方向
- 地形和表示地形的地圖
- 1讓我們蕩起雙槳講解
- 北師大版二下《美麗的植物園》
- 第六章裝飾裝修工程事故分析與處理
- 審方藥師與藥學(xué)診斷-反沖力課件
- 學(xué)生公寓宿舍設(shè)計(jì)規(guī)劃
- 品質(zhì)管理基礎(chǔ)知識(shí)培訓(xùn)課件
- 自行車(chē)上的簡(jiǎn)單機(jī)械
- 會(huì)計(jì)準(zhǔn)則與會(huì)計(jì)規(guī)范
- 美國(guó)大熔爐_英語(yǔ)學(xué)習(xí)_外語(yǔ)學(xué)習(xí)_教育專(zhuān)區(qū)課件
- 手機(jī)證券精準(zhǔn)營(yíng)銷(xiāo)方案
- 第六章績(jī)效管理概述
- 課題3制取氧氣