《并行體系結(jié)構(gòu)的發(fā)展之路oweroinrese》由會員分享，可在線閱讀，更多相關(guān)《并行體系結(jié)構(gòu)的發(fā)展之路oweroinrese（43頁珍藏版）》請?jiān)谘b配圖網(wǎng)上搜索。

1、,單擊此處編輯母版文本樣式,第二級,第三級,第四級,第五級,*,單擊此處編輯母版標(biāo)題樣式,并行體系結(jié)構(gòu)的發(fā)展之路,033327 王慶齡,032116 宋佳思,目錄,引言,并行計(jì)算機(jī)發(fā)展的推動力,并行體系結(jié)構(gòu)的分類,并行體系結(jié)構(gòu)的發(fā)展過程,并行體系結(jié)構(gòu)的展望,引言,并行計(jì)算機(jī)的定義,體系結(jié)構(gòu)巨大變化,CPU性能發(fā)展,軟硬件技術(shù)進(jìn)步,并行計(jì)算機(jī)發(fā)展的推動力,科學(xué)與工程計(jì)算領(lǐng)域?qū)Σ⑿杏?jì)算能力的要求總是永無止境的。,計(jì)算機(jī)技術(shù)、網(wǎng)絡(luò)技術(shù)的迅速發(fā)展及其對經(jīng)濟(jì)與生活影響的日益深入,并行計(jì)算機(jī)體系結(jié)構(gòu)的發(fā)展和處理器、存儲器以及網(wǎng)絡(luò)互連技術(shù)的發(fā)展密不可分,計(jì)算機(jī)并行體系結(jié)構(gòu)的分類,Flynn分類法,其弱點(diǎn),計(jì)

2、算機(jī)體系結(jié)構(gòu)的分類,Flynn分類法的擴(kuò)展:,根據(jù)內(nèi)存的物理分布、邏輯映射、讀取方式,可以將MIMD類并行計(jì)算機(jī)系統(tǒng)進(jìn)一步細(xì)分為共享內(nèi)存，虛擬共享內(nèi)存，和分布式內(nèi)存三大類,這三類并行系統(tǒng)所使用的編程模式有共享內(nèi)存和消息傳遞，以及兩種模式同時(shí)使用的混合模式,共享內(nèi)存(UMA/SMP),所有共享內(nèi)存系統(tǒng)的共同特點(diǎn)是：計(jì)算機(jī)系統(tǒng)具有可以被所有處理器直接存取的共享內(nèi)存空間。,由一個(gè)操作系統(tǒng)控制，并且整個(gè)系統(tǒng)僅有一個(gè)地址空間；各個(gè)處理器在內(nèi)存的存取上是平等的，處理器存取每個(gè)內(nèi)存單元的代價(jià)是一致的,虛擬/分布式共享內(nèi)存,內(nèi)存不再是集中位于系統(tǒng)中的某一區(qū)域，而是物理分布在整個(gè)系統(tǒng)中；,這種系統(tǒng)中連接處理器與

3、內(nèi)存的網(wǎng)絡(luò)不再是簡單的、單一的總線/交叉開關(guān)/其他網(wǎng)絡(luò)結(jié)構(gòu)，而是一種分級混合式網(wǎng)絡(luò)結(jié)構(gòu)。,在用戶看來，這種系統(tǒng)具有共享內(nèi)存系統(tǒng)的所有特征。,分布式內(nèi)存,沒有一個(gè)共享的、囊括系統(tǒng)所有物理內(nèi)存的空間。,分布式內(nèi)存系統(tǒng)所使用的編程模式是消息傳遞，系統(tǒng)的任何一個(gè)結(jié)點(diǎn)都具有獨(dú)立的操作系統(tǒng)，能獨(dú)立運(yùn)行,這類系統(tǒng)又被一些人稱為多處理機(jī)系統(tǒng)。,可以進(jìn)一步分為三個(gè)子類：,分布式內(nèi)存系統(tǒng)分類,大規(guī)模并行處理（MPP，Massively Parallel Processing）,指那些使用比較專有的、非大規(guī)模商品化的硬件和軟件，緊耦合的分布式內(nèi)存計(jì)算機(jī)系統(tǒng)；,分布,式,式內(nèi),存,存系,統(tǒng),統(tǒng)分,類,類,Beowul

4、f集,群,群,它的,每,每個(gè),處,處理,結(jié),結(jié)點(diǎn),都,都使,用,用量,產(chǎn),產(chǎn)的,商,商用,計(jì),計(jì)算,機(jī),機(jī)系,統(tǒng),統(tǒng)，,互,互連,網(wǎng),網(wǎng)絡(luò),也,也使,用,用量,產(chǎn),產(chǎn)的,商,商用LAN/ATM網(wǎng),絡(luò),絡(luò)。,Beowulf集,群,群也,被,被稱,為,為工,作,作站,集,集群,（,（COW,，,，ClusterofWorkstations,）,），,或,或者,工,工作,站,站網(wǎng),絡(luò),絡(luò)。,分布,式,式內(nèi),存,存系,統(tǒng),統(tǒng)分,類,類,SMP集,群,群,它的,每,每個(gè),結(jié),結(jié)點(diǎn),都,都是,一,一個(gè)SMP系,統(tǒng),統(tǒng)，,互,互連,網(wǎng),網(wǎng)絡(luò),也,也使,用,用類,似,似Myrinet,的,的高,速,速網(wǎng),絡(luò),

5、絡(luò)。,SMP集,群,群仍,然,然可,以,以適,用,用以MPI（MessagePassingInterface）,為,為代,表,表的,消,消息,傳,傳遞,編,編程,模,模式,。,。,另外,，,，,集,集群,較,較之Beowulf集,群,群，,可,可以,支,支持,以,以MPI+OpenMP為,代,代表,的,的混,合,合編,程,程模,式,式。,并行,體,體系,結(jié),結(jié)構(gòu),的,的發(fā),展,展過,程,程,60,年,年代,初,初期,主要,是,是共,享,享存,儲,儲多,處,處理,器,器系,統(tǒng),統(tǒng),當(dāng)時(shí),的,的IBMSystem360是,這,這一,時(shí),時(shí)期,的,的典,型,型代,表,表。,（,（下,圖,圖IBMSy

6、stem360,）,）,IBMSystem360,并行,體,體系,結(jié),結(jié)構(gòu),的,的發(fā),展,展過,程,程,伊利,諾,諾依,大,大學(xué),和,和Burroughs,公,公司,此,此時(shí),開,開始,了,了IlliacIV,計(jì),計(jì)劃,。,。,當(dāng)一,臺,臺規(guī),模,模大,大,大縮,小,小了,的,的16CPU系,統(tǒng),統(tǒng)終,于,于在1975,年,年出,現(xiàn),現(xiàn)時(shí),，,，整,個(gè),個(gè)計(jì),算,算機(jī),界,界已,經(jīng),經(jīng)發(fā),生,生了,巨,巨大,的,的變,化,化。,并行,體,體系,結(jié),結(jié)構(gòu),的,的發(fā),展,展過,程,程,首先,是,是存,儲,儲系,統(tǒng),統(tǒng)概,念,念的,徹,徹底,革,革新,。,。虛,擬,擬存,儲,儲和,緩,緩存,的,的普

7、,遍,遍應(yīng),用,用。IBM360/85,系,系統(tǒng),與,與360/91反,映,映了,這,這一,時(shí),時(shí)期,的,的主,要,要變,化,化（,上,上圖360/91，,下,下圖360/85,）,）,并行,體,體系,結(jié),結(jié)構(gòu),的,的發(fā),展,展過,程,程,其次,是,是半,導(dǎo),導(dǎo)體,存,存儲,器,器開,始,始代,替,替磁,芯,芯存,儲,儲器,。,。CDC7600,（,（,下,下圖CDC7600,）,）,率,率先,全,全面,采,采用,半,半導(dǎo),體,體存,儲,儲器,，,，磁,芯,芯存,儲,儲器,從,從此,退,退出,了,了歷,史,史舞,臺,臺。,與,此,此,同,同,時(shí),時(shí),，,，,集,集,成,成,電,電,路,路,也,

8、也,出,出,現(xiàn),現(xiàn),了,了,并,行,行,體,體,系,系,結(jié),結(jié),構(gòu),構(gòu),的,的,發(fā),發(fā),展,展,過,過,程,程,1976,年,年CRAY1,問,問,世,世,以,以,后,后,，,，,向,向,量,量,計(jì),計(jì),算,算,機(jī),機(jī),從,從,此,此,牢,牢,牢,牢,地,地,控,控,制,制,著,著,整,整,個(gè),個(gè),高,高,性,性,能,能,計(jì),計(jì),算,算,機(jī),機(jī),市,市,場,場,。,。,并,行,行,體,體,系,系,結(jié),結(jié),構(gòu),構(gòu),的,的,發(fā),發(fā),展,展,過,過,程,程,微,處,處,理,理,器,器,的,的,出,出,現(xiàn),現(xiàn),則,則,使,使,并,并,行,行,計(jì),計(jì),算,算,機(jī),機(jī),的,的,體,體,系,系,結(jié),結(jié),構(gòu),

9、構(gòu),邁,邁,出,出,了,了,另,另,一,一,大,大,步,步,。,。,卡,卡,內(nèi),內(nèi),基,基,梅,梅,隆,隆,大,大,學(xué),學(xué),開,開,始,始,進(jìn),進(jìn),行,行,共,共,享,享,存,存,儲,儲,多,多,處,處,理,理,器,器,系,系,統(tǒng),統(tǒng),的,的,研,研,究,究,。,。C.mmp,就,就,是,是,這,這,一,一,研,研,究,究,的,的,具,具,體,體,成,成,果,果,。,。,（,（,下,下,圖,圖C.mmp,）,）,并,行,行,體,體,系,系,結(jié),結(jié),構(gòu),構(gòu),的,的,發(fā),發(fā),展,展,過,過,程,程,80,年,年,代,代,稍,稍,后,后,出,出,現(xiàn),現(xiàn),了,了,非,非,常,常,適,適,合,合,于,于

10、SMP,方,方,式,式,的,的,總,總,線,線,協(xié),協(xié),議,議,，,，,而,而,伯,伯,克,克,利,利,加,加,州,州,大,大,學(xué),學(xué),則,則,擴(kuò),擴(kuò),展,展,性,性,地,地,提,提,出,出,了,了Cache,一,一,致,致,性,性,問,問,題,題,的,的,處,處,理,理,方,方,案,案,。,。,同,一,一,時(shí),時(shí),期,期,，,，,基,基,于,于,消,消,息,息,傳,傳,遞,遞,機(jī),機(jī),制,制,的,的,并,并,行,行,計(jì),計(jì),算,算,機(jī),機(jī),也,也,開,開,始,始,不,不,斷,斷,涌,涌,現(xiàn),現(xiàn),。,。,例,例,如,如InteliPSC,系,系,列,列,（,（,下,下,圖,圖InteliPSC

11、,）,）,并,行,行,體,體,系,系,結(jié),結(jié),構(gòu),構(gòu),的,的,發(fā),發(fā),展,展,過,過,程,程,向,量,量,計(jì),計(jì),算,算,機(jī),機(jī),漸,漸,漸,漸,衰,衰,落,落,下,下,去,去,了,了,。,。,數(shù),數(shù),據(jù),據(jù),并,并,行,行,方,方,式,式,到,到,了,了80,年,年,代,代,中,中,期,期,又,又,開,開,始,始,逐,逐,漸,漸,復(fù),復(fù),興,興,。,。,并,行,行,體,體,系,系,結(jié),結(jié),構(gòu),構(gòu),的,的,發(fā),發(fā),展,展,過,過,程,程,80,年,年,代,代,末,末90,年,年,代,代,初,初,，,，,共,共,享,享,存,存,儲,儲,器,器,方,方,式,式,的,的,大,大,規(guī),規(guī),模,模,并,

12、并,行,行,計(jì),計(jì),算,算,機(jī),機(jī),又,又,獲,獲,得,得,了,了,新,新,的,的,發(fā),發(fā),展,展,。,。,90,年,年,代,代,以,以,來,來,，,，,主,主,要,要,的,的,幾,幾,種,種,體,體,系,系,結(jié),結(jié),構(gòu),構(gòu),開,開,始,始,走,走,向,向,融,融,合,合,。,。,不,過,過,，,，IBM,近,近,年,年,來,來,大,大,獲,獲,成,成,功,功,的,的SP1,、,、SP2,系,系,列,列,機(jī),機(jī),群,群,系,系,統(tǒng),統(tǒng),走,走,的,的,則,則,是,是,另,另,外,外,一,一,條,條,路,路,線,線,。,。,面,面,向,向,的,的,是,是,通,通,用,用,的,的,應(yīng),應(yīng),用,用,

13、領(lǐng),領(lǐng),域,域,并行體,系,系結(jié)構(gòu),展,展望,目前的,并,并行計(jì),算,算機(jī)系,統(tǒng),統(tǒng)則主,要,要有四,類,類:,第一類,是,是多向,量,量處理,系,系統(tǒng),如,如CrayYMP90、NECSX3和FujitsuVP2000等;,第二類,是,是基于,共,共享存,儲,儲的多,處,處理機(jī),（,（SMP）系,統(tǒng),統(tǒng),如SGIPowerChallenge、曙,光,光1號,等,等;,第三類,是,是基于,分,分布存,儲,儲的大,規(guī),規(guī)模并,行,行處理(MPP)系,統(tǒng),統(tǒng),如IntelParagon、IBMSP2,、,、曙光1000等；,第四類,是,是基于RISC工作,站,站或高,檔,檔微機(jī),通,通過高,速,速

14、互連,網(wǎng),網(wǎng)絡(luò)連,接,接而構(gòu),成,成的機(jī),群,群計(jì)算,機(jī),機(jī)系統(tǒng),，,，如清,華,華同方,探,探索集,群,群計(jì)算,機(jī),機(jī)等。,并行體,系,系結(jié)構(gòu),展,展望,實(shí)現(xiàn)上,述,述第一,和,和第三,類,類系統(tǒng),由,由于受,研,研制費(fèi),用,用高、,售,售價(jià)高,等,等因素,的,的影響,其市,場,場受到,一,一定的,限,限制。,第二類,系,系統(tǒng)由,于,于共享,結(jié),結(jié)構(gòu)的,限,限制,系,系統(tǒng)的,規(guī),規(guī)模不,可,可能很,大,大。,由于機(jī),群,群系統(tǒng),計(jì),計(jì)算機(jī),具,具有投,資,資風(fēng)險(xiǎn),小,小、可,擴(kuò),擴(kuò)展性,好,好、可,繼,繼承現(xiàn),有,有軟硬,件,件資源,和,和開發(fā),周,周期短,、,、可編,程,程性好,等,等特點(diǎn)

15、,，,，目前,已,已成為,并,并行處,理,理的熱,點(diǎn),點(diǎn)和主,流,流。這,種,種發(fā)展,趨,趨勢也,恰,恰好符,合,合了專,家,家對最,高,高水平,的,的計(jì)算,機(jī),機(jī)技術(shù),做,做過的,預(yù),預(yù)測。,機(jī)群系,統(tǒng),統(tǒng)研究,目前國,內(nèi),內(nèi)外許,多,多科研,機(jī),機(jī)構(gòu)都,在,在對機(jī),群,群系統(tǒng),下,下的通,信,信技術(shù),進(jìn),進(jìn)行深,入,入的研,究,究，下,表,表中列,舉,舉了在,機(jī),機(jī)群系,統(tǒng),統(tǒng)中實(shí),現(xiàn),現(xiàn)的幾,種,種經(jīng)典,的,的通信,子,子系統(tǒng),。,。,機(jī)群系,統(tǒng),統(tǒng)研究,目前，,機(jī),機(jī)群系,統(tǒng),統(tǒng)大多,數(shù),數(shù)采用,商,商用高,性,性能工,作,作站或,高,高檔PC，結(jié),點(diǎn),點(diǎn)的運(yùn),算,算速度,問,問題不,

16、是,是很突,出,出，因,而,而主要,的,的研究,方,方面是,在,在提高,系,系統(tǒng)的,并,并行效,率,率，使,系,系統(tǒng)的,使,使用更,為,為方便,上,上，包,括,括建立,高,高效的,通,通信系,統(tǒng),統(tǒng)，有,效,效地管,理,理全局,資,資源和,提,提供友,好,好的并,行,行應(yīng)用,程,程序開,發(fā),發(fā)環(huán)境,等,等。,機(jī)群系,統(tǒng),統(tǒng)之所,以,以能夠,從,從技術(shù),可,可能發(fā),展,展到實(shí),際,際應(yīng)用,主,主要是,它,它與傳,統(tǒng),統(tǒng)的并,行,行處理,系,系統(tǒng)相,比,比有以,下,下幾個(gè),明,明顯的,特,特點(diǎn)：,機(jī)群系,統(tǒng),統(tǒng)研究,系統(tǒng)開,發(fā),發(fā)周期,短,短。,用戶投,資,資風(fēng)險(xiǎn),小,小。,系統(tǒng)價(jià),格,格低。,節(jié)約系,統(tǒng),統(tǒng)資源,。,。,系統(tǒng)擴(kuò),展,展性好,用戶編,程,程方便,機(jī)群系,統(tǒng),統(tǒng)研究,跟傳統(tǒng),的,的RISC小,型,型機(jī)或,者,者由普,通,通的PC服務(wù),器,器群比,較,較，機(jī),群,群的優(yōu),勢,勢主要,體,體現(xiàn)在,以,以下幾,個(gè),個(gè)方面,：,：,機(jī)群系,統(tǒng),統(tǒng),整體框,架,架,曙光機(jī),群,群系統(tǒng),結(jié),結(jié)構(gòu),曙光4000L面向,網(wǎng),網(wǎng)格和HPC,機(jī)群系,統(tǒng),統(tǒng),方案,機(jī)群系,統(tǒng),統(tǒng)研究,今后幾,年,