本站小編為你精心準(zhǔn)備了氣象數(shù)據(jù)共享服務(wù)網(wǎng)絡(luò)技術(shù)論文參考范文,愿這些范文能點(diǎn)燃您思維的火花,激發(fā)您的寫(xiě)作靈感。歡迎深入閱讀并收藏。
1P2P技術(shù)的解決方案
1.1P2P傳輸模型在P2P傳輸模型中,各個(gè)節(jié)點(diǎn)所起的作用是對(duì)等的,一個(gè)節(jié)點(diǎn)(同一時(shí)刻)既可以是資源的提供者,也可以是資源的需求者,如圖2所示。P2P技術(shù)將各節(jié)點(diǎn)互相結(jié)合成一個(gè)網(wǎng)絡(luò),共享其間的帶寬、共同處理其中的信息。
1.2P2P協(xié)議P2P技術(shù)發(fā)展至今,產(chǎn)生了許多不同的文件共享協(xié)議,根據(jù)拓?fù)浣Y(jié)構(gòu)的關(guān)系可分為4種形式。(1)以Napster為代表的中心化拓?fù)?,所有?jié)點(diǎn)的位置關(guān)系依然需要中心節(jié)點(diǎn)的參與,可擴(kuò)展性差。(2)以Gnutella為代表的全分布式非結(jié)構(gòu)化拓?fù)洌且环N純粹的P2P網(wǎng)絡(luò),網(wǎng)絡(luò)節(jié)點(diǎn)可以隨意擴(kuò)展,但可靠性較差。(3)以KaZaA為代表的半分布式拓?fù)?,具備一組超級(jí)節(jié)點(diǎn)提供服務(wù),支持復(fù)雜查詢但是可維護(hù)性不高。(4)以BitTorrent為代表的全分布式結(jié)構(gòu)化拓?fù)洌赃m應(yīng)節(jié)點(diǎn)的變化,可擴(kuò)展性、可維護(hù)性好。氣象寬帶網(wǎng)是一個(gè)結(jié)構(gòu)穩(wěn)定的網(wǎng)絡(luò),為了在減小中心節(jié)點(diǎn)壓力的同時(shí)保證網(wǎng)絡(luò)系統(tǒng)的可擴(kuò)展性和可維護(hù)性,最適合采用BitTorrent協(xié)議。另外,BitTorrent協(xié)議采用數(shù)據(jù)塊傳輸機(jī)制,支持?jǐn)帱c(diǎn)續(xù)傳,這種方式能夠保障數(shù)據(jù)的完整性。
1.3P2P技術(shù)的優(yōu)缺點(diǎn)P2P技術(shù)可以充分利用氣象寬帶網(wǎng)MPLS-VPN的網(wǎng)狀結(jié)構(gòu),將中心節(jié)點(diǎn)分發(fā)壓力分?jǐn)偟礁鱾€(gè)節(jié)點(diǎn)上,利用所有節(jié)點(diǎn)的參與實(shí)現(xiàn)數(shù)據(jù)從單數(shù)據(jù)源到多目標(biāo)節(jié)點(diǎn)的共享,如圖3所示,針對(duì)國(guó)家級(jí)節(jié)點(diǎn)A需要向若干省級(jí)節(jié)點(diǎn)(至少大于1)共享數(shù)據(jù),國(guó)家級(jí)節(jié)點(diǎn)會(huì)將數(shù)據(jù)拆分成若干數(shù)據(jù)包,分別傳輸給廣東、湖北、河北3個(gè)省級(jí)節(jié)點(diǎn),然后這3個(gè)節(jié)點(diǎn)再分別進(jìn)行交換傳輸直到數(shù)據(jù)包接收完整。然而,在氣象通信業(yè)務(wù)中直接使用現(xiàn)有的互聯(lián)網(wǎng)P2P軟件存在著一些不足:一是節(jié)點(diǎn)的可控性、可管理性差,網(wǎng)絡(luò)中各個(gè)節(jié)點(diǎn)隨時(shí)可能退出系統(tǒng),共享交換的信息隨時(shí)可能被刪除或者被終止共享;二是節(jié)點(diǎn)間傳輸不可控,容易造成骨干網(wǎng)擁塞、網(wǎng)絡(luò)流量風(fēng)暴等問(wèn)題。
1.4解決方案(1)內(nèi)容可靠性。為了解決傳統(tǒng)P2P傳輸中內(nèi)容可靠性的問(wèn)題,需要融合CDN網(wǎng)絡(luò)[8]的思想,CDN的全稱是ContentDeliveryNetwork,即內(nèi)容分發(fā)網(wǎng)絡(luò)。其目的是通過(guò)在現(xiàn)有的網(wǎng)絡(luò)中增加一層新的網(wǎng)絡(luò)架構(gòu),將中心節(jié)點(diǎn)的內(nèi)容到最接近用戶且服務(wù)能力最好的節(jié)點(diǎn)(即超級(jí)節(jié)點(diǎn)),使用戶可以從超級(jí)節(jié)點(diǎn)取得所需的內(nèi)容,解決網(wǎng)絡(luò)擁塞問(wèn)題,提高用戶訪問(wèn)節(jié)點(diǎn)的響應(yīng)速度。為了將P2P和CDN有機(jī)融合,設(shè)計(jì)了一種基于節(jié)點(diǎn)-服務(wù)器的模型(P2SP):在一個(gè)共享網(wǎng)絡(luò)環(huán)境中,保證有足夠的服務(wù)能力較好的超級(jí)節(jié)點(diǎn)已經(jīng)具備初始數(shù)據(jù)源能力,然后與所有節(jié)點(diǎn)進(jìn)行共享。如圖4所示,當(dāng)國(guó)家級(jí)節(jié)點(diǎn)A需要向各省提供共享數(shù)據(jù)時(shí),首先選擇向國(guó)家級(jí)節(jié)點(diǎn)B和服務(wù)能力較好的北京節(jié)點(diǎn)進(jìn)行數(shù)據(jù)拷貝,生成BitTorrent協(xié)議中的數(shù)據(jù)源,然后由這3個(gè)數(shù)據(jù)源節(jié)點(diǎn)同時(shí)向其他省級(jí)節(jié)點(diǎn)服務(wù),各省級(jí)節(jié)點(diǎn)會(huì)根據(jù)實(shí)際網(wǎng)絡(luò)狀態(tài)選擇優(yōu)先連接的節(jié)點(diǎn)。這樣做的好處在于解決傳統(tǒng)Bit-Torrent協(xié)議可靠性差的問(wèn)題。(2)傳輸控制。為了解決P2P技術(shù)中節(jié)點(diǎn)間傳輸不可控的問(wèn)題,需要在BitTorrent協(xié)議基礎(chǔ)上,在軟件中合理設(shè)置和調(diào)整節(jié)點(diǎn)間傳輸?shù)淖畲笊闲泻拖滦兴俾?,避免網(wǎng)絡(luò)流量風(fēng)暴和擁塞問(wèn)題。
2應(yīng)用實(shí)現(xiàn)
2.1功能組成基于P2P的氣象數(shù)據(jù)共享應(yīng)用主要目標(biāo)是實(shí)現(xiàn)從單一資料源節(jié)點(diǎn)以BitTorrent協(xié)議將資料共享給網(wǎng)絡(luò)中所有的節(jié)點(diǎn)。從邏輯上由以下幾部分構(gòu)成:(1)數(shù)據(jù)服務(wù)器,保存需要共享氣象數(shù)據(jù)的一份原始拷貝,又稱為種子。該數(shù)據(jù)服務(wù)器和業(yè)務(wù)系統(tǒng)存在接口,實(shí)時(shí)獲取并更新種子,氣象數(shù)據(jù)可以按照指定的目錄進(jìn)行存儲(chǔ)。每一組共享傳輸試用特定的P2P通信端口。(2)torrent文件,即種子文件,記載BitTorrent協(xié)議的相關(guān)信息。BitTorrent軟件負(fù)責(zé)制作和生成種子文件,邏輯上把將要共享的數(shù)據(jù)文件重新編排,然后按照議約定的256KB大小進(jìn)行切割,最后將編排和切割后的索引信息存放入torrent文件中。(3)Web服務(wù)器,用于存放和分發(fā)種子文件。(4)Tracker服務(wù)器,保存整個(gè)P2P網(wǎng)絡(luò)信息的中心服務(wù)器。(5)節(jié)點(diǎn)客戶端,負(fù)責(zé)定時(shí)或根據(jù)需要從Web服務(wù)器下載并解析torrent文件,實(shí)現(xiàn)P2P方式數(shù)據(jù)的共享傳輸。節(jié)點(diǎn)客戶端通過(guò)與Tracker服務(wù)器以HTTP協(xié)議進(jìn)行交互,能夠得知網(wǎng)絡(luò)中已下載完成的節(jié)點(diǎn)數(shù)以及正在下載的節(jié)點(diǎn)數(shù),每個(gè)節(jié)點(diǎn)的IP地址和端口號(hào)等。節(jié)點(diǎn)客戶端(A)與另一個(gè)節(jié)點(diǎn)客戶端(B)建立TCP連接過(guò)程如下:A首先向B發(fā)送握手消息,等待B返回相同格式的握手反饋信息,達(dá)到完全握手狀態(tài)。與此同時(shí)每個(gè)節(jié)點(diǎn)客戶端都需要維護(hù)一張所有與自己連接節(jié)點(diǎn)的鏈表。
2.2應(yīng)用流程基于P2SP的氣象數(shù)據(jù)共享應(yīng)用流程如下。(1)中心節(jié)點(diǎn)源數(shù)據(jù)制作并:中心節(jié)點(diǎn)從邏輯上包括數(shù)據(jù)服務(wù)器、Tracker服務(wù)器和WEB服務(wù)器,中心節(jié)點(diǎn)需要將所有需要共享的數(shù)據(jù)組織成torrent文件并到Web服務(wù)器上,如圖5中流程①②③。(2)超級(jí)節(jié)點(diǎn)獲取torrent文件并獲得原始拷貝:中心節(jié)點(diǎn)臨近的超級(jí)節(jié)點(diǎn)會(huì)首先獲得種子文件和完整的共享數(shù)據(jù)從而成為超級(jí)節(jié)點(diǎn)。如圖5中流程④⑤。(3)所有節(jié)點(diǎn)參與共享:各節(jié)點(diǎn)客戶端會(huì)實(shí)時(shí)下載torrent文件并進(jìn)行解析,然后從中心節(jié)點(diǎn)或超級(jí)節(jié)點(diǎn)下載數(shù)據(jù)片段并從其他節(jié)點(diǎn)獲取余下的片段,如圖5中流程⑥⑦⑧。
3業(yè)務(wù)試驗(yàn)和比較
考慮到實(shí)時(shí)氣象業(yè)務(wù)的不可中斷性,不可能在全國(guó)31個(gè)省級(jí)節(jié)點(diǎn)實(shí)際業(yè)務(wù)環(huán)境開(kāi)展大規(guī)模的試驗(yàn)。針對(duì)P2SP技術(shù)在氣象業(yè)務(wù)中應(yīng)用的性能評(píng)估,采用網(wǎng)絡(luò)仿真和小規(guī)模的比較試驗(yàn)成了最佳可供選擇的測(cè)試和驗(yàn)證方法。
3.1可行性模擬驗(yàn)證PeerSim是意大利博洛尼亞大學(xué)開(kāi)發(fā)的基于生物啟發(fā)技術(shù)的P2P模擬器[16]。PeerSim由配置管理器、網(wǎng)絡(luò)拓?fù)鋵?duì)象、結(jié)點(diǎn)對(duì)象、協(xié)議對(duì)象、動(dòng)態(tài)對(duì)象、觀察對(duì)象以及模擬引擎對(duì)象等組成。PeerSim是一個(gè)模擬P2P覆蓋網(wǎng)絡(luò)的軟件,支持結(jié)構(gòu)化和非結(jié)構(gòu)化P2P網(wǎng)絡(luò)模擬。通過(guò)BitTorrent協(xié)議的修改和部署,實(shí)現(xiàn)了基于P2P的仿真試驗(yàn)。使用PeerSim模擬BitTorrent協(xié)議從1個(gè)中心節(jié)點(diǎn)向固定的30個(gè)節(jié)點(diǎn)共享100000KB數(shù)據(jù)的表現(xiàn)情況。100000KB的文件將被拆分成391塊(390×256KB+160KB=100000KB),限制上傳、下載速率不超過(guò)100KB/s。在試驗(yàn)的時(shí)候,為了模擬P2SP場(chǎng)景,隨機(jī)選取了部分節(jié)點(diǎn)作為超級(jí)節(jié)點(diǎn)。試驗(yàn)結(jié)果表明,在1800s內(nèi)這些數(shù)據(jù)完成了全部節(jié)點(diǎn)的共享拷貝。經(jīng)過(guò)10次的模擬,所獲得的試驗(yàn)結(jié)果相似。
3.2性能比較試驗(yàn)為了評(píng)估該應(yīng)用在實(shí)際業(yè)務(wù)中效率以及穩(wěn)定性,搭建了一個(gè)利用中國(guó)氣象局局域網(wǎng)環(huán)境的試驗(yàn)平臺(tái),有針對(duì)性的開(kāi)展一系列試驗(yàn)。由于P2P需要多節(jié)點(diǎn)的參與,因此在試驗(yàn)中除中心節(jié)點(diǎn)外至少選擇2個(gè)節(jié)點(diǎn)參與?,F(xiàn)在國(guó)內(nèi)通信傳輸業(yè)務(wù)比較多的使用AFD,它是一個(gè)自動(dòng)的支持多協(xié)議的本地和遠(yuǎn)程數(shù)據(jù)收發(fā)軟件,在氣象通信系統(tǒng)中目前使用較多的還是AFD的FTP協(xié)議。AFD支持并發(fā)傳輸,因此在進(jìn)行單數(shù)據(jù)源多目標(biāo)節(jié)點(diǎn)分發(fā)時(shí),會(huì)通過(guò)消耗中心節(jié)點(diǎn)的資源獲得傳輸效率。為了使兩種應(yīng)用具備可比性,通過(guò)軟件功能限制中心節(jié)點(diǎn)平均速率,并且AFD的傳輸并發(fā)數(shù)設(shè)置為1,P2SP傳輸應(yīng)用也設(shè)置為1個(gè)TCP連接。(1)數(shù)據(jù)總量對(duì)于傳輸效率的影響。在測(cè)試中選擇文件大小為1MB至300MB的數(shù)據(jù)文件。當(dāng)子節(jié)點(diǎn)個(gè)數(shù)為4時(shí),兩種應(yīng)用傳輸效率結(jié)果如圖6,測(cè)試次數(shù)為3次,結(jié)果取平均值。當(dāng)數(shù)據(jù)量逐步增大時(shí),在中心節(jié)點(diǎn)同等網(wǎng)絡(luò)流量條件(不超過(guò)1MB)下,當(dāng)數(shù)據(jù)文件大于10MB時(shí),P2P應(yīng)用傳輸效率優(yōu)于AFD應(yīng)用。從理論上分析,P2P應(yīng)用通過(guò)子節(jié)點(diǎn)之間的網(wǎng)絡(luò)流量消耗換取了效率的提高。在數(shù)據(jù)總量較小時(shí),由于P2P應(yīng)用還存在節(jié)點(diǎn)相互握手和與Tracker服務(wù)的交互訪問(wèn)導(dǎo)致效率低于AFD應(yīng)用,而當(dāng)傳輸大文件時(shí),P2P應(yīng)用對(duì)提升多節(jié)點(diǎn)互傳的效率起到明顯的作用。(2)節(jié)點(diǎn)個(gè)數(shù)對(duì)于傳輸效率的影響。為了與實(shí)際業(yè)務(wù)場(chǎng)景更接近,進(jìn)行大量小文件在不同節(jié)點(diǎn)數(shù)條件下的傳輸測(cè)試,選擇單個(gè)文件大小在50B~150KB的總大小約28MB的1000個(gè)小文件,這些文件被打散分布在至少3級(jí)層次的目錄中。子節(jié)點(diǎn)個(gè)數(shù)分別設(shè)定為2~6個(gè),將3次測(cè)試的平均結(jié)果記錄在圖7中,可以看出:當(dāng)節(jié)點(diǎn)個(gè)數(shù)逐步增大時(shí),在中心節(jié)點(diǎn)相同網(wǎng)絡(luò)流量條件下(不超過(guò)30KB),AFD應(yīng)用的傳輸時(shí)間成線性增長(zhǎng),而P2P應(yīng)用隨節(jié)點(diǎn)增多產(chǎn)生了明顯的加速效應(yīng)。
3.3小規(guī)模業(yè)務(wù)試用通過(guò)可行性模擬驗(yàn)證和性能比較試驗(yàn),基于P2P的氣象數(shù)據(jù)共享應(yīng)用可以滿足單數(shù)據(jù)源多目標(biāo)節(jié)點(diǎn)的氣象數(shù)據(jù)共享需求,并且在不增加中心節(jié)點(diǎn)資源消耗的情況下隨著數(shù)據(jù)量和目標(biāo)節(jié)點(diǎn)增加,P2P的傳輸效率也隨之提高。考慮實(shí)際業(yè)務(wù)應(yīng)用效果,我們將該應(yīng)用部署在氣象寬帶網(wǎng)的部分省級(jí)節(jié)點(diǎn)上開(kāi)展小規(guī)模業(yè)務(wù)試用。選取北京、四川、河北、廣東、湖北、內(nèi)蒙等省級(jí)節(jié)點(diǎn),在MPLS-VPN網(wǎng)絡(luò)中使用PC服務(wù)器進(jìn)行試驗(yàn),操作系統(tǒng)為SUSELinux,選擇實(shí)時(shí)衛(wèi)星資料進(jìn)行傳輸,各節(jié)點(diǎn)傳輸速率控制在1MB/s內(nèi),試驗(yàn)結(jié)果表明,全部數(shù)據(jù)在150s內(nèi)完成了176MB文件在所有省級(jí)節(jié)點(diǎn)的傳輸。此外,在相同的網(wǎng)絡(luò)環(huán)境下,我們還進(jìn)行了氣候模式數(shù)據(jù)文件的傳輸試驗(yàn),模式數(shù)據(jù)量為2GB,在各節(jié)點(diǎn)傳輸速率控制在1MB/s內(nèi)時(shí),P2P用時(shí)20min完成了全部數(shù)據(jù)在6個(gè)省級(jí)節(jié)點(diǎn)的共享傳輸。而對(duì)于AFD應(yīng)用,采用單線程方式,即使不限制中心節(jié)點(diǎn)傳輸速率,全部共享完所有數(shù)據(jù)耗時(shí)也超過(guò)了1h。利用P2P技術(shù)的一個(gè)附加好處是:不需要對(duì)共享的目錄結(jié)構(gòu)進(jìn)行傳輸配置,因?yàn)镻2P應(yīng)用將所有目錄信息都記錄在torrent文件中,接收端的目錄結(jié)構(gòu)和發(fā)送端的目錄結(jié)構(gòu)在默認(rèn)情況下會(huì)保持一致。而AFD應(yīng)用必須逐一配置指定路徑來(lái)保證資料傳輸?shù)侥繕?biāo)節(jié)點(diǎn)的對(duì)應(yīng)目錄,當(dāng)目錄數(shù)過(guò)大時(shí)容易導(dǎo)致中心節(jié)點(diǎn)配置錯(cuò)誤。
4結(jié)論
為解決單一數(shù)據(jù)源節(jié)點(diǎn)向多目標(biāo)節(jié)點(diǎn)共享傳輸氣象資料業(yè)務(wù)的中心節(jié)點(diǎn)性能瓶頸,設(shè)計(jì)并實(shí)現(xiàn)了一種基于P2SP模式的氣象數(shù)據(jù)共享應(yīng)用,采用BitTorrent協(xié)議以充分利用各節(jié)點(diǎn)間的網(wǎng)絡(luò)資源來(lái)提高傳輸效率。同時(shí),通過(guò)節(jié)點(diǎn)流量控制來(lái)保證整個(gè)傳輸對(duì)網(wǎng)絡(luò)帶寬資源消耗的可控。在單源多目標(biāo)共享場(chǎng)景中,消耗中心節(jié)點(diǎn)相同資源,基于P2P的應(yīng)用效率高于傳統(tǒng)的C/S模式,并且隨著共享節(jié)點(diǎn)數(shù)的增多以及數(shù)據(jù)量的增大,效率的提升越明顯。盡管基于P2P的氣象數(shù)據(jù)共享應(yīng)用在特定場(chǎng)景試驗(yàn)中取得了比較好的結(jié)果,但是氣象實(shí)時(shí)數(shù)據(jù)共享傳輸業(yè)務(wù)是一個(gè)復(fù)雜場(chǎng)景的時(shí)效和安全要求均很高的業(yè)務(wù),P2P的實(shí)際業(yè)務(wù)應(yīng)用仍需要進(jìn)行深入的研究和更廣泛的試驗(yàn),才有可能成為現(xiàn)有業(yè)務(wù)通信傳輸?shù)囊环N有效補(bǔ)充。致謝:感謝北京市、湖北省、河北省、廣東省、內(nèi)蒙古自治區(qū)、四川省等氣象信息相關(guān)單位對(duì)本文研究工作的大力支持。
作者:王甫棣王鵬何恒宏單位:國(guó)家氣象信息中心通信臺(tái)