支持多集群數(shù)據(jù)并行的On-demand文件傳輸算法
本文選題:多集群 + 目的端并行; 參考:《計算機科學(xué)》2013年03期
【摘要】:數(shù)據(jù)密集型應(yīng)用通常需要在廣域網(wǎng)分布式共享計算環(huán)境中高效地傳輸海量數(shù)據(jù)。并行處理中,大量的數(shù)據(jù)需要在生成集群、存儲集群、處理集群間進行傳輸。針對該傳輸問題提出了一個支持多集群數(shù)據(jù)并行傳輸?shù)陌葱栉募䝼鬏斔惴?On-demand File Transfer),該算法以批量傳輸請求的整體完成時間最小為目的,根據(jù)集群內(nèi)部快速傳輸?shù)奶攸c,實現(xiàn)目的端并行,分散單個節(jié)點的傳輸負載;在傳輸路徑上,采用多重路徑和多跳路徑分割方法實現(xiàn)并行傳輸。對于批量傳輸請求,依據(jù)每個請求的傳輸負載,全局按需分配帶寬,以解決傳輸路徑的帶寬沖突,從而充分利用當前網(wǎng)絡(luò)帶寬,快速傳輸批量傳輸請求。
[Abstract]:Data intensive applications usually need to transmit mass data efficiently in WAN distributed shared computing environment. In parallel processing, a large amount of data needs to be transferred between generating clusters, storing clusters, and processing clusters. To solve this problem, an on-demand File transfer algorithm for multi-cluster data parallel transmission is proposed. The algorithm aims at minimizing the overall completion time of batch transmission requests, and according to the characteristics of fast transmission within the cluster. In the transmission path, the multi-path and multi-hop paths are used to realize the parallel transmission. For batch transmission request, according to the transmission load of each request, the bandwidth is allocated according to the global demand to solve the bandwidth conflict of the transmission path, so as to make full use of the current network bandwidth and transmit the batch transmission request quickly.
【作者單位】: 吉林大學(xué)計算機科學(xué)與技術(shù)學(xué)院;
【分類號】:TP393.093;TP338.6
【相似文獻】
相關(guān)期刊論文 前10條
1 鐘漢如;葉家威;;基于RS485的PC與ARM間文件傳輸?shù)膶崿F(xiàn)[J];微計算機信息;2008年05期
2 郭訓(xùn)平;;端點防護 按需出牌[J];軟件世界;2007年17期
3 郭一凡;EPSON打印機的按需打印(ODP)理念[J];電子出版;2002年05期
4 ;網(wǎng)鉆LandAttach NAS 4150按需存儲[J];計算機與網(wǎng)絡(luò);2003年08期
5 建;激打“按需打印”[J];中國計算機用戶;1999年23期
6 ;泰克推崇按需打印[J];每周電腦報;1998年11期
7 李志峰;利用紅外線端口進行文件傳輸[J];微電腦世界;1999年21期
8 ;高效率 低成本——實達POD按需打印解決方案[J];華南金融電腦;2001年11期
9 張永路;服務(wù)也要“按需定制”[J];中國計算機用戶;2002年10期
10 鄭瑋;;按需使用落在實處[J];每周電腦報;2003年07期
相關(guān)會議論文 前1條
1 劉子林;巫正中;周長生;韓起;;基于Linux的網(wǎng)絡(luò)傳感器遠程通信實現(xiàn)[A];2005通信理論與技術(shù)新進展——第十屆全國青年通信學(xué)術(shù)會議論文集[C];2005年
相關(guān)重要報紙文章 前10條
1 本報記者 張彤;按需擴展[N];網(wǎng)絡(luò)世界;2003年
2 ;實達POD按需打印解決方案[N];中國計算機報;2002年
3 本報記者 郭平;超前“消費”休矣[N];計算機世界;2002年
4 記者 郭見洌;低電壓移動 Athlon XP-M“按需”而來[N];計算機世界;2003年
5 郭濤;將“按需擴展”進行到底[N];中國計算機報;2003年
6 邊歆;按需部署 靈活安全[N];網(wǎng)絡(luò)世界;2009年
7 趙鑫;按需增長的數(shù)據(jù)備份[N];中國計算機報;2003年
8 三石;藍色巨人逼近“按需存儲”[N];中國計算機報;2004年
9 天然;新施樂解決方案為全彩色按需圖書制作提供方便[N];中國包裝報;2002年
10 ;惠普按需供應(yīng)解決方案:所求即所得[N];計算機世界;2003年
相關(guān)博士學(xué)位論文 前1條
1 陳彬;分布環(huán)境下虛擬機按需部署關(guān)鍵技術(shù)研究[D];國防科學(xué)技術(shù)大學(xué);2010年
相關(guān)碩士學(xué)位論文 前9條
1 劉冰;集群環(huán)境下的文件調(diào)度優(yōu)化研究[D];太原理工大學(xué);2012年
2 趙霄;基于單片機的藍牙接口設(shè)計及數(shù)據(jù)傳輸?shù)膶崿F(xiàn)[D];北京交通大學(xué);2008年
3 董楊生;USB主機在嵌入式系統(tǒng)中的應(yīng)用[D];南京理工大學(xué);2008年
4 武曉燕;基于嵌入式系統(tǒng)的語音、文件及消息網(wǎng)絡(luò)傳輸實現(xiàn)[D];天津大學(xué);2012年
5 胡明;Ethernet Over USB的原理及其實現(xiàn)[D];東南大學(xué);2005年
6 沈琦;基于Chord的高性能文件存儲技術(shù)的研究與設(shè)計[D];浙江大學(xué);2007年
7 楊斌;基于網(wǎng)格的分布式存儲系統(tǒng)中數(shù)據(jù)分布和傳輸機制研究與實現(xiàn)[D];北京交通大學(xué);2008年
8 蔡暉;PASS系統(tǒng)的起源信息收集及傳播的研究[D];浙江大學(xué);2008年
9 徐彥棟;基于DICOM標準的按需打印系統(tǒng)設(shè)計和實現(xiàn)[D];上海交通大學(xué);2012年
,本文編號:1903677
本文鏈接:http://sikaile.net/guanlilunwen/ydhl/1903677.html