集中式I/O技術(shù)研究及數(shù)據(jù)再分配算法優(yōu)化
發(fā)布時(shí)間:2021-02-16 21:38
本文對集中式I/O技術(shù)進(jìn)行了研究,并在此基礎(chǔ)上討論了如何提高對非連續(xù)數(shù)據(jù)訪問的性能。在許多并行應(yīng)用中,每個(gè)進(jìn)程需要訪問在文件中存放位置不連續(xù)的小塊數(shù)據(jù)。訪問這種不連續(xù)的小塊數(shù)據(jù)需要很多的I/O請求,這樣勢必會(huì)導(dǎo)致并行I/O性能的下降。因此I/O操作已經(jīng)成為了影響并行應(yīng)用程序效率的主要瓶頸。如何對數(shù)據(jù)進(jìn)行組織、存儲以及有效的訪問數(shù)據(jù)成為了迫切需要研究的問題。本文在兩階段I/O的基礎(chǔ)上,針對兩階段I/O中數(shù)據(jù)再分配算法,提出了一個(gè)全新改進(jìn)方案:統(tǒng)計(jì)-執(zhí)行式I/O技術(shù)(statistic-executive I/O)。該方案針對最常見的塊數(shù)據(jù)分布和循環(huán)數(shù)據(jù)分布進(jìn)行了I/O優(yōu)化。我們將并行I/O分為兩個(gè)階段:統(tǒng)計(jì)階段和執(zhí)行階段。在統(tǒng)計(jì)階段,通信模式被計(jì)算出來,并且自動(dòng)生成所需的數(shù)據(jù)類型。這些信息在執(zhí)行階段(執(zhí)行通信和文件存。┍皇褂。這兩個(gè)階段是獨(dú)立的,所以,對于重復(fù)的文件存取模式,統(tǒng)計(jì)階段的計(jì)算可以執(zhí)行一次,計(jì)算的結(jié)果被執(zhí)行階段多次重用。這種策略將統(tǒng)計(jì)階段的開銷分?jǐn)偟搅巳舾蒊/O操作中。在本文中,我們評估統(tǒng)計(jì)-執(zhí)行式I/O技術(shù)的性能,并且與其他不同的集中式I/O技術(shù)進(jìn)行比較。基于按塊分配和按...
【文章來源】:內(nèi)蒙古大學(xué)內(nèi)蒙古自治區(qū) 211工程院校
【文章頁數(shù)】:60 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
目錄
圖表目錄
第一章 緒論
1.1 論文研究背景
1.2 論文研究的內(nèi)容
1.3 論文的結(jié)構(gòu)
第二章 并行I/O技術(shù)概述
2.1 并行I/O研究現(xiàn)狀
2.2 I/O技術(shù)面臨的問題與解決的途徑
2.2.1 I/O技術(shù)面臨的問題
2.2.2 解決的途徑
2.3 并行I/O概述
2.4 并行I/O的結(jié)構(gòu)
2.5 并行文件系統(tǒng)概述
2.5.1 并行文件訪問的特點(diǎn)
2.5.2 并行文件系統(tǒng)現(xiàn)狀
2.6 應(yīng)用程序接口
第三章 MPI消息傳遞并行編程模型
3.1 MPI概述
3.2 典型的MPI實(shí)現(xiàn)
3.3 MPI程序的特點(diǎn)
3.4 面向應(yīng)用的數(shù)據(jù)分配
3.5 MPI-2對并行環(huán)境的I/O實(shí)現(xiàn)的基本方法
第四章 集中式I/O的研究
4.1 非連續(xù)I/O訪問
4.2 非連續(xù)數(shù)據(jù)訪問的實(shí)現(xiàn)方法
4.2.1 數(shù)據(jù)篩選
4.2.2 集中式I/O
4.2.3 列表I/O
4.2.4 視口(View)I/O
4.3 兩階段I/O的實(shí)現(xiàn)
4.3.1 兩階段I/O實(shí)現(xiàn)的思路
4.3.2 實(shí)現(xiàn)兩階段I/O
4.3.3 兩階段I/O中的數(shù)據(jù)分配
第五章 兩階段I/O的實(shí)現(xiàn)與優(yōu)化:統(tǒng)計(jì)-執(zhí)行I/O方法
5.1 統(tǒng)計(jì)-執(zhí)行I/O方法設(shè)計(jì)思路
5.2 統(tǒng)計(jì)-執(zhí)行I/O(SE I/O)概述
5.3 統(tǒng)計(jì)-執(zhí)行方式的集中式I/O算法
5.3.1 數(shù)據(jù)存儲分配
5.3.2 執(zhí)行階段
5.3.3 產(chǎn)生數(shù)據(jù)類型的統(tǒng)計(jì)程序
5.4 實(shí)驗(yàn)結(jié)果
5.4.1 防止已在內(nèi)存或Cache中的數(shù)據(jù)對I/O測試的影響
5.4.2 技術(shù)性能分析和帶寬比較結(jié)果
5.4.3 結(jié)論
第六章 全文總結(jié)及進(jìn)一步的工作
6.1 全文總結(jié)
6.2 進(jìn)一步的工作
參考文獻(xiàn)
致謝
【參考文獻(xiàn)】:
期刊論文
[1]高可用并行文件系統(tǒng)的分布式元數(shù)據(jù)管理[J]. 李勝利,唐維,石柯,程斌,蒙廷友. 應(yīng)用科學(xué)學(xué)報(bào). 2005(03)
[2]基于MPI的并行I/O方法[J]. 李小衛(wèi),羅省賢. 微型機(jī)與應(yīng)用. 2003(03)
[3]MPI2中的并行I/O的使用分析[J]. 劉輝,胡靜,王振飛,李學(xué)相. 計(jì)算機(jī)工程. 2003(02)
碩士論文
[1]并行程序中不同I/O實(shí)現(xiàn)方式的設(shè)計(jì)與I/O性能[D]. 楊偉光.內(nèi)蒙古大學(xué) 2006
本文編號:3036967
【文章來源】:內(nèi)蒙古大學(xué)內(nèi)蒙古自治區(qū) 211工程院校
【文章頁數(shù)】:60 頁
【學(xué)位級別】:碩士
【文章目錄】:
摘要
ABSTRACT
目錄
圖表目錄
第一章 緒論
1.1 論文研究背景
1.2 論文研究的內(nèi)容
1.3 論文的結(jié)構(gòu)
第二章 并行I/O技術(shù)概述
2.1 并行I/O研究現(xiàn)狀
2.2 I/O技術(shù)面臨的問題與解決的途徑
2.2.1 I/O技術(shù)面臨的問題
2.2.2 解決的途徑
2.3 并行I/O概述
2.4 并行I/O的結(jié)構(gòu)
2.5 并行文件系統(tǒng)概述
2.5.1 并行文件訪問的特點(diǎn)
2.5.2 并行文件系統(tǒng)現(xiàn)狀
2.6 應(yīng)用程序接口
第三章 MPI消息傳遞并行編程模型
3.1 MPI概述
3.2 典型的MPI實(shí)現(xiàn)
3.3 MPI程序的特點(diǎn)
3.4 面向應(yīng)用的數(shù)據(jù)分配
3.5 MPI-2對并行環(huán)境的I/O實(shí)現(xiàn)的基本方法
第四章 集中式I/O的研究
4.1 非連續(xù)I/O訪問
4.2 非連續(xù)數(shù)據(jù)訪問的實(shí)現(xiàn)方法
4.2.1 數(shù)據(jù)篩選
4.2.2 集中式I/O
4.2.3 列表I/O
4.2.4 視口(View)I/O
4.3 兩階段I/O的實(shí)現(xiàn)
4.3.1 兩階段I/O實(shí)現(xiàn)的思路
4.3.2 實(shí)現(xiàn)兩階段I/O
4.3.3 兩階段I/O中的數(shù)據(jù)分配
第五章 兩階段I/O的實(shí)現(xiàn)與優(yōu)化:統(tǒng)計(jì)-執(zhí)行I/O方法
5.1 統(tǒng)計(jì)-執(zhí)行I/O方法設(shè)計(jì)思路
5.2 統(tǒng)計(jì)-執(zhí)行I/O(SE I/O)概述
5.3 統(tǒng)計(jì)-執(zhí)行方式的集中式I/O算法
5.3.1 數(shù)據(jù)存儲分配
5.3.2 執(zhí)行階段
5.3.3 產(chǎn)生數(shù)據(jù)類型的統(tǒng)計(jì)程序
5.4 實(shí)驗(yàn)結(jié)果
5.4.1 防止已在內(nèi)存或Cache中的數(shù)據(jù)對I/O測試的影響
5.4.2 技術(shù)性能分析和帶寬比較結(jié)果
5.4.3 結(jié)論
第六章 全文總結(jié)及進(jìn)一步的工作
6.1 全文總結(jié)
6.2 進(jìn)一步的工作
參考文獻(xiàn)
致謝
【參考文獻(xiàn)】:
期刊論文
[1]高可用并行文件系統(tǒng)的分布式元數(shù)據(jù)管理[J]. 李勝利,唐維,石柯,程斌,蒙廷友. 應(yīng)用科學(xué)學(xué)報(bào). 2005(03)
[2]基于MPI的并行I/O方法[J]. 李小衛(wèi),羅省賢. 微型機(jī)與應(yīng)用. 2003(03)
[3]MPI2中的并行I/O的使用分析[J]. 劉輝,胡靜,王振飛,李學(xué)相. 計(jì)算機(jī)工程. 2003(02)
碩士論文
[1]并行程序中不同I/O實(shí)現(xiàn)方式的設(shè)計(jì)與I/O性能[D]. 楊偉光.內(nèi)蒙古大學(xué) 2006
本文編號:3036967
本文鏈接:http://sikaile.net/kejilunwen/jisuanjikexuelunwen/3036967.html
最近更新
教材專著