基于分布式存儲(chǔ)的生態(tài)豬場(chǎng)數(shù)據(jù)管理技術(shù)的應(yīng)用研究
發(fā)布時(shí)間:2021-01-30 12:28
大數(shù)據(jù)管理是智慧和生態(tài)農(nóng)業(yè)的關(guān)鍵技術(shù)之一。傳統(tǒng)的集中式數(shù)據(jù)管理在大數(shù)據(jù)存儲(chǔ)與處理上存在讀寫效率低、可擴(kuò)展性差等不足之處,這些不足制約了集中式數(shù)據(jù)庫(kù)在大數(shù)據(jù)領(lǐng)域的推廣應(yīng)用。目前針對(duì)大數(shù)據(jù)的管理很多互聯(lián)網(wǎng)公司、電商平臺(tái)已經(jīng)有了很好的解決方案,但是面向農(nóng)業(yè)大數(shù)據(jù)管理的低成本、低能耗、高可靠的存儲(chǔ)方案基本沒(méi)有。分布式數(shù)據(jù)庫(kù)是大數(shù)據(jù)存儲(chǔ)與處理的主要解決方案之一,通過(guò)構(gòu)建分布式集群,對(duì)集中式數(shù)據(jù)庫(kù)中的數(shù)據(jù)進(jìn)行切片,將數(shù)據(jù)分散存儲(chǔ)到各個(gè)分片節(jié)點(diǎn)上,通過(guò)各節(jié)點(diǎn)之間的協(xié)同工作實(shí)現(xiàn)大數(shù)據(jù)的存儲(chǔ)與處理。數(shù)據(jù)的分布式存儲(chǔ)導(dǎo)致對(duì)數(shù)據(jù)的操作往往需要跨節(jié)點(diǎn)進(jìn)行,造成了數(shù)據(jù)處理的復(fù)雜性,因此在實(shí)際應(yīng)用中通常采用中間件作為代理的形式實(shí)現(xiàn)分布式存儲(chǔ)架構(gòu)設(shè)計(jì),通過(guò)中間件管理底層的物理數(shù)據(jù)庫(kù),將底層的數(shù)據(jù)庫(kù)虛擬映射成一個(gè)數(shù)據(jù)庫(kù)呈現(xiàn)給上層用戶,屏蔽了分布式數(shù)據(jù)庫(kù)的數(shù)據(jù)處理問(wèn)題,降低了分布式數(shù)據(jù)庫(kù)的復(fù)雜性。本文分析了當(dāng)前主流的分布式數(shù)據(jù)存儲(chǔ)方案,在此基礎(chǔ)上引入Mycat分布式數(shù)據(jù)庫(kù)中間件,結(jié)合豬場(chǎng)管理系統(tǒng)存儲(chǔ)擴(kuò)展的具體需求,提出了基于Mycat的分布式數(shù)據(jù)存儲(chǔ)設(shè)計(jì)及實(shí)現(xiàn)方案。本文具體工作如下:(1)對(duì)分布式存儲(chǔ)進(jìn)行了詳細(xì)的理論研...
【文章來(lái)源】:安徽農(nóng)業(yè)大學(xué)安徽省
【文章頁(yè)數(shù)】:64 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-1豬場(chǎng)感應(yīng)桿示意圖??
定的規(guī)則,將一個(gè)數(shù)據(jù)庫(kù)中的??數(shù)據(jù)切分開(kāi)來(lái),并將切分的數(shù)據(jù)存到多個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)中,以減輕單臺(tái)數(shù)據(jù)庫(kù)的負(fù)載??[36][37]。??數(shù)據(jù)庫(kù)的切分根據(jù)切分規(guī)則可分為垂直切分和水平切分兩種模式。??(1)垂直切分。垂直切分[%方式是根據(jù)業(yè)務(wù),將不同業(yè)務(wù)類型的表切分到不同??數(shù)據(jù)庫(kù)節(jié)點(diǎn)中,這樣當(dāng)其中一個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)崩潰了也不會(huì)影響其他業(yè)務(wù)的正常進(jìn)行,??而且也降低單個(gè)數(shù)據(jù)庫(kù)服務(wù)器的壓力,起到了負(fù)載分流的作用,這樣在高并發(fā)的情況??下可以大大地提升數(shù)據(jù)庫(kù)的吞吐能力,提高數(shù)據(jù)庫(kù)性能。垂直切分方式如圖2.2所示。??用戶表?仔豬表'運(yùn)動(dòng)表、??7?\??用戶表?仔豬表?運(yùn)動(dòng)表??-X?■?+??V?J?I?>??圖2-2垂直切分方式??Fig?2-2?Vertical?segmentation??垂直切分方式的切分規(guī)則比較簡(jiǎn)單,實(shí)施起來(lái)比較方便,比較適合系統(tǒng)中的業(yè)務(wù)??之間的關(guān)聯(lián)程度低,對(duì)彼此的影響小,邏輯比較清晰的系統(tǒng)[39]。但是有些業(yè)務(wù)之間或??多或少的都會(huì)有聯(lián)系。如針對(duì)豬場(chǎng)的數(shù)據(jù)管理中的三張數(shù)據(jù)表,用戶信息表、仔豬信??息表和運(yùn)動(dòng)信息表,三張表之間有關(guān)聯(lián)關(guān)系,如果直接按照垂直切分的方式將三張表??8??
join的難度很大,會(huì)造成數(shù)據(jù)庫(kù)性能降低,而且運(yùn)動(dòng)??信息表由于實(shí)時(shí)接收感應(yīng)粧傳過(guò)來(lái)的數(shù)據(jù)導(dǎo)致表數(shù)據(jù)量非常大,但另外兩張表中的數(shù)??據(jù)并沒(méi)有達(dá)到mysql數(shù)據(jù)庫(kù)的閾值,這種垂直切分的方式并不能很好地解決大表的性??能瓶頸和高并發(fā)等問(wèn)題。??(2)水平切分。水平切分方式是根據(jù)數(shù)據(jù)表的邏輯關(guān)系,根據(jù)某些定義好的規(guī)??則將原本存在一張表中的數(shù)據(jù)拆分開(kāi)來(lái)分散到多臺(tái)服務(wù)器上[4C][41】,水平切分方式能??夠有效的緩解單機(jī)單庫(kù)的性能瓶頸,突破i〇、連接數(shù)、硬件資源的限制。水平切分方??式如圖2.3所示。??Shard?1?用戶表????仔豬%??用戶表?仔豬表?f運(yùn)動(dòng)表rz???I?[運(yùn)動(dòng)¥?j??:■■■?I??{■2l?}?[?J?shard2?用戶表??、[涵表??運(yùn)動(dòng)f??圖2-3水平切分方式??Fig?2-3?Horizontal?segmentation??水平切分方式相較于垂直切分要復(fù)雜一些,因?yàn)橐獙⑼粡埍碇械牟煌瑪?shù)據(jù)拆分??到不同的數(shù)據(jù)庫(kù)中,拆分規(guī)則比較復(fù)雜,后期對(duì)表中數(shù)據(jù)的維護(hù)相較而言也會(huì)更復(fù)雜。??針對(duì)豬場(chǎng)管理系統(tǒng),如圖2.3的水平切分方式中可將用戶信息表、仔豬信息表和運(yùn)動(dòng)??信息表H張有關(guān)聯(lián)關(guān)系的數(shù)據(jù)表按照仔豬耳標(biāo)號(hào)進(jìn)行水平切分,這樣切分既保存了表??與表之間的關(guān)聯(lián)聯(lián)系,讓這三張表之間不需要跨分片查詢,并且也解決了運(yùn)動(dòng)信息表??單表數(shù)據(jù)量大的問(wèn)題,通過(guò)水平切分能夠緩解數(shù)據(jù)庫(kù)中單表的壓力。??在實(shí)際的開(kāi)發(fā)中可以根據(jù)系統(tǒng)需求按照模塊進(jìn)行垂直切分,對(duì)于某些單張表數(shù)據(jù)??量很大的情況,通過(guò)垂直切分的方式無(wú)法緩解數(shù)據(jù)量問(wèn)題,可以對(duì)這些表采用水平切??分的方式實(shí)現(xiàn)數(shù)據(jù)庫(kù)切分。??9??
【參考文獻(xiàn)】:
期刊論文
[1]我國(guó)智慧農(nóng)業(yè)發(fā)展規(guī)模前景趨勢(shì)分析[J]. 新農(nóng)業(yè). 2019(04)
[2]2018養(yǎng)豬業(yè)關(guān)鍵詞——AI養(yǎng)豬、非洲豬瘟、中美貿(mào)易摩擦[J]. 本刊編輯部. 今日養(yǎng)豬業(yè). 2019(01)
[3]智慧農(nóng)業(yè)九大發(fā)展趨勢(shì)分析:可視化將成為智慧農(nóng)業(yè)發(fā)展所趨[J]. 現(xiàn)代畜牧獸醫(yī). 2018(12)
[4]基于虛擬化的負(fù)載均衡機(jī)制在調(diào)度管理業(yè)務(wù)中的應(yīng)用[J]. 吳鑫. 電力與能源. 2018(05)
[5]智慧農(nóng)業(yè)大數(shù)據(jù)平臺(tái)構(gòu)建的研究[J]. 毛林,成維莉. 農(nóng)業(yè)網(wǎng)絡(luò)信息. 2018(06)
[6]基于Mycat的分布式數(shù)據(jù)庫(kù)在運(yùn)營(yíng)商IT系統(tǒng)轉(zhuǎn)型中的實(shí)現(xiàn)與探索[J]. 周智. 電腦知識(shí)與技術(shù). 2018(15)
[7]為中國(guó)人工智能產(chǎn)業(yè)的明天喝彩[J]. 劉啟誠(chéng). 通信世界. 2018(13)
[8]“名企務(wù)農(nóng)”注入發(fā)展新動(dòng)能[J]. 劉悅. 當(dāng)代貴州. 2018(17)
[9]醫(yī)療大數(shù)據(jù)平臺(tái)數(shù)據(jù)高并發(fā)方案設(shè)計(jì)與關(guān)鍵技術(shù)分析[J]. 張偉. 信息技術(shù)與網(wǎng)絡(luò)安全. 2018(04)
[10]MySQL數(shù)據(jù)庫(kù)主從復(fù)制的實(shí)現(xiàn)[J]. 何小川. 廣東通信技術(shù). 2017(10)
碩士論文
[1]基于MyCAT的智能水表系統(tǒng)數(shù)據(jù)庫(kù)的研究與實(shí)現(xiàn)[D]. 曾加幫.華中科技大學(xué) 2017
[2]大數(shù)據(jù)量下的實(shí)時(shí)數(shù)據(jù)報(bào)表系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 周豪.北京交通大學(xué) 2016
[3]基于共享模式的多租戶數(shù)據(jù)拆分系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 鄢素濤.上海交通大學(xué) 2016
[4]基于MyCAT的分布式數(shù)據(jù)存儲(chǔ)研究與應(yīng)用[D]. 王蔥.東華大學(xué) 2016
[5]MyCat中傾斜連接優(yōu)化技術(shù)研究與實(shí)現(xiàn)[D]. 胡睿.東華大學(xué) 2016
[6]虛擬化構(gòu)架下服務(wù)器監(jiān)控系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 陳凱.復(fù)旦大學(xué) 2013
[7]基于SaaS的數(shù)據(jù)庫(kù)構(gòu)建方案的研究與實(shí)現(xiàn)[D]. 徐江曼.山東大學(xué) 2012
[8]基于Android平臺(tái)的手機(jī)桌面資訊系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 盧娜.西安電子科技大學(xué) 2011
[9]數(shù)據(jù)庫(kù)集群中間件MySQL Proxy研究與分析[D]. 祝雄鋒.武漢理工大學(xué) 2011
本文編號(hào):3008901
【文章來(lái)源】:安徽農(nóng)業(yè)大學(xué)安徽省
【文章頁(yè)數(shù)】:64 頁(yè)
【學(xué)位級(jí)別】:碩士
【部分圖文】:
圖2-1豬場(chǎng)感應(yīng)桿示意圖??
定的規(guī)則,將一個(gè)數(shù)據(jù)庫(kù)中的??數(shù)據(jù)切分開(kāi)來(lái),并將切分的數(shù)據(jù)存到多個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)中,以減輕單臺(tái)數(shù)據(jù)庫(kù)的負(fù)載??[36][37]。??數(shù)據(jù)庫(kù)的切分根據(jù)切分規(guī)則可分為垂直切分和水平切分兩種模式。??(1)垂直切分。垂直切分[%方式是根據(jù)業(yè)務(wù),將不同業(yè)務(wù)類型的表切分到不同??數(shù)據(jù)庫(kù)節(jié)點(diǎn)中,這樣當(dāng)其中一個(gè)數(shù)據(jù)庫(kù)節(jié)點(diǎn)崩潰了也不會(huì)影響其他業(yè)務(wù)的正常進(jìn)行,??而且也降低單個(gè)數(shù)據(jù)庫(kù)服務(wù)器的壓力,起到了負(fù)載分流的作用,這樣在高并發(fā)的情況??下可以大大地提升數(shù)據(jù)庫(kù)的吞吐能力,提高數(shù)據(jù)庫(kù)性能。垂直切分方式如圖2.2所示。??用戶表?仔豬表'運(yùn)動(dòng)表、??7?\??用戶表?仔豬表?運(yùn)動(dòng)表??-X?■?+??V?J?I?>??圖2-2垂直切分方式??Fig?2-2?Vertical?segmentation??垂直切分方式的切分規(guī)則比較簡(jiǎn)單,實(shí)施起來(lái)比較方便,比較適合系統(tǒng)中的業(yè)務(wù)??之間的關(guān)聯(lián)程度低,對(duì)彼此的影響小,邏輯比較清晰的系統(tǒng)[39]。但是有些業(yè)務(wù)之間或??多或少的都會(huì)有聯(lián)系。如針對(duì)豬場(chǎng)的數(shù)據(jù)管理中的三張數(shù)據(jù)表,用戶信息表、仔豬信??息表和運(yùn)動(dòng)信息表,三張表之間有關(guān)聯(lián)關(guān)系,如果直接按照垂直切分的方式將三張表??8??
join的難度很大,會(huì)造成數(shù)據(jù)庫(kù)性能降低,而且運(yùn)動(dòng)??信息表由于實(shí)時(shí)接收感應(yīng)粧傳過(guò)來(lái)的數(shù)據(jù)導(dǎo)致表數(shù)據(jù)量非常大,但另外兩張表中的數(shù)??據(jù)并沒(méi)有達(dá)到mysql數(shù)據(jù)庫(kù)的閾值,這種垂直切分的方式并不能很好地解決大表的性??能瓶頸和高并發(fā)等問(wèn)題。??(2)水平切分。水平切分方式是根據(jù)數(shù)據(jù)表的邏輯關(guān)系,根據(jù)某些定義好的規(guī)??則將原本存在一張表中的數(shù)據(jù)拆分開(kāi)來(lái)分散到多臺(tái)服務(wù)器上[4C][41】,水平切分方式能??夠有效的緩解單機(jī)單庫(kù)的性能瓶頸,突破i〇、連接數(shù)、硬件資源的限制。水平切分方??式如圖2.3所示。??Shard?1?用戶表????仔豬%??用戶表?仔豬表?f運(yùn)動(dòng)表rz???I?[運(yùn)動(dòng)¥?j??:■■■?I??{■2l?}?[?J?shard2?用戶表??、[涵表??運(yùn)動(dòng)f??圖2-3水平切分方式??Fig?2-3?Horizontal?segmentation??水平切分方式相較于垂直切分要復(fù)雜一些,因?yàn)橐獙⑼粡埍碇械牟煌瑪?shù)據(jù)拆分??到不同的數(shù)據(jù)庫(kù)中,拆分規(guī)則比較復(fù)雜,后期對(duì)表中數(shù)據(jù)的維護(hù)相較而言也會(huì)更復(fù)雜。??針對(duì)豬場(chǎng)管理系統(tǒng),如圖2.3的水平切分方式中可將用戶信息表、仔豬信息表和運(yùn)動(dòng)??信息表H張有關(guān)聯(lián)關(guān)系的數(shù)據(jù)表按照仔豬耳標(biāo)號(hào)進(jìn)行水平切分,這樣切分既保存了表??與表之間的關(guān)聯(lián)聯(lián)系,讓這三張表之間不需要跨分片查詢,并且也解決了運(yùn)動(dòng)信息表??單表數(shù)據(jù)量大的問(wèn)題,通過(guò)水平切分能夠緩解數(shù)據(jù)庫(kù)中單表的壓力。??在實(shí)際的開(kāi)發(fā)中可以根據(jù)系統(tǒng)需求按照模塊進(jìn)行垂直切分,對(duì)于某些單張表數(shù)據(jù)??量很大的情況,通過(guò)垂直切分的方式無(wú)法緩解數(shù)據(jù)量問(wèn)題,可以對(duì)這些表采用水平切??分的方式實(shí)現(xiàn)數(shù)據(jù)庫(kù)切分。??9??
【參考文獻(xiàn)】:
期刊論文
[1]我國(guó)智慧農(nóng)業(yè)發(fā)展規(guī)模前景趨勢(shì)分析[J]. 新農(nóng)業(yè). 2019(04)
[2]2018養(yǎng)豬業(yè)關(guān)鍵詞——AI養(yǎng)豬、非洲豬瘟、中美貿(mào)易摩擦[J]. 本刊編輯部. 今日養(yǎng)豬業(yè). 2019(01)
[3]智慧農(nóng)業(yè)九大發(fā)展趨勢(shì)分析:可視化將成為智慧農(nóng)業(yè)發(fā)展所趨[J]. 現(xiàn)代畜牧獸醫(yī). 2018(12)
[4]基于虛擬化的負(fù)載均衡機(jī)制在調(diào)度管理業(yè)務(wù)中的應(yīng)用[J]. 吳鑫. 電力與能源. 2018(05)
[5]智慧農(nóng)業(yè)大數(shù)據(jù)平臺(tái)構(gòu)建的研究[J]. 毛林,成維莉. 農(nóng)業(yè)網(wǎng)絡(luò)信息. 2018(06)
[6]基于Mycat的分布式數(shù)據(jù)庫(kù)在運(yùn)營(yíng)商IT系統(tǒng)轉(zhuǎn)型中的實(shí)現(xiàn)與探索[J]. 周智. 電腦知識(shí)與技術(shù). 2018(15)
[7]為中國(guó)人工智能產(chǎn)業(yè)的明天喝彩[J]. 劉啟誠(chéng). 通信世界. 2018(13)
[8]“名企務(wù)農(nóng)”注入發(fā)展新動(dòng)能[J]. 劉悅. 當(dāng)代貴州. 2018(17)
[9]醫(yī)療大數(shù)據(jù)平臺(tái)數(shù)據(jù)高并發(fā)方案設(shè)計(jì)與關(guān)鍵技術(shù)分析[J]. 張偉. 信息技術(shù)與網(wǎng)絡(luò)安全. 2018(04)
[10]MySQL數(shù)據(jù)庫(kù)主從復(fù)制的實(shí)現(xiàn)[J]. 何小川. 廣東通信技術(shù). 2017(10)
碩士論文
[1]基于MyCAT的智能水表系統(tǒng)數(shù)據(jù)庫(kù)的研究與實(shí)現(xiàn)[D]. 曾加幫.華中科技大學(xué) 2017
[2]大數(shù)據(jù)量下的實(shí)時(shí)數(shù)據(jù)報(bào)表系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 周豪.北京交通大學(xué) 2016
[3]基于共享模式的多租戶數(shù)據(jù)拆分系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 鄢素濤.上海交通大學(xué) 2016
[4]基于MyCAT的分布式數(shù)據(jù)存儲(chǔ)研究與應(yīng)用[D]. 王蔥.東華大學(xué) 2016
[5]MyCat中傾斜連接優(yōu)化技術(shù)研究與實(shí)現(xiàn)[D]. 胡睿.東華大學(xué) 2016
[6]虛擬化構(gòu)架下服務(wù)器監(jiān)控系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 陳凱.復(fù)旦大學(xué) 2013
[7]基于SaaS的數(shù)據(jù)庫(kù)構(gòu)建方案的研究與實(shí)現(xiàn)[D]. 徐江曼.山東大學(xué) 2012
[8]基于Android平臺(tái)的手機(jī)桌面資訊系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D]. 盧娜.西安電子科技大學(xué) 2011
[9]數(shù)據(jù)庫(kù)集群中間件MySQL Proxy研究與分析[D]. 祝雄鋒.武漢理工大學(xué) 2011
本文編號(hào):3008901
本文鏈接:http://sikaile.net/kejilunwen/ruanjiangongchenglunwen/3008901.html
最近更新
教材專著