基于Hadoop的銀行實時統(tǒng)計報表研究與實現(xiàn)
發(fā)布時間:2022-09-27 18:56
通常來說,銀行的生產(chǎn)經(jīng)營情況多通過報表的形式進行展示,并通過對報表數(shù)據(jù)進行智能化的統(tǒng)計分析,得到對銀行管理層決策有用的信息。報表系統(tǒng)是利用計算機對數(shù)據(jù)進行專門統(tǒng)計分析并生成報表的工具,在銀行運行和管理中起到非常重要的作用。本文通過對某銀行的報表系統(tǒng)研究,發(fā)現(xiàn)了兩個問題,一是無法很好完成千萬級以上的數(shù)據(jù)計算,二是對報表數(shù)據(jù)進行實時統(tǒng)計、查詢。該銀行的現(xiàn)有報表系統(tǒng)利用存儲過程對數(shù)據(jù)進行計算,由于交易數(shù)據(jù)量持續(xù)增長,當數(shù)據(jù)量過大時,利用存儲過程對數(shù)據(jù)進行計算的方式效率過低,無法滿足當前對數(shù)據(jù)計算的需求;另外,該銀行進行報表數(shù)據(jù)查詢時,現(xiàn)有系統(tǒng)是對數(shù)據(jù)進行離線計算,然后直接查詢數(shù)據(jù)庫獲取計算結果,這種方案存在兩個問題:一是當查詢數(shù)據(jù)總量達到千萬級以上時,無法滿足快速查詢的要求,而且查詢對數(shù)據(jù)庫產(chǎn)生了巨大的壓力;二是數(shù)據(jù)無法實時統(tǒng)計、查詢。針對上面存在的問題,本文提出了具體的解決方法。(1)針對千萬級以上的數(shù)據(jù)無法很好地進行計算的問題,采用“分治”的思想,提出了使用HDFS完成數(shù)據(jù)存儲和MapReduce并行計算的方法,對數(shù)據(jù)計算并保存為中間文件,然后對中間文件合并的解決方案,成功實現(xiàn)了大數(shù)據(jù)量...
【文章頁數(shù)】:65 頁
【學位級別】:碩士
【部分圖文】:
SolrCloud 的邏輯結圖
原有報表系統(tǒng)框架圖
改進后報表系統(tǒng)總體框架圖
【參考文獻】:
期刊論文
[1]基于水晶報表的查收查引報告自動生成的設計與實現(xiàn)[J]. 闞洪海,趙杰. 現(xiàn)代情報. 2017(04)
[2]DES算法在自行車租賃系統(tǒng)中的應用[J]. 魏文俊,張晶,朱鵬宇. 計算技術與自動化. 2017(01)
[3]大數(shù)據(jù)實時計算平臺技術綜述[J]. 周志陽,陳飛. 中國新通信. 2017(04)
[4]基于J2EE的分布式網(wǎng)絡書店管理系統(tǒng)的設計與實現(xiàn)[J]. 李圍成,張雪萍. 電腦知識與技術. 2015(05)
[5]高性能分布式搜索引擎Solr的研究與實現(xiàn)[J]. 趙璞,朱志祥,張康益. 電子科技. 2015(04)
[6]用友UFO報表系統(tǒng)存在的問題及對策[J]. 馮鑫永. 財會月刊. 2014(03)
[7]基于FastReport的客戶管理系統(tǒng)的報表設計[J]. 董思文,屠培期. 城市公用事業(yè). 2013(06)
[8]基于Hive的海量搜索日志分析系統(tǒng)研究[J]. 趙龍,江榮安. 計算機應用研究. 2013(11)
[9]企業(yè)數(shù)據(jù)統(tǒng)計分析報表系統(tǒng)的設計分析[J]. 宋華. 決策與信息(中旬刊). 2013(05)
[10]中資銀行境外分行報表系統(tǒng)分析[J]. 王文欣. 現(xiàn)代商貿(mào)工業(yè). 2013(03)
碩士論文
[1]大數(shù)據(jù)量下的實時數(shù)據(jù)報表系統(tǒng)的設計與實現(xiàn)[D]. 周豪.北京交通大學 2016
[2]DES和RSA混合加密算法的研究[D]. 吳明航.哈爾濱工業(yè)大學 2013
本文編號:3681431
【文章頁數(shù)】:65 頁
【學位級別】:碩士
【部分圖文】:
SolrCloud 的邏輯結圖
原有報表系統(tǒng)框架圖
改進后報表系統(tǒng)總體框架圖
【參考文獻】:
期刊論文
[1]基于水晶報表的查收查引報告自動生成的設計與實現(xiàn)[J]. 闞洪海,趙杰. 現(xiàn)代情報. 2017(04)
[2]DES算法在自行車租賃系統(tǒng)中的應用[J]. 魏文俊,張晶,朱鵬宇. 計算技術與自動化. 2017(01)
[3]大數(shù)據(jù)實時計算平臺技術綜述[J]. 周志陽,陳飛. 中國新通信. 2017(04)
[4]基于J2EE的分布式網(wǎng)絡書店管理系統(tǒng)的設計與實現(xiàn)[J]. 李圍成,張雪萍. 電腦知識與技術. 2015(05)
[5]高性能分布式搜索引擎Solr的研究與實現(xiàn)[J]. 趙璞,朱志祥,張康益. 電子科技. 2015(04)
[6]用友UFO報表系統(tǒng)存在的問題及對策[J]. 馮鑫永. 財會月刊. 2014(03)
[7]基于FastReport的客戶管理系統(tǒng)的報表設計[J]. 董思文,屠培期. 城市公用事業(yè). 2013(06)
[8]基于Hive的海量搜索日志分析系統(tǒng)研究[J]. 趙龍,江榮安. 計算機應用研究. 2013(11)
[9]企業(yè)數(shù)據(jù)統(tǒng)計分析報表系統(tǒng)的設計分析[J]. 宋華. 決策與信息(中旬刊). 2013(05)
[10]中資銀行境外分行報表系統(tǒng)分析[J]. 王文欣. 現(xiàn)代商貿(mào)工業(yè). 2013(03)
碩士論文
[1]大數(shù)據(jù)量下的實時數(shù)據(jù)報表系統(tǒng)的設計與實現(xiàn)[D]. 周豪.北京交通大學 2016
[2]DES和RSA混合加密算法的研究[D]. 吳明航.哈爾濱工業(yè)大學 2013
本文編號:3681431
本文鏈接:http://sikaile.net/jingjilunwen/huobiyinxinglunwen/3681431.html
教材專著