基于Spark分布式計算框架的IPTV用戶投訴預(yù)測系統(tǒng)設(shè)計與實現(xiàn)
【圖文】:
大學(xué)專業(yè)學(xué)位碩士研究生學(xué)位論文 第二章 相關(guān)背景知識介用 SparkSQL時會創(chuàng)建 SQLContext,使用 SparkStreaming 時會創(chuàng)建 StreamingConteontext 在使用時可以通過 SparkConf 配置相關(guān)的使用參數(shù)。SparkContext 的組建主rkConf、SparkEnv、LiveListenerBus、JobProgressListener、SparkUI、TaskScheduheduler 、 ExecutorAllocationManager 、 ContextClearner 、 SparkStatusTrackeConfiguration。
圖 2.2 Spark MLlib 系統(tǒng)圖 Spark Streaming由于在原始數(shù)據(jù)產(chǎn)生之后立即進(jìn)行分析處理后所產(chǎn)生的使用價值是最大的,數(shù)據(jù)產(chǎn)生置的越久其可利用信息的價值就越低。在實際的業(yè)務(wù)場景之中,有一種流式計算的應(yīng)用要實時對大量的數(shù)據(jù)進(jìn)行快速處理,它最大的特點就是處理周期短,,一般是分鐘級別是秒級或者毫秒級別,并且是 24 小時不停進(jìn)行計算[33]。通常稱這種計算為流式計算。對于實時流式計算,Spark 通過 Spark Streaming 組建提供了相關(guān)的功能支持。Spming 是基于 Spark Core 的,具有高吞吐量、可擴(kuò)展性、自動容錯、實時性等特性,它來源支持 Twitter、Tcp socket、Kafka、Flume 等數(shù)據(jù)源,可以實現(xiàn) map、reduce、join操作來實現(xiàn)復(fù)雜的邏輯關(guān)系,其運算結(jié)果可以寫入文件系統(tǒng)、數(shù)據(jù)庫或者其他的展示同時也可以同時使用 Spark SQL、DataFrame、Spark MLlib 等一系列的 Spark 插件。
【學(xué)位授予單位】:南京郵電大學(xué)
【學(xué)位級別】:碩士
【學(xué)位授予年份】:2018
【分類號】:TN949.292
【參考文獻(xiàn)】
相關(guān)期刊論文 前10條
1 陳小燕;;機(jī)器學(xué)習(xí)算法在數(shù)據(jù)挖掘中的應(yīng)用[J];現(xiàn)代電子技術(shù);2015年20期
2 董微;劉學(xué);倪宏;;基于信息增益的自適應(yīng)特征選擇方法[J];計算機(jī)工程與設(shè)計;2014年08期
3 何清;李寧;羅文娟;史忠植;;大數(shù)據(jù)下的機(jī)器學(xué)習(xí)算法綜述[J];模式識別與人工智能;2014年04期
4 宋小敏;張國防;邢淑蘭;汪鎖田;;基于數(shù)據(jù)挖掘的課程相關(guān)性分析方法[J];山西財經(jīng)大學(xué)學(xué)報;2012年S3期
5 李卓然;張永;;基于集成的非均衡數(shù)據(jù)分類主動學(xué)習(xí)算法[J];計算機(jī)應(yīng)用與軟件;2012年06期
6 谷瓊;袁磊;熊啟軍;寧彬;李文新;;基于非均衡數(shù)據(jù)集的代價敏感學(xué)習(xí)算法比較研究[J];微電子學(xué)與計算機(jī);2011年08期
7 劉婷婷;;IPTV常用故障判斷分析[J];科協(xié)論壇(下半月);2011年07期
8 靳燕;;基于權(quán)值控制的誤分類算法研究[J];山西師范大學(xué)學(xué)報(自然科學(xué)版);2010年02期
9 林海明;;對主成分分析法運用中十個問題的解析[J];統(tǒng)計與決策;2007年16期
10 王玨,石純一;機(jī)器學(xué)習(xí)研究[J];廣西師范大學(xué)學(xué)報(自然科學(xué)版);2003年02期
相關(guān)博士學(xué)位論文 前1條
1 錢云;非均衡數(shù)據(jù)分類算法若干應(yīng)用研究[D];吉林大學(xué);2014年
相關(guān)碩士學(xué)位論文 前1條
1 翟永東;Hadoop分布式文件系統(tǒng)(HDFS)可靠性的研究與優(yōu)化[D];華中科技大學(xué);2011年
本文編號:2671669
本文鏈接:http://sikaile.net/kejilunwen/wltx/2671669.html