本文主要介紹了核主成分分析（KPCA）、支持向量回歸（SVR）、核fisher判別分析（KFDA）等以核函數(shù)為基礎(chǔ)的學(xué)習(xí)算法,并把這些方法用于多因子選股理論當(dāng)中。文章首先給出了核函數(shù)的定義與它的一些較為重要的性質(zhì),利用核函數(shù),數(shù)量積可以在特征空間中進(jìn)行隱式計(jì)算,而不需要知道具體映射,然后將此原理用于監(jiān)督學(xué)習(xí)和無監(jiān)督學(xué)習(xí),進(jìn)行基于核函數(shù)的算法推導(dǎo)。主成分分析（PCA）是無監(jiān)督學(xué)習(xí)理論中常用的一種算法,主要思想是通過正交性的變換將有相關(guān)關(guān)系的樣本轉(zhuǎn)變?yōu)榫�性無關(guān)的樣本,并依據(jù)一定準(zhǔn)則選取少數(shù)的新變量體現(xiàn)原本多個(gè)變量含有的重要信息。由于PCA為線性算法,它無法提取變量中隱含的非線性結(jié)構(gòu),核主成分分析（KPCA）作為以核函數(shù)為基礎(chǔ)的非線性特征提取方法,首先將樣本中的變量映射到高維空間然后求解一個(gè)與PCA相似的線性組合問題得到核PCA成分。支持向量回歸（SVR）引入的是結(jié)構(gòu)風(fēng)險(xiǎn)最小化理論,并且應(yīng)用ε不敏感函數(shù)作為模型的損失函數(shù),對(duì)于一組訓(xùn)練數(shù)據(jù)確定一個(gè)函數(shù)使它可以精確地逼近未來的值。非線性支持向量回歸則是用核函數(shù)方法把樣本變量映射到一個(gè)高維空間,并通過建立線性函數(shù)達(dá)到在輸入空間中的非線性回歸效果,... 

【文章來源】：山東大學(xué)山東省 211工程院校 985工程院校 教育部直屬院校

【文章頁(yè)數(shù)】：55 頁(yè)

【學(xué)位級(jí)別】：碩士

【部分圖文】：

圖２－１：樣本映射到高維空間??

?山東大學(xué)碩士學(xué)位論文???ｙ?ｉ丨??＾?ｒｉ??１?〇?／?ｉｘ）?■?ｔｒ?＼ｒ?．＊??〇?ｏ??■＞＾－〇??．．－〇＂?〇??〇?ｒ??圖２－２支持向量回歸原理??線性支持向量回歸首先用線性函數(shù)：??ｆ（ｘ）?＝?ｗＴｘ?＋?ｂ?（２－１９）??擬合樣本，其中Ｘ為輸入量，ｙ為輸出量。并且用ｓ不敏感函數(shù)作為模型的損失??函數(shù)，具體指的是當(dāng)真實(shí)值與估計(jì)函數(shù)值兩者差別不大于４青形下，就確定在這??個(gè)點(diǎn)估量值不存在損失。??假設(shè)所有樣本在給定的精度Ｓ下用（２－１９）式的線性函數(shù)擬合可以得到：??ｙ，－／（、）“＋！??＜?ｆ（ｘｉ）－ｙｉ＜ｓ?＋?＾ｉｉ?＝?＼，２，－－－，ｎ?（２－２０）??其中６，＃為松弛變量，如果劃分存在誤差，則兩個(gè)變量都大于〇，劃分正確則??兩者都為０。而支持向量回歸問題能夠轉(zhuǎn)換為求以下函數(shù)的最小化，ＳＰ：??ｍｉｎ?ｉ？?（?ｗ，￥，｜｜?｜｜ｗｆ?＋?１）?（２－２１）??（２－２１）式中ｗ２能夠讓回歸函數(shù)更加平坦，從而加強(qiáng)模型的可推廣性能，而Ｃ??代表對(duì)超過給定精度樣本的懲罰系數(shù)，可以減小回歸函數(shù)的誤差。這是一個(gè)有約??束條件的函數(shù)求解問題，構(gòu)建拉格朗日函數(shù)并且由對(duì)偶理論最終可以將原始問題??變?yōu)椋??ｎ?１?ｎ?八??啤?么—ａ＇）－啦?—ａ＇）（Ｈ）ｘ廠?＇?（２－２２）??ａ，ａ?／＝１?＾?／＝１?ｊ＝＼??１４??

?山東大學(xué)碩士學(xué)位論文???第３章ｆ?ｉ?ｓｈｅｒ判別分析與核ｆ?ｉ?ｓｈｅｒ判別分析??３．１二分類ｆ?ｉ?ｓｈｅｒ判別分析原理與準(zhǔn)則??Ｆｉｓｈｅｒ判別分析法的目的是尋找一個(gè)線性函數(shù)，即將原始樣本空間中ｐ維向??量映射到某個(gè)方向，使屬于不同類別的樣本投影后在新空間中能夠很好地分離。??而可分性是由兩個(gè)量來衡量的：預(yù)計(jì)的平均值相距多遠(yuǎn)（應(yīng)該很大）以及數(shù)據(jù)在??這個(gè)方向上的方差有多大（應(yīng)該很�。唧w如圖３－１所示。??ｘ２?１１?Ｉ?ｙ?—?－ｗ１?ｘ??ｌｉ—：—?－??／盡可能？近」??Ｏ?Ｘｉ??圖３－１?ｆｉｓｈｅｒ判別分析原理??假設(shè)有數(shù)據(jù)集乃＝｛（Ｘ，，乃），（ｘ２，），…，（ｘｍ，少Ｊ，｝，其中用?＇?（盧。，１），〇?０，１），??／／；（ｊ?＝?Ｇ，ｌ），?Ｉ；（ｊ?＝?（Ｕ）分別來表示第ｊ類變量的個(gè)數(shù)、集合、均值與協(xié)方差矩陣，??定義類內(nèi)散度矩陣為：??ｘ＾Ｘ０?ｘｅＸｉ??定義類間散度矩陣為：??＝（Ｍ〇￣Ｍ］?）（Ｍ〇?－?Ａ?Ｙ?（３－２）??所以二分類ｆｉｓｈｅｒ判別分析的優(yōu)化目標(biāo)為：??ｗ?Ｓｈｗ??ａｒｇｍａｘＪ（ｗ）?＝?－—（３－３）??ｖ—ｖ—；?ｗ?ｔＳ?ｗ??Ｍ．??由廣義Ｒａｙｌｅｉｇｈ商的定義可以知道（３－３）式的最大值為矩陣乘積的最大??特征值，所以投影向量ｗ就是相應(yīng)的特征向量。??Ｆｉｓｈｅｒ判別準(zhǔn)則有多種方法，下面介紹較為常用的一種，已知找到的線性??投影的方向?yàn)椋鳎裕瑒t對(duì)兩個(gè)類別數(shù)據(jù)的中心點(diǎn)投影并且令判別值ｃ為：??１７??

【參考文獻(xiàn)】：
期刊論文
[1]隨機(jī)森林在量化選股中的應(yīng)用研究[J]. 王淑燕,曹正鳳,陳銘芷.  運(yùn)籌與管理. 2016(03)
[2]股票投資價(jià)值分析的綜合指標(biāo)及其創(chuàng)新指向[J]. 顧紀(jì)生,朱玲.  商業(yè)研究. 2012(02)
[3]A股市場(chǎng)的風(fēng)險(xiǎn)與特征因子[J]. 潘莉,徐建國(guó).  金融研究. 2011(10)
[4]PCA-GA-SVM模型的構(gòu)建及應(yīng)用研究——滬深300指數(shù)預(yù)測(cè)精度實(shí)證分析[J]. 徐國(guó)祥,楊振建.  數(shù)量經(jīng)濟(jì)技術(shù)經(jīng)濟(jì)研究. 2011(02)
[5]多核學(xué)習(xí)方法[J]. 汪洪橋,孫富春,蔡艷寧,陳寧,丁林閣.  自動(dòng)化學(xué)報(bào). 2010(08)
[6]KPCA方法過程研究與應(yīng)用[J]. 杜卓明,屠宏,耿國(guó)華.  計(jì)算機(jī)工程與應(yīng)用. 2010(07)
[7]基于無約束優(yōu)化的非線性支持向量回歸[J]. 張軍峰,胡壽松.  控制與決策. 2009(01)
[8]基于核主成分分析與最小二乘支持向量機(jī)結(jié)合處理時(shí)間序列預(yù)測(cè)問題[J]. 郭輝,王玲,劉賀平.  北京科技大學(xué)學(xué)報(bào). 2006(03)
[9]基于支持向量回歸的時(shí)間序列預(yù)測(cè)[J]. 楊金芳,翟永杰,王東風(fēng),徐大平.  中國(guó)電機(jī)工程學(xué)報(bào). 2005(17)
[10]中國(guó)股票市場(chǎng)FF多因子模型的比較分析[J]. 陳守東,孟慶順,趙云立.  吉林大學(xué)社會(huì)科學(xué)學(xué)報(bào). 2003(05)

博士論文
[1]再生核Hilbert空間的若干理論及應(yīng)用[D]. 高二.國(guó)防科學(xué)技術(shù)大學(xué) 2012

碩士論文
[1]線性與非線性多因子選股模型在A股市場(chǎng)應(yīng)用的比較研究[D]. 陳雨甜.哈爾濱工業(yè)大學(xué) 2019
[2]基于回歸法的多因子選股模型的投資組合分析[D]. 司曉彤.青島大學(xué) 2017
[3]四元數(shù)再生核希爾伯特空間微分理論及其應(yīng)用[D]. 許文翠.哈爾濱工程大學(xué) 2016
[4]支持向量機(jī)中核函數(shù)和參數(shù)選擇研究及其應(yīng)用[D]. 朱春雷.南京林業(yè)大學(xué) 2011
[5]支持向量機(jī)核函數(shù)的參數(shù)選擇方法[D]. 范瑞雅.重慶大學(xué) 2011
[6]支持向量機(jī)中Sigmoid核函數(shù)的研究[D]. 劉明.西安電子科技大學(xué) 2009



本文編號(hào)：3417042