基于線性雙子支持向量機(jī)的特征選擇研究及應(yīng)用.pdf

1、在分類問題中，主要有兩種特征選擇方式。一種是算法獨(dú)立，例如F-score方法。F-score方法通過計算特征之間差異值，選出差異值較大的特征，簡單有效，但是該方法并不能展現(xiàn)特征之間的多重信息。另一種方式是算法依賴，例如SVM-RFE，該方法在運(yùn)算量上消耗較大，但是特征選擇的效果較好。
　　近些年，Jayadeva等人提出了雙子支持向量機(jī)的分類方法，該方法在分類思想上與傳統(tǒng)的支持向量機(jī)分類思想有所不同。雙子支持向量機(jī)尋求的是一對不平

2、行的分類超平面，從雙子支持向量機(jī)的模型便分解成兩個二次規(guī)劃問題，這相對于傳統(tǒng)的支持向量機(jī)來說在運(yùn)算量上大大降低，為原來的1/4。求解雙子支持向量機(jī)，在決策函數(shù)中，這兩個權(quán)重向量同時起作用。正是由于存在著兩個不同的權(quán)重向量，使得在基于雙子支持向量機(jī)的特征選擇問題就不能單獨(dú)利用其中一個權(quán)重向量進(jìn)行。針對這個問題，我們進(jìn)行了綜合分析，采用將這兩個權(quán)重向量進(jìn)行合并成一個權(quán)重向量的方法，提出了本文的兩種基于線性雙子支持向量機(jī)的特征選擇算法。本文把

3、第一種算法叫做sort-TWSVM，該算法的思想是將兩個權(quán)重向量合并成一個向量，接下來類似于F-score方法進(jìn)行特征選擇。該算法運(yùn)算量較小，速度快，一次性次刪去多個特征。第二種算法稱為TWSVM-RFE，該算法同樣先將兩個權(quán)重向量進(jìn)行合并，然后類似于SVM-RFE方法進(jìn)行特征選擇，該算法展示了各個特征之間的聯(lián)系，效果較好。
　　在數(shù)據(jù)實驗部分，我們通過對比F-score方法的實驗結(jié)果，驗證了本文提出的兩種特征選擇算法的可行性。并