協(xié)方差矩陣基礎(chǔ)

1、一、統(tǒng)計(jì)學(xué)的基本概念一、統(tǒng)計(jì)學(xué)的基本概念統(tǒng)計(jì)學(xué)里最基本的概念就是樣本的均值、方差、標(biāo)準(zhǔn)差。首先，我們給定一個(gè)含有n個(gè)樣本的集合，下面給出這些概念的公式描述：均值：標(biāo)準(zhǔn)差：方差：均值描述的是樣本集合的中間點(diǎn)，它告訴我們的信息是有限的，而標(biāo)準(zhǔn)差給我們描述的是樣本集合的各個(gè)樣本點(diǎn)到均值的距離之平均。以這兩個(gè)集合為例，[081220]和[891112]，兩個(gè)集合的均值都是10，但顯然兩個(gè)集合的差別是很大的，計(jì)算兩者的標(biāo)準(zhǔn)差，前者是8.3后者是1

2、.8，顯然后者較為集中，故其標(biāo)準(zhǔn)差小一些，標(biāo)準(zhǔn)差描述的就是這種“散布度”。之所以除以n1而不是n，是因?yàn)檫@樣能使我們以較小的樣本集更好地逼近總體的標(biāo)準(zhǔn)差，即統(tǒng)計(jì)上所謂的“無偏估計(jì)”。而方差則僅僅是標(biāo)準(zhǔn)差的平方。二、為什么需要協(xié)方差二、為什么需要協(xié)方差標(biāo)準(zhǔn)差和方差一般是用來描述一維數(shù)據(jù)的，但現(xiàn)實(shí)生活中我們常常會(huì)遇到含有多維數(shù)據(jù)的數(shù)據(jù)集，最簡單的是大家上學(xué)時(shí)免不了要統(tǒng)計(jì)多個(gè)學(xué)科的考試成績。面對(duì)這樣的數(shù)據(jù)集，我們當(dāng)然可以按照每一維獨(dú)立的計(jì)算其

3、方差，但是通常我們還想了解更多，比如，一個(gè)男孩子的猥瑣程度跟他受女孩子的歡迎程度是否存在一些聯(lián)系。協(xié)方差就是這樣一種用來度量兩個(gè)隨機(jī)變量關(guān)系的統(tǒng)計(jì)量，我們可以仿照方差的定義：來度量各個(gè)維度偏離其均值的程度，協(xié)方差可以這樣來定義：協(xié)方差的結(jié)果有什么意義呢？如果結(jié)果為正值，則說明兩者是正相關(guān)的（從協(xié)方差可以引出“相關(guān)系數(shù)”的定義），也就是說一個(gè)人越猥瑣越受女孩歡迎。如果結(jié)果為負(fù)值，就說明兩者是負(fù)圖1使用Matlab生成樣本集根據(jù)公式，計(jì)算協(xié)

4、方差需要計(jì)算均值，前面特別強(qiáng)調(diào)了，協(xié)方差矩陣是計(jì)算不同維度之間的協(xié)方差，要時(shí)刻牢記這一點(diǎn)。樣本矩陣的每行是一個(gè)樣本，每列是一個(gè)維度，因此我們要按列計(jì)算均值。為了描述方便，我們先將三個(gè)維度的數(shù)據(jù)分別賦值：圖2將三個(gè)維度的數(shù)據(jù)分別賦值計(jì)算dim1與dim2，dim1與dim3，dim2與dim3的協(xié)方差：圖3計(jì)算三個(gè)協(xié)方差協(xié)方差矩陣的對(duì)角線上的元素就是各個(gè)維度的方差，下面我們依次計(jì)算這些方差：圖4計(jì)算對(duì)角線上的方差這樣，我們就得到了計(jì)算協(xié)方