數(shù)據(jù)統(tǒng)計(jì)分析的概念

| 2022-09-20 admin

01 描述統(tǒng)計(jì)

描述統(tǒng)計(jì)是通過圖表或數(shù)學(xué)方法,對(duì)數(shù)據(jù)資料進(jìn)行整理、分析,并對(duì)數(shù)據(jù)的分布狀態(tài)、數(shù)字特征和隨機(jī)變量之間關(guān)系進(jìn)行估計(jì)和描述的方法。描述統(tǒng)計(jì)分為集中趨勢(shì)分析和離中趨勢(shì)分析和相關(guān)分析三大部分。

集中趨勢(shì)分析:集中趨勢(shì)分析主要靠平均數(shù)、中數(shù)、眾數(shù)等統(tǒng)計(jì)指標(biāo)來表示數(shù)據(jù)的集中趨勢(shì)。例如被試的平均成績(jī)多少?是正偏分布還是負(fù)偏分布?

離中趨勢(shì)分析:離中趨勢(shì)分析主要靠全距、四分差、平均差、方差(協(xié)方差:用來度量?jī)蓚€(gè)隨機(jī)變量關(guān)系的統(tǒng)計(jì)量)、標(biāo)準(zhǔn)差等統(tǒng)計(jì)指標(biāo)來研究數(shù)據(jù)的離中趨勢(shì)。例如,我們想知道兩個(gè)教學(xué)班的語(yǔ)文成績(jī)中,哪個(gè)班級(jí)內(nèi)的成績(jī)分布更分散,就可以用兩個(gè)班級(jí)的四分差或百分點(diǎn)來比較。

相關(guān)分析:相關(guān)分析探討數(shù)據(jù)之間是否具有統(tǒng)計(jì)學(xué)上的關(guān)聯(lián)性。這種關(guān)系既包括兩個(gè)數(shù)據(jù)之間的單一相關(guān)關(guān)系——如年齡與個(gè)人領(lǐng)域空間之間的關(guān)系,也包括多個(gè)數(shù)據(jù)之間的多重相關(guān)關(guān)系——如年齡、抑郁癥發(fā)生率、個(gè)人領(lǐng)域空間之間的關(guān)系;既包括A大B就大(小),A小B就小(大)的直線相關(guān)關(guān)系,也可以是復(fù)雜相關(guān)關(guān)系(A=Y-B*X);既可以是A、B變量同時(shí)增大這種正相關(guān)關(guān)系,也可以是A變量增大時(shí)B變量減小這種負(fù)相關(guān),還包括兩變量共同變化的緊密程度——即相關(guān)系數(shù)。實(shí)際上,相關(guān)關(guān)系唯一不研究的數(shù)據(jù)關(guān)系,就是數(shù)據(jù)協(xié)同變化的內(nèi)在根據(jù)——即因果關(guān)系。獲得相關(guān)系數(shù)有什么用呢?簡(jiǎn)而言之,有了相關(guān)系數(shù),就可以根據(jù)回歸方程,進(jìn)行A變量到B變量的估算,這就是所謂的回歸分析,因此,相關(guān)分析是一種完整的統(tǒng)計(jì)研究方法,它貫穿于提出假設(shè),數(shù)據(jù)研究,數(shù)據(jù)分析,數(shù)據(jù)研究的始終。

例如,我們想知道對(duì)監(jiān)獄情景進(jìn)行什么改造,可以降低囚徒的暴力傾向。我們就需要將不同的囚舍顏色基調(diào)、囚舍綠化程度、囚室人口密度、放風(fēng)時(shí)間、探視時(shí)間進(jìn)行排列組合,然后讓每個(gè)囚室一種實(shí)驗(yàn)處理,然后用因素分析法找出與囚徒暴力傾向的相關(guān)系數(shù)最高的因素。假定這一因素為囚室人口密度,我們又要將被試隨機(jī)分入不同人口密度的十幾個(gè)囚室中生活,繼而得到人口密度和暴力傾向兩組變量(即我們討論過的A、B兩列變量)。然后,我們將人口密度排入X軸,將暴力傾向分排入Y軸,獲得了一個(gè)很有價(jià)值的圖表,當(dāng)某典獄長(zhǎng)想知道,某囚舍擴(kuò)建到N人/間囚室,暴力傾向能降低多少。我們可以當(dāng)前人口密度和改建后人口密度帶入相應(yīng)的回歸方程,算出擴(kuò)建前的預(yù)期暴力傾向和擴(kuò)建后的預(yù)期暴力傾向,兩數(shù)據(jù)之差即典獄長(zhǎng)想知道的結(jié)果。

推論統(tǒng)計(jì):

推論統(tǒng)計(jì)是統(tǒng)計(jì)學(xué)乃至于心理統(tǒng)計(jì)學(xué)中較為年輕的一部分內(nèi)容。它以統(tǒng)計(jì)結(jié)果為依據(jù),來證明或推翻某個(gè)命題。具體來說,就是通過分析樣本與樣本分布的差異,來估算樣本與總體、同一樣本的前后測(cè)成績(jī)差異,樣本與樣本的成績(jī)差距、總體與總體的成績(jī)差距是否具有顯著性差異。例如,我們想研究教育背景是否會(huì)影響人的智力測(cè)驗(yàn)成績(jī)??梢哉?00名24歲大學(xué)畢業(yè)生和100名24歲初中畢業(yè)生。采集他們的一些智力測(cè)驗(yàn)成績(jī)。用推論統(tǒng)計(jì)方法進(jìn)行數(shù)據(jù)處理,最后會(huì)得出類似這樣兒的結(jié)論:“研究發(fā)現(xiàn),大學(xué)畢業(yè)生組的成績(jī)顯著高于初中畢業(yè)生組的成績(jī),二者在0.01水平上具有顯著性差異,說明大學(xué)畢業(yè)生的一些智力測(cè)驗(yàn)成績(jī)優(yōu)于中學(xué)畢業(yè)生組。”

其中,如果用EXCEL 來求描述統(tǒng)計(jì)。其方法是:工具-加載宏-勾選"分析工具庫(kù)",然后關(guān)閉Excel然后重新打開,工具菜單就會(huì)出現(xiàn)"數(shù)據(jù)分析"。描述統(tǒng)計(jì)是“數(shù)據(jù)分析”內(nèi)一個(gè)子菜單,在做的時(shí)候,記得要把方格輸入正確。最好直接點(diǎn)選。

正態(tài)性檢驗(yàn):很多統(tǒng)計(jì)方法都要求數(shù)值服從或近似服從正態(tài)分布,所以之前需要進(jìn)行正態(tài)性檢驗(yàn)。常用方法:非參數(shù)檢驗(yàn)的K-量檢驗(yàn)、P-P圖、Q-Q圖、W檢驗(yàn)、動(dòng)差法。

02 假設(shè)檢驗(yàn)

1、參數(shù)檢驗(yàn)

參數(shù)檢驗(yàn)是在已知總體分布的條件下(一股要求總體服從正態(tài)分布)對(duì)一些主要的參數(shù)(如均值、百分?jǐn)?shù)、方差、相關(guān)系數(shù)等)進(jìn)行的檢驗(yàn)。

1)U驗(yàn) :使用條件:當(dāng)樣本含量n較大時(shí),樣本值符合正態(tài)分布

2)T檢驗(yàn) 使用條件:當(dāng)樣本含量n較小時(shí),樣本值符合正態(tài)分布

A 單樣本t檢驗(yàn):推斷該樣本來自的總體均數(shù)μ與已知的某一總體均數(shù)μ0 (常為理論值或標(biāo)準(zhǔn)值)有無差別;

B 配對(duì)樣本t檢驗(yàn):當(dāng)總體均數(shù)未知時(shí),且兩個(gè)樣本可以配對(duì),同對(duì)中的兩者在可能會(huì)影響處理效果的各種條件方面扱為相似;

C 兩獨(dú)立樣本t檢驗(yàn):無法找到在各方面極為相似的兩樣本作配對(duì)比較時(shí)使用。

2、非參數(shù)檢驗(yàn)

非參數(shù)檢驗(yàn)則不考慮總體分布是否已知,常常也不是針對(duì)總體參數(shù),而是針對(duì)總體的某些一股性假設(shè)(如總體分布的位罝是否相同,總體分布是否正態(tài))進(jìn)行檢驗(yàn)。

適用情況:順序類型的數(shù)據(jù)資料,這類數(shù)據(jù)的分布形態(tài)一般是未知的。

A 雖然是連續(xù)數(shù)據(jù),但總體分布形態(tài)未知或者非正態(tài);

B 體分布雖然正態(tài),數(shù)據(jù)也是連續(xù)類型,但樣本容量極小,如10以下;

主要方法包括:卡方檢驗(yàn)、秩和檢驗(yàn)、二項(xiàng)檢驗(yàn)、游程檢驗(yàn)、K-量檢驗(yàn)等。

03 信度分析

介紹:信度(Reliability)即可靠性,它是指采用同樣的方法對(duì)同一對(duì)象重復(fù)測(cè)量時(shí)所得結(jié)果的一致性程度。信度指標(biāo)多以相關(guān)系數(shù)表示,大致可分為三類:穩(wěn)定系數(shù)(跨時(shí)間的一致性),等值系數(shù)(跨形式的一致性)和內(nèi)在一致性系數(shù)(跨項(xiàng)目的一致性)。信度分析的方法主要有以下四種:重測(cè)信度法、復(fù)本信度法、折半信度法、α信度系數(shù)法。

方法:

(1)重測(cè)信度法編輯:這一方法是用同樣的問卷對(duì)同一組被調(diào)查者間隔一定時(shí)間重復(fù)施測(cè),計(jì)算兩次施測(cè)結(jié)果的相關(guān)系數(shù)。顯然,重測(cè)信度屬于穩(wěn)定系數(shù)。重測(cè)信度法特別適用于事實(shí)式問卷,如性別、出生年月等在兩次施測(cè)中不應(yīng)有任何差異,大多數(shù)被調(diào)查者的興趣、愛好、習(xí)慣等在短時(shí)間內(nèi)也不會(huì)有十分明顯的變化。如果沒有突發(fā)事件導(dǎo)致被調(diào)查者的態(tài)度、意見突變,這種方法也適用于態(tài)度、意見式問卷。由于重測(cè)信度法需要對(duì)同一樣本試測(cè)兩次,被調(diào)查者容易受到各種事件、活動(dòng)和他人的影響,而且間隔時(shí)間長(zhǎng)短也有一定限制,因此在實(shí)施中有一定困難。

(2)復(fù)本信度法編輯:讓同一組被調(diào)查者一次填答兩份問卷復(fù)本,計(jì)算兩個(gè)復(fù)本的相關(guān)系數(shù)。復(fù)本信度屬于等值系數(shù)。復(fù)本信度法要求兩個(gè)復(fù)本除表述方式不同外,在內(nèi)容、格式、難度和對(duì)應(yīng)題項(xiàng)的提問方向等方面要完全一致,而在實(shí)際調(diào)查中,很難使調(diào)查問卷達(dá)到這種要求,因此采用這種方法者較少。

(3)折半信度法編輯:折半信度法是將調(diào)查項(xiàng)目分為兩半,計(jì)算兩半得分的相關(guān)系數(shù),進(jìn)而估計(jì)整個(gè)量表的信度。折半信度屬于內(nèi)在一致性系數(shù),測(cè)量的是兩半題項(xiàng)得分間的一致性。這種方法一般不適用于事實(shí)式問卷(如年齡與性別無法相比),常用于態(tài)度、意見式問卷的信度分析。在問卷調(diào)查中,態(tài)度測(cè)量最常見的形式是5級(jí)李克特(Likert)量表(李克特量表(Likert scale)是屬評(píng)分加總式量表最常用的一種,屬同一構(gòu)念的這些項(xiàng)目是用加總方式來計(jì)分,單獨(dú)或個(gè)別項(xiàng)目是無意義的。它是由美國(guó)社會(huì)心理學(xué)家李克特于1932年在原有的總加量表基礎(chǔ)上改進(jìn)而成的。該量表由一組陳述組成,每一陳述有"非常同意"、"同意"、"不一定"、"不同意"、"非常不同意"五種回答,分別記為5、4、3、2、1,每個(gè)被調(diào)查者的態(tài)度總分就是他對(duì)各道題的回答所得分?jǐn)?shù)的加總,這一總分可說明他的態(tài)度強(qiáng)弱或他在這一量表上的不同狀態(tài)。)。進(jìn)行折半信度分析時(shí),如果量表中含有反意題項(xiàng),應(yīng)先將反意題項(xiàng)的得分作逆向處理,以保證各題項(xiàng)得分方向的一致性,然后將全部題項(xiàng)按奇偶或前后分為盡可能相等的兩半,計(jì)算二者的相關(guān)系數(shù)(rhh,即半個(gè)量表的信度系數(shù)),最后用斯皮爾曼-布朗(Spearman-Brown)公式:求出整個(gè)量表的信度系數(shù)(ru)。

(4)α信度系數(shù)法編輯:Cronbach α信度系數(shù)是目前最常用的信度系數(shù),其公式為:

α=(k/(k-1))*(1-(∑Si^2)/ST^2)

其中,K為量表中題項(xiàng)的總數(shù), Si^2為第i題得分的題內(nèi)方差, ST^2為全部題項(xiàng)總得分的方差。從公式中可以看出,α系數(shù)評(píng)價(jià)的是量表中各題項(xiàng)得分間的一致性,屬于內(nèi)在一致性系數(shù)。這種方法適用于態(tài)度、意見式問卷(量表)的信度分析。

總量表的信度系數(shù)最好在0.8以上,0.7-0.8之間可以接受;分量表的信度系數(shù)最好在0.7以上,0.6-0.7還可以接受。Cronbach 's alpha系數(shù)如果在0.6以下就要考慮重新編問卷。

檢査測(cè)量的可信度,例如調(diào)查問卷的真實(shí)性。

分類:

1、外在信度:不同時(shí)間測(cè)量時(shí)量表的一致性程度,常用方法重測(cè)信度

2、內(nèi)在信度;每個(gè)量表是否測(cè)量到單一的概念,同時(shí)組成兩表的內(nèi)在體項(xiàng)一致性如何,常用方法分半信度。

04 列聯(lián)表分析

列聯(lián)表是觀測(cè)數(shù)據(jù)按兩個(gè)或更多屬性(定性變量)分類時(shí)所列出的頻數(shù)表。

簡(jiǎn)介:一般,若總體中的個(gè)體可按兩個(gè)屬性A、B分類,A有r個(gè)等級(jí)A1,A2,…,Ar,B有c個(gè)等級(jí)B1,B2,…,Bc,從總體中抽取大小為n的樣本,設(shè)其中有nij個(gè)個(gè)體的屬性屬于等級(jí)Ai和Bj,nij稱為頻數(shù),將r×c個(gè)nij排列為一個(gè)r行c列的二維列聯(lián)表,簡(jiǎn)稱r×c表。若所考慮的屬性多于兩個(gè),也可按類似的方式作出列聯(lián)表,稱為多維列聯(lián)表。

列聯(lián)表又稱交互分類表,所謂交互分類,是指同時(shí)依據(jù)兩個(gè)變量的值,將所研究的個(gè)案分類。交互分類的目的是將兩變量分組,然后比較各組的分布狀況,以尋找變量間的關(guān)系。

用于分析離散變量或定型變量之間是否存在相關(guān)。

列聯(lián)表分析的基本問題是,判明所考察的各屬性之間有無關(guān)聯(lián),即是否獨(dú)立。如在前例中,問題是:一個(gè)人是否色盲與其性別是否有關(guān)?在r×с表中,若以pi、pj和pij分別表示總體中的個(gè)體屬于等級(jí)Ai,屬于等級(jí)Bj和同時(shí)屬于Ai、Bj的概率(pi,pj稱邊緣概率,pij稱格概率),“A、B兩屬性無關(guān)聯(lián)”的假設(shè)可以表述為H0:pij=pi·pj,(i=1,2,…,r;j=1,2,…,с),未知參數(shù)pij、pi、pj的最大似然估計(jì)(見點(diǎn)估計(jì))分別為行和及列和(統(tǒng)稱邊緣和)。

為樣本大小。根據(jù)K.皮爾森(1904)的擬合優(yōu)度檢驗(yàn)或似然比檢驗(yàn)(見假設(shè)檢驗(yàn)),當(dāng)h0成立,且一切pi>0和pj>0時(shí),統(tǒng)計(jì)量的漸近分布是自由度為(r-1)(с-1) 的Ⅹ分布,式中Eij=(ni·nj)/n稱為期望頻數(shù)。當(dāng)n足夠大,且表中各格的Eij都不太小時(shí),可以據(jù)此對(duì)h0作檢驗(yàn):若Ⅹ值足夠大,就拒絕假設(shè)h0,即認(rèn)為A與B有關(guān)聯(lián)。在前面的色覺問題中,曾按此檢驗(yàn),判定出性別與色覺之間存在某種關(guān)聯(lián)。

需要注意:

若樣本大小n不很大,則上述基于漸近分布的方法就不適用。對(duì)此,在四格表情形,R.A.費(fèi)希爾(1935)提出了一種適用于所有n的精確檢驗(yàn)法。其思想是在固定各邊緣和的條件下,根據(jù)超幾何分布(見概率分布),可以計(jì)算觀測(cè)頻數(shù)出現(xiàn)任意一種特定排列的條件概率。把實(shí)際出現(xiàn)的觀測(cè)頻數(shù)排列,以及比它呈現(xiàn)更多關(guān)聯(lián)跡象的所有可能排列的條件概率都算出來并相加,若所得結(jié)果小于給定的顯著性水平,則判定所考慮的兩個(gè)屬性存在關(guān)聯(lián),從而拒絕h0。

對(duì)于二維表,可進(jìn)行卡方檢驗(yàn),對(duì)于三維表,可作Mentel-Hanszel分層分析。

列聯(lián)表分析還包括配對(duì)計(jì)數(shù)資料的卡方檢驗(yàn)、行列均為順序變量的相關(guān)檢驗(yàn)。

05 相關(guān)分析

研究現(xiàn)象之間是否存在某種依存關(guān)系,對(duì)具體有依存關(guān)系的現(xiàn)象探討相關(guān)方向及相關(guān)程度。

1、單相關(guān):兩個(gè)因素之間的相關(guān)關(guān)系叫單相關(guān),即研究時(shí)只涉及一個(gè)自變量和一個(gè)因變量;

2、復(fù)相關(guān) :三個(gè)或三個(gè)以上因素的相關(guān)關(guān)系叫復(fù)相關(guān),即研究時(shí)涉及兩個(gè)或兩個(gè)以上的自變量和因變量相關(guān);

3、偏相關(guān):在某一現(xiàn)象與多種現(xiàn)象相關(guān)的場(chǎng)合,當(dāng)假定其他變量不變時(shí),其中兩個(gè)變量之間的相關(guān)關(guān)系稱為偏相關(guān)。

06 方差分析

使用條件:各樣本須是相互獨(dú)立的隨機(jī)樣本;各樣本來自正態(tài)分布總體;各總體方差相等。

分類

1、單因素方差分析:一項(xiàng)試驗(yàn)只有一個(gè)影響因素,或者存在多個(gè)影響因素時(shí),只分析一個(gè)因素與響應(yīng)變量的關(guān)系;

2、多因素有交互方差分析:一頊實(shí)驗(yàn)有多個(gè)影響因素,分析多個(gè)影響因素與響應(yīng)變量的關(guān)系,同時(shí)考慮多個(gè)影響因素之間的關(guān)系;

3、多因素?zé)o交互方差分析:分析多個(gè)影響因素與響應(yīng)變量的關(guān)系,但是影響因素之間沒有影響關(guān)系或忽略影響關(guān)系;

4、協(xié)方差分祈:傳統(tǒng)的方差分析存在明顯的弊端,無法控制分析中存在的某些隨機(jī)因素,使之影響了分祈結(jié)果的準(zhǔn)確度。協(xié)方差分析主要是在排除了協(xié)變量的影響后再對(duì)修正后的主效應(yīng)進(jìn)行方差分析,是將線性回歸與方差分析結(jié)合起來的一種分析方法。

07 回歸分析

分類:

1、一元線性回歸分析:只有一個(gè)自變量X與因變量Y有關(guān),X與Y都必須是連續(xù)型變量,因變量y或其殘差必須服從正態(tài)分布。

2、多元線性回歸分析。

使用條件:分析多個(gè)自變量與因變量Y的關(guān)系,X與Y都必須是連續(xù)型變量,因變量y或其殘差必須服從正態(tài)分布 。

1)變呈篩選方式:選擇最優(yōu)回歸方程的變里篩選法包括全橫型法(CP法)、逐步回歸法,向前引入法和向后剔除法。

2)橫型診斷方法:

A 殘差檢驗(yàn):觀測(cè)值與估計(jì)值的差值要艱從正態(tài)分布

B 強(qiáng)影響點(diǎn)判斷:尋找方式一般分為標(biāo)準(zhǔn)誤差法、Mahalanobis距離法

C 共線性診斷:

• 診斷方式:容忍度、方差擴(kuò)大因子法(又稱膨脹系數(shù)VIF)、特征根判定法、條件指針CI、方差比例

• 處理方法:增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等

3、Logistic回歸分析

線性回歸模型要求因變量是連續(xù)的正態(tài)分布變里,且自變量和因變量呈線性關(guān)系,而Logistic回歸模型對(duì)因變量的分布沒有要求,一般用于因變量是離散時(shí)的情況。

分類:

Logistic回歸模型有條件與非條件之分,條件Logistic回歸模型和非條件Logistic回歸模型的區(qū)別在于參數(shù)的估計(jì)是否用到了條件概率。

4、其他回歸方法 非線性回歸、有序回歸、Probit回歸、加權(quán)回歸等

08 聚類分析

聚類與分類的不同在于,聚類所要求劃分的類是未知的。

聚類是將數(shù)據(jù)分類到不同的類或者簇這樣的一個(gè)過程,所以同一個(gè)簇中的對(duì)象有很大的相似性,而不同簇間的對(duì)象有很大的相異性。

從統(tǒng)計(jì)學(xué)的觀點(diǎn)看,聚類分析是通過數(shù)據(jù)建模簡(jiǎn)化數(shù)據(jù)的一種方法。傳統(tǒng)的統(tǒng)計(jì)聚類分析方法包括系統(tǒng)聚類法、分解法、加入法、動(dòng)態(tài)聚類法、有序樣品聚類、有重疊聚類和模糊聚類等。采用k-均值、k-中心點(diǎn)等算法的聚類分析工具已被加入到許多著名的統(tǒng)計(jì)分析軟件包中,如SPSS、SAS等。

從機(jī)器學(xué)習(xí)的角度講,簇相當(dāng)于隱藏模式。聚類是搜索簇的無監(jiān)督學(xué)習(xí)過程。與分類不同,無監(jiān)督學(xué)習(xí)不依賴預(yù)先定義的類或帶類標(biāo)記的訓(xùn)練實(shí)例,需要由聚類學(xué)習(xí)算法自動(dòng)確定標(biāo)記,而分類學(xué)習(xí)的實(shí)例或數(shù)據(jù)對(duì)象有類別標(biāo)記。聚類是觀察式學(xué)習(xí),而不是示例式的學(xué)習(xí)。

聚類分析是一種探索性的分析,在分類的過程中,人們不必事先給出一個(gè)分類的標(biāo)準(zhǔn),聚類分析能夠從樣本數(shù)據(jù)出發(fā),自動(dòng)進(jìn)行分類。聚類分析所使用方法的不同,常常會(huì)得到不同的結(jié)論。不同研究者對(duì)于同一組數(shù)據(jù)進(jìn)行聚類分析,所得到的聚類數(shù)未必一致。

從實(shí)際應(yīng)用的角度看,聚類分析是數(shù)據(jù)挖掘的主要任務(wù)之一。而且聚類能夠作為一個(gè)獨(dú)立的工具獲得數(shù)據(jù)的分布狀況,觀察每一簇?cái)?shù)據(jù)的特征,集中對(duì)特定的聚簇集合作進(jìn)一步地分析。聚類分析還可以作為其他算法(如分類和定性歸納算法)的預(yù)處理步驟。

定義:

依據(jù)研究對(duì)象(樣品或指標(biāo))的特征,對(duì)其進(jìn)行分類的方法,減少研究對(duì)象的數(shù)目。

各類事物缺乏可靠的歷史資料,無法確定共有多少類別,目的是將性質(zhì)相近事物歸入一類。

各指標(biāo)之間具有一定的相關(guān)關(guān)系。

聚類分析(cluster analysis)是一組將研究對(duì)象分為相對(duì)同質(zhì)的群組(clusters)的統(tǒng)計(jì)分析技術(shù)。聚類分析區(qū)別于分類分析(classification analysis) ,后者是有監(jiān)督的學(xué)習(xí)。

變量類型:定類變量、定量(離散和連續(xù))變量。

樣本個(gè)體或指標(biāo)變量按其具有的特性進(jìn)行分類,尋找合理的度量事物相似性的統(tǒng)計(jì)量。

1、性質(zhì)分類:

Q型聚類分析:對(duì)樣本進(jìn)行分類處理,又稱樣本聚類分祈使用距離系數(shù)作為統(tǒng)計(jì)量衡量相似度,如歐式距離、極端距離、絕對(duì)距離等;

R型聚類分析:對(duì)指標(biāo)進(jìn)行分類處理,又稱指標(biāo)聚類分析使用相似系數(shù)作為統(tǒng)計(jì)量衡量相似度,相關(guān)系數(shù)、列聯(lián)系數(shù)等。

2、方法分類:

1)系統(tǒng)聚類法:適用于小樣本的樣本聚類或指標(biāo)聚類,一般用系統(tǒng)聚類法來聚類指標(biāo),又稱分層聚類;

2)逐步聚類法:適用于大樣本的樣本聚類;

3)其他聚類法:兩步聚類、K均值聚類等。

09 判別分析

1、判別分析:根據(jù)已掌握的一批分類明確的樣品建立判別函數(shù),使產(chǎn)生錯(cuò)判的事例最少,進(jìn)而對(duì)給定的一個(gè)新樣品,判斷它來自哪個(gè)總體。

2、與聚類分析區(qū)別:

1)聚類分析可以對(duì)樣本逬行分類,也可以對(duì)指標(biāo)進(jìn)行分類;而判別分析只能對(duì)樣本;

2)聚類分析事先不知道事物的類別,也不知道分幾類;而判別分析必須事先知道事物的類別,也知道分幾類;

3)聚類分析不需要分類的歷史資料,而直接對(duì)樣本進(jìn)行分類;而判別分析需要分類歷史資料去建立判別函數(shù),然后才能對(duì)樣本進(jìn)行分類。

3、進(jìn)行分類 :

1)Fisher判別分析法 :

以距離為判別準(zhǔn)則來分類,即樣本與哪個(gè)類的距離最短就分到哪一類,適用于兩類判別;

以概率為判別準(zhǔn)則來分類,即樣本屬于哪一類的概率最大就分到哪一類,適用于

適用于多類判別。

2)BAYES判別分析法 :

BAYES判別分析法比FISHER判別分析法更加完善和先進(jìn),它不僅能解決多類判別分析,而且分析時(shí)考慮了數(shù)據(jù)的分布狀態(tài),所以一般較多使用;

10 主成分分析

介紹:主成分分析(Principal Component Analysis,PCA), 是一種統(tǒng)計(jì)方法。通過正交變換將一組可能存在相關(guān)性的變量轉(zhuǎn)換為一組線性不相關(guān)的變量,轉(zhuǎn)換后的這組變量叫主成分。

在實(shí)際課題中,為了全面分析問題,往往提出很多與此有關(guān)的變量(或因素),因?yàn)槊總€(gè)變量都在不同程度上反映這個(gè)課題的某些信息。

主成分分析首先是由K.皮爾森(Karl Pearson)對(duì)非隨機(jī)變量引入的,爾后H.霍特林將此方法推廣到隨機(jī)向量的情形。信息的大小通常用離差平方和或方差來衡量。

將彼此梠關(guān)的一組指標(biāo)變適轉(zhuǎn)化為彼此獨(dú)立的一組新的指標(biāo)變量,并用其中較少的幾個(gè)新指標(biāo)變量就能綜合反應(yīng)原多個(gè)指標(biāo)變量中所包含的主要信息。

原理:在用統(tǒng)計(jì)分析方法研究多變量的課題時(shí),變量個(gè)數(shù)太多就會(huì)增加課題的復(fù)雜性。人們自然希望變量個(gè)數(shù)較少而得到的信息較多。在很多情形,變量之間是有一定的相關(guān)關(guān)系的,當(dāng)兩個(gè)變量之間有一定相關(guān)關(guān)系時(shí),可以解釋為這兩個(gè)變量反映此課題的信息有一定的重疊。主成分分析是對(duì)于原先提出的所有變量,將重復(fù)的變量(關(guān)系緊密的變量)刪去多余,建立盡可能少的新變量,使得這些新變量是兩兩不相關(guān)的,而且這些新變量在反映課題的信息方面盡可能保持原有的信息。

設(shè)法將原來變量重新組合成一組新的互相無關(guān)的幾個(gè)綜合變量,同時(shí)根據(jù)實(shí)際需要從中可以取出幾個(gè)較少的綜合變量盡可能多地反映原來變量的信息的統(tǒng)計(jì)方法叫做主成分分析或稱主分量分析,也是數(shù)學(xué)上用來降維的一種方法。

缺點(diǎn):

1、在主成分分析中,我們首先應(yīng)保證所提取的前幾個(gè)主成分的累計(jì)貢獻(xiàn)率達(dá)到一個(gè)較高的水平(即變量降維后的信息量須保持在一個(gè)較高水平上),其次對(duì)這些被提取的主成分必須都能夠給出符合實(shí)際背景和意義的解釋(否則主成分將空有信息量而無實(shí)際含義)。

2、主成分的解釋其含義一般多少帶有點(diǎn)模糊性,不像原始變量的含義那么清楚、確切,這是變量降維過程中不得不付出的代價(jià)。因此,提取的主成分個(gè)數(shù)m通常應(yīng)明顯小于原始變量個(gè)數(shù)p(除非p本身較小),否則維數(shù)降低的“利”可能抵不過主成分含義不如原始變量清楚的“弊”。

11 因子分析

一種旨在尋找隱藏在多變量數(shù)據(jù)中、無法直接觀察到卻影響或支配可測(cè)變量的潛在因子、并估計(jì)潛在因子對(duì)可測(cè)變量的影響程度以及潛在因子之間的相關(guān)性的一種多元統(tǒng)計(jì)分析方法。

與主成分分析比較:

相同:都能夠起到治理多個(gè)原始變量?jī)?nèi)在結(jié)構(gòu)關(guān)系的作用

不同:主成分分析重在綜合原始變適的信息.而因子分析重在解釋原始變量間的關(guān)系,是比主成分分析更深入的一種多元統(tǒng)計(jì)方法

用途:

1)減少分析變量個(gè)數(shù)

2)通過對(duì)變量間相關(guān)關(guān)系探測(cè),將原始變量進(jìn)行分類

12 時(shí)間序列分析

動(dòng)態(tài)數(shù)據(jù)處理的統(tǒng)計(jì)方法,研究隨機(jī)數(shù)據(jù)序列所遵從的統(tǒng)計(jì)規(guī)律,以用于解決實(shí)際問題;時(shí)間序列通常由4種要素組成:趨勢(shì)、季節(jié)變動(dòng)、循環(huán)波動(dòng)和不規(guī)則波動(dòng)。

主要方法:移動(dòng)平均濾波與指數(shù)平滑法、ARIMA橫型、量ARIMA橫型、ARIMAX模型、向呈自回歸橫型、ARCH族模型。

時(shí)間序列是指同一變量按事件發(fā)生的先后順序排列起來的一組觀察值或記錄值。構(gòu)成時(shí)間序列的要素有兩個(gè):其一是時(shí)間,其二是與時(shí)間相對(duì)應(yīng)的變量水平。實(shí)際數(shù)據(jù)的時(shí)間序列能夠展示研究對(duì)象在一定時(shí)期內(nèi)的發(fā)展變化趨勢(shì)與規(guī)律,因而可以從時(shí)間序列中找出變量變化的特征、趨勢(shì)以及發(fā)展規(guī)律,從而對(duì)變量的未來變化進(jìn)行有效地預(yù)測(cè)。

時(shí)間序列的變動(dòng)形態(tài)一般分為四種:長(zhǎng)期趨勢(shì)變動(dòng),季節(jié)變動(dòng),循環(huán)變動(dòng),不規(guī)則變動(dòng)。

時(shí)間序列預(yù)測(cè)法的應(yīng)用:

系統(tǒng)描述:根據(jù)對(duì)系統(tǒng)進(jìn)行觀測(cè)得到的時(shí)間序列數(shù)據(jù),用曲線擬合方法對(duì)系統(tǒng)進(jìn)行客觀的描述;

系統(tǒng)分析:當(dāng)觀測(cè)值取自兩個(gè)以上變量時(shí),可用一個(gè)時(shí)間序列中的變化去說明另一個(gè)時(shí)間序列中的變化,從而深入了解給定時(shí)間序列產(chǎn)生的機(jī)理;

預(yù)測(cè)未來:一般用ARMA模型擬合時(shí)間序列,預(yù)測(cè)該時(shí)間序列未來值;

決策和控制:根據(jù)時(shí)間序列模型可調(diào)整輸入變量使系統(tǒng)發(fā)展過程保持在目標(biāo)值上,即預(yù)測(cè)到過程要偏離目標(biāo)時(shí)便可進(jìn)行必要的控制。

特點(diǎn):

假定事物的過去趨勢(shì)會(huì)延伸到未來;

預(yù)測(cè)所依據(jù)的數(shù)據(jù)具有不規(guī)則性;

撇開了市場(chǎng)發(fā)展之間的因果關(guān)系。

①時(shí)間序列分析預(yù)測(cè)法是根據(jù)市場(chǎng)過去的變化趨勢(shì)預(yù)測(cè)未來的發(fā)展,它的前提是假定事物的過去會(huì)同樣延續(xù)到未來。事物的現(xiàn)實(shí)是歷史發(fā)展的結(jié)果,而事物的未來又是現(xiàn)實(shí)的延伸,事物的過去和未來是有聯(lián)系的。市場(chǎng)預(yù)測(cè)的時(shí)間序列分析法,正是根據(jù)客觀事物發(fā)展的這種連續(xù)規(guī)律性,運(yùn)用過去的歷史數(shù)據(jù),通過統(tǒng)計(jì)分析,進(jìn)一步推測(cè)市場(chǎng)未來的發(fā)展趨勢(shì)。市場(chǎng)預(yù)測(cè)中,事物的過去會(huì)同樣延續(xù)到未來,其意思是說,市場(chǎng)未來不會(huì)發(fā)生突然跳躍式變化,而是漸進(jìn)變化的。

時(shí)間序列分析預(yù)測(cè)法的哲學(xué)依據(jù),是唯物辯證法中的基本觀點(diǎn),即認(rèn)為一切事物都是發(fā)展變化的,事物的發(fā)展變化在時(shí)間上具有連續(xù)性,市場(chǎng)現(xiàn)象也是這樣。市場(chǎng)現(xiàn)象過去和現(xiàn)在的發(fā)展變化規(guī)律和發(fā)展水平,會(huì)影響到市場(chǎng)現(xiàn)象未來的發(fā)展變化規(guī)律和規(guī)模水平;市場(chǎng)現(xiàn)象未來的變化規(guī)律和水平,是市場(chǎng)現(xiàn)象過去和現(xiàn)在變化規(guī)律和發(fā)展水平的結(jié)果。

需要指出,由于事物的發(fā)展不僅有連續(xù)性的特點(diǎn),而且又是復(fù)雜多樣的。因此,在應(yīng)用時(shí)間序列分析法進(jìn)行市場(chǎng)預(yù)測(cè)時(shí)應(yīng)注意市場(chǎng)現(xiàn)象未來發(fā)展變化規(guī)律和發(fā)展水平,不一定與其歷史和現(xiàn)在的發(fā)展變化規(guī)律完全一致。隨著市場(chǎng)現(xiàn)象的發(fā)展,它還會(huì)出現(xiàn)一些新的特點(diǎn)。因此,在時(shí)間序列分析預(yù)測(cè)中,決不能機(jī)械地按市場(chǎng)現(xiàn)象過去和現(xiàn)在的規(guī)律向外延伸。必須要研究分析市場(chǎng)現(xiàn)象變化的新特點(diǎn),新表現(xiàn),并且將這些新特點(diǎn)和新表現(xiàn)充分考慮在預(yù)測(cè)值內(nèi)。這樣才能對(duì)市場(chǎng)現(xiàn)象做出既延續(xù)其歷史變化規(guī)律,又符合其現(xiàn)實(shí)表現(xiàn)的可靠的預(yù)測(cè)結(jié)果。

②時(shí)間序列分析預(yù)測(cè)法突出了時(shí)間因素在預(yù)測(cè)中的作用,暫不考慮外界具體因素的影響。時(shí)間序列在時(shí)間序列分析預(yù)測(cè)法處于核心位置,沒有時(shí)間序列,就沒有這一方法的存在。雖然,預(yù)測(cè)對(duì)象的發(fā)展變化是受很多因素影響的。但是,運(yùn)用時(shí)間序列分析進(jìn)行量的預(yù)測(cè),實(shí)際上將所有的影響因素歸結(jié)到時(shí)間這一因素上,只承認(rèn)所有影響因素的綜合作用,并在未來對(duì)預(yù)測(cè)對(duì)象仍然起作用,并未去分析探討預(yù)測(cè)對(duì)象和影響因素之間的因果關(guān)系。因此,為了求得能反映市場(chǎng)未來發(fā)展變化的精確預(yù)測(cè)值,在運(yùn)用時(shí)間序列分析法進(jìn)行預(yù)測(cè)時(shí),必須將量的分析方法和質(zhì)的分析方法結(jié)合起來,從質(zhì)的方面充分研究各種因素與市場(chǎng)的關(guān)系,在充分分析研究影響市場(chǎng)變化的各種因素的基礎(chǔ)上確定預(yù)測(cè)值。

需要指出的是,時(shí)間序列預(yù)測(cè)法因突出時(shí)間序列暫不考慮外界因素影響,因而存在著預(yù)測(cè)誤差的缺陷,當(dāng)遇到外界發(fā)生較大變化,往往會(huì)有較大偏差,時(shí)間序列預(yù)測(cè)法對(duì)于中短期預(yù)測(cè)的效果要比長(zhǎng)期預(yù)測(cè)的效果好。因?yàn)榭陀^事物,尤其是經(jīng)濟(jì)現(xiàn)象,在一個(gè)較長(zhǎng)時(shí)間內(nèi)發(fā)生外界因素變化的可能性加大,它們對(duì)市場(chǎng)經(jīng)濟(jì)現(xiàn)象必定要產(chǎn)生重大影響。如果出現(xiàn)這種情況,進(jìn)行預(yù)測(cè)時(shí),只考慮時(shí)間因素不考慮外界因素對(duì)預(yù)測(cè)對(duì)象的影響,其預(yù)測(cè)結(jié)果就會(huì)與實(shí)際狀況嚴(yán)重不符。

13 生存分析

用來研究生存時(shí)間的分布規(guī)律以及生存時(shí)間和相關(guān)因索之間關(guān)系的一種統(tǒng)計(jì)分析方法:

1、包含內(nèi)容:

1)描述生存過程,即研究生存時(shí)間的分布規(guī)律

2)比較生存過程,即研究?jī)山M或多組生存時(shí)間的分布規(guī)律,并進(jìn)行比較

3)分析危險(xiǎn)因素,即研究危險(xiǎn)因素對(duì)生存過程的影響

4)建立數(shù)學(xué)模型,即將生存時(shí)間與相關(guān)危險(xiǎn)因素的依存關(guān)系用一個(gè)數(shù)學(xué)式子表示出來。

2、方法:

1)統(tǒng)計(jì)描述:包括求生存時(shí)間的分位數(shù)、中數(shù)生存期、平均數(shù)、生存函數(shù)的估計(jì)、判斷生存時(shí)間的圖示法,不對(duì)所分析的數(shù)據(jù)作出任何統(tǒng)計(jì)推斷結(jié)論

2)非參數(shù)檢驗(yàn):檢驗(yàn)分組變量各水平所對(duì)應(yīng)的生存曲線是否一致,對(duì)生存時(shí)間的分布沒有要求,并且檢驗(yàn)危險(xiǎn)因素對(duì)生存時(shí)間的影響。

A 乘積極限法(PL法)

B 壽命表法(LT法)

3)半?yún)?shù)橫型回歸分析:在特定的假設(shè)之下,建立生存時(shí)間隨多個(gè)危險(xiǎn)因素變化的回歸方程,這種方法的代表是Cox比例風(fēng)險(xiǎn)回歸分析法

4)參數(shù)模型回歸分析:已知生存時(shí)間服從特定的參數(shù)橫型時(shí),擬合相應(yīng)的參數(shù)模型,更準(zhǔn)確地分析確定變量之間的變化規(guī)律

14 典型相關(guān)分析

相關(guān)分析一般分析兩個(gè)變量之間的關(guān)系,而典型相關(guān)分析是分析兩組變量(如3個(gè)學(xué)術(shù)能力指標(biāo)與5個(gè)在校成績(jī)表現(xiàn)指標(biāo))之間相關(guān)性的一種統(tǒng)計(jì)分析方法。

典型相關(guān)分析的基本思想和主成分分析的基本思想相似,它將一組變量與另一組變量之間單變量的多重線性相關(guān)性研究轉(zhuǎn)化為對(duì)少數(shù)幾對(duì)綜合變量之間的簡(jiǎn)單線性相關(guān)性的研究,并且這少數(shù)幾對(duì)變量所包含的線性相關(guān)性的信息幾乎覆蓋了原變量組所包含的全部相應(yīng)信息。

15 R0C分析

R0C曲線是根據(jù)一系列不同的二分類方式(分界值或決定閾).以真陽(yáng)性率(靈敏度)為縱坐標(biāo),假陽(yáng)性率(1-特異度)為橫坐標(biāo)繪制的曲線。

用途:

1、R0C曲線能很容易地査出任意界限值時(shí)的對(duì)疾病的識(shí)別能力

用途;

2、選擇最佳的診斷界限值。R0C曲線越靠近左上角,試驗(yàn)的準(zhǔn)確性就越高;

3、兩種或兩種以上不同診斷試驗(yàn)對(duì)疾病識(shí)別能力的比較,一股用R0C曲線下面積反映診斷系統(tǒng)的準(zhǔn)確性。

16 其他分析方法

多重響應(yīng)分析、距離分祈、項(xiàng)目分祈、對(duì)應(yīng)分祈、決策樹分析、神經(jīng)網(wǎng)絡(luò)、系統(tǒng)方程、蒙特卡洛模擬等。

決策樹分析與隨機(jī)森林:盡管有剪枝等等方法,一棵樹的生成肯定還是不如多棵樹,因此就有了隨機(jī)森林,解決決策樹泛化能力弱的缺點(diǎn)。(可以理解成三個(gè)臭皮匠頂過諸葛亮)。

決策樹(Decision Tree)是在已知各種情況發(fā)生概率的基礎(chǔ)上,通過構(gòu)成決策樹來求取凈現(xiàn)值的期望值大于等于零的概率,評(píng)價(jià)項(xiàng)目風(fēng)險(xiǎn),判斷其可行性的決策分析方法,是直觀運(yùn)用概率分析的一種圖解法。由于這種決策分支畫成圖形很像一棵樹的枝干,故稱決策樹。在機(jī)器學(xué)習(xí)中,決策樹是一個(gè)預(yù)測(cè)模型,他代表的是對(duì)象屬性與對(duì)象值之間的一種映射關(guān)系。Entropy = 系統(tǒng)的凌亂程度,使用算法ID3, C4.5和C5.0生成樹算法使用熵。這一度量是基于信息學(xué)理論中熵的概念。

決策樹是一種樹形結(jié)構(gòu),其中每個(gè)內(nèi)部節(jié)點(diǎn)表示一個(gè)屬性上的測(cè)試,每個(gè)分支代表一個(gè)測(cè)試輸出,每個(gè)葉節(jié)點(diǎn)代表一種類別。

分類樹(決策樹)是一種十分常用的分類方法。他是一種監(jiān)管學(xué)習(xí),所謂監(jiān)管學(xué)習(xí)就是給定一堆樣本,每個(gè)樣本都有一組屬性和一個(gè)類別,這些類別是事先確定的,那么通過學(xué)習(xí)得到一個(gè)分類器,這個(gè)分類器能夠?qū)π鲁霈F(xiàn)的對(duì)象給出正確的分類。這樣的機(jī)器學(xué)習(xí)就被稱之為監(jiān)督學(xué)習(xí)。

優(yōu)點(diǎn):決策樹易于理解和實(shí)現(xiàn),人們?cè)谠趯W(xué)習(xí)過程中不需要使用者了解很多的背景知識(shí),這同時(shí)是它的能夠直接體現(xiàn)數(shù)據(jù)的特點(diǎn),只要通過解釋后都有能力去理解決策樹所表達(dá)的意義。

對(duì)于決策樹,數(shù)據(jù)的準(zhǔn)備往往是簡(jiǎn)單或者是不必要的,而且能夠同時(shí)處理數(shù)據(jù)型和常規(guī)型屬性,在相對(duì)短的時(shí)間內(nèi)能夠?qū)Υ笮蛿?shù)據(jù)源做出可行且效果良好的結(jié)果。

易于通過靜態(tài)測(cè)試來對(duì)模型進(jìn)行評(píng)測(cè),可以測(cè)定模型可信度;如果給定一個(gè)觀察的模型,那么根據(jù)所產(chǎn)生的決策樹很容易推出相應(yīng)的邏輯表達(dá)式。

缺點(diǎn):對(duì)連續(xù)性的字段比較難預(yù)測(cè);對(duì)有時(shí)間順序的數(shù)據(jù),需要很多預(yù)處理的工作;當(dāng)類別太多時(shí),錯(cuò)誤可能就會(huì)增加的比較快;一般的算法分類的時(shí)候,只是根據(jù)一個(gè)字段來分類。