簡述主成分分析和因子分析的區(qū)別（主成分分析和因子分析的區(qū)別）

關于簡述主成分分析和因子分析的區(qū)別，主成分分析和因子分析的區(qū)別這個問題很多朋友還不知道，今天小六來為大家解答以上的問題，現(xiàn)在讓我們一起來看看吧！

1、主成分分析就是將多項指標轉化為少數(shù)幾項綜合指標,用綜合指標來解釋多變量的方差- 協(xié)方差結構。

2、綜合指標即為主成分。

3、所得出的少數(shù)幾個主成分，要盡可能多地保留原始變量的信息，且彼此不相關。

4、 因子分析是研究如何以最少的信息丟失，將眾多原始變量濃縮成少數(shù)幾個因子變量，以及如何使因子變量具有較強的可解釋性的一種多元統(tǒng)計分析方法。

5、 聚類分析是依據(jù)實驗數(shù)據(jù)本身所具有的定性或定量的特征來對大量的數(shù)據(jù)進行分組歸類以了解數(shù)據(jù)集的內(nèi)在結構，并且對每一個數(shù)據(jù)集進行描述的過程。

6、其主要依據(jù)是聚到同一個數(shù)據(jù)集中的樣本應該彼此相似，而屬于不同組的樣本應該足夠不相似。

7、 三種分析方法既有區(qū)別也有聯(lián)系，本文力圖將三者的異同進行比較，并舉例說明三者在實際應用中的聯(lián)系,以期為更好地利用這些高級統(tǒng)計方法為研究所用有所裨益。

8、 二、基本思想的異同 (一) 共同點 主成分分析法和因子分析法都是用少數(shù)的幾個變量(因子) 來綜合反映原始變量(因子) 的主要信息，變量雖然較原始變量少，但所包含的信息量卻占原始信息的85 %以上，所以即使用少數(shù)的幾個新變量，可信度也很高，也可以有效地解釋問題。

9、并且新的變量彼此間互不相關，消除了多重共線性。

10、這兩種分析法得出的新變量，并不是原始變量篩選后剩余的變量。

11、在主成分分析中，最終確定的新變量是原始變量的線性組合，如原始變量為x1 ，x2 ，. . . ，x3 ，經(jīng)過坐標變換，將原有的p個相關變量xi 作線性變換，每個主成分都是由原有p 個變量線性組合得到。

12、在諸多主成分Zi 中，Z1 在方差中占的比重最大，說明它綜合原有變量的能力最強，越往后主成分在方差中的比重也小，綜合原信息的能力越弱。

13、因子分析是要利用少數(shù)幾個公共因子去解釋較多個要觀測變量中存在的復雜關系，它不是對原始變量的重新組合，而是對原始變量進行分解，分解為公共因子與特殊因子兩部分。

14、公共因子是由所有變量共同具有的少數(shù)幾個因子；特殊因子是每個原始變量獨自具有的因子。

15、對新產(chǎn)生的主成分變量及因子變量計算其得分，就可以將主成分得分或因子得分代替原始變量進行進一步的分析，因為主成分變量及因子變量比原始變量少了許多，所以起到了降維的作用，為我們處理數(shù)據(jù)降低了難度。

16、 聚類分析的基本思想是: 采用多變量的統(tǒng)計值，定量地確定相互之間的親疏關系，考慮對象多因素的聯(lián)系和主導作用，按它們親疏差異程度，歸入不同的分類中一元，使分類更具客觀實際并能反映事物的內(nèi)在必然聯(lián)系。

17、也就是說，聚類分析是把研究對象視作多維空間中的許多點，并合理地分成若干類，因此它是一種根據(jù)變量域之間的相似性而逐步歸群成類的方法，它能客觀地反映這些變量或區(qū)域之間的內(nèi)在組合關系[3 ]。

18、聚類分析是通過一個大的對稱矩陣來探索相關關系的一種數(shù)學分析方法，是多元統(tǒng)計分析方法，分析的結果為群集。

19、對向量聚類后，我們對數(shù)據(jù)的處理難度也自然降低，所以從某種意義上說，聚類分析也起到了降維的作用。

20、 (二) 不同之處 主成分分析是研究如何通過少數(shù)幾個主成分來解釋多變量的方差一協(xié)方差結構的分析方法，也就是求出少數(shù)幾個主成分(變量) ，使它們盡可能多地保留原始變量的信息，且彼此不相關。

21、它是一種數(shù)學變換方法，即把給定的一組變量通過線性變換，轉換為一組不相關的變量(兩兩相關系數(shù)為0 ，或樣本向量彼此相互垂直的隨機變量) ，在這種變換中，保持變量的總方差(方差之和) 不變，同時具有最大方差，稱為第一主成分；具有次大方差，稱為第二主成分。

22、依次類推。

23、若共有p 個變量，實際應用中一般不是找p 個主成分，而是找出m (m < p) 個主成分就夠了，只要這m 個主成分能反映原來所有變量的絕大部分的方差。

24、主成分分析可以作為因子分析的一種方法出現(xiàn)。

25、 因子分析是尋找潛在的起支配作用的因子模型的方法。

26、因子分析是根據(jù)相關性大小把變量分組，使得同組內(nèi)的變量之間相關性較高，但不同的組的變量相關性較低，每組變量代表一個基本結構，這個基本結構稱為公共因子。

27、對于所研究的問題就可試圖用最少個數(shù)的不可測的所謂公共因子的線性函數(shù)與特殊因子之和來描述原來觀測的每一分量。

28、通過因子分析得來的新變量是對每個原始變量進行內(nèi)部剖析。

29、因子分析不是對原始變量的重新組合，而是對原始變量進行分解，分解為公共因子和特殊因子兩部分。

30、具體地說，就是要找出某個問題中可直接測量的具有一定相關性的諸指標，如何受少數(shù)幾個在專業(yè)中有意義、又不可直接測量到、且相對獨立的因子支配的規(guī)律，從而可用各指標的測定來間接確定各因子的狀態(tài)。

31、因子分析只能解釋部分變異，主成分分析能解釋所有變異。

32、 聚類分析算法是給定m 維空間R 中的n 個向量，把每個向量歸屬到k 個聚類中的某一個，使得每一個向量與其聚類中心的距離最小。

33、聚類可以理解為: 類內(nèi)的相關性盡量大，類間相關性盡量小。

34、聚類問題作為一種無指導的學習問題，目的在于通過把原來的對象集合分成相似的組或簇，來獲得某種內(nèi)在的數(shù)據(jù)規(guī)律。

35、 從三類分析的基本思想可以看出，聚類分析中并沒于產(chǎn)生新變量，但是主成分分析和因子分析都產(chǎn)生了新變量。

36、 三、數(shù)據(jù)標準化的比較 主成分分析中為了消除量綱和數(shù)量級，通常需要將原始數(shù)據(jù)進行標準化，將其轉化為均值為0方差為1 的無量綱數(shù)據(jù)。

37、而因子分析在這方面要求不是太高，因為在因子分析中可以通過主因子法、加權最小二乘法、不加權最小二乘法、重心法等很多解法來求因子變量，并且因子變量是每一個變量的內(nèi)部影響變量，它的求解與原始變量是否同量綱關系并不太大，當然在采用主成分法求因子變量時，仍需標準化。

38、不過在實際應用的過程中，為了盡量避免量綱或數(shù)量級的影響，建議在使用因子分析前還是要進行數(shù)據(jù)標準化。

39、在構造因子變量時采用的是主成分分析方法，主要將指標值先進行標準化處理得到協(xié)方差矩陣，即相關矩陣和對應的特征值與特征向量，然后構造綜合評價函數(shù)進行評價。

40、 聚類分析中如果參與聚類的變量的量綱不同會導致錯誤的聚類結果。

41、因此在聚類過程進行之前必須對變量值進行標準化，即消除量綱的影響。

42、不同方法進行標準化，會導致不同的聚類結果要注意變量的分布。

43、如果是正態(tài)分布應該采用z 分數(shù)法。

44、 四、應用中的優(yōu)缺點比較 (一) 主成分分析 優(yōu)點 首先它利用降維技術用少數(shù)幾個綜合變量來代替原始多個變量，這些綜合變量集中了原始變量的大部分信息。

45、其次它通過計算綜合主成分函數(shù)得分，對客觀經(jīng)濟現(xiàn)象進行科學評價。

46、再次它在應用上側重于信息貢獻影響力綜合評價。

47、 2、缺點 當主成分的因子負荷的符號有正有負時，綜合評價函數(shù)意義就不明確。

48、命名清晰性低。

49、 (二) 因子分析 優(yōu)點 第一它不是對原有變量的取舍，而是根據(jù)原始變量的信息進行重新組合，找出影響變量的共同因子，化簡數(shù)據(jù)；第二，它通過旋轉使得因子變量更具有可解釋性，命名清晰性高。

50、 2、缺點 在計算因子得分時，采用的是最小二乘法，此法有時可能會失效。

51、 (三) 聚類分析 優(yōu)點 聚類分析模型的優(yōu)點就是直觀，結論形式簡明。

52、 2、缺點 在樣本量較大時，要獲得聚類結論有一定困難。

53、由于相似系數(shù)是根據(jù)被試的反映來建立反映被試間內(nèi)在聯(lián)系的指標，而實踐中有時盡管從被試反映所得出的數(shù)據(jù)中發(fā)現(xiàn)他們之間有緊密的關系，但事物之間卻無任何內(nèi)在聯(lián)系，此時，如果根據(jù)距離或相似系數(shù)得出聚類分析的結果，顯然是不適當?shù)模?，聚類分析模型本身卻無法識別這類錯誤。

本文分享完畢，希望對大家有所幫助。

標簽：