多元回归分析MultipleRegression课件

1、多元迴歸分析Multiple Regression羅惠瓊淡江大學企管系2005/04/28多元迴歸分析【研究問題】： 學生性別、數學焦慮、數學態度、數學投入動機是否可有效預測學生的數學成就？其預測力如何？【方法分析】 研究問題中，由於預測變項包括學生性別、壓力懼怕、情緒擔憂、考試焦慮、課堂焦慮、學習信心、有用性、成功態度、探究動機、數學工作投入、數學自我投入等十一個； 而依變項為數學成就變項一個，因而可採用多元迴歸分析法（multiple regression）或稱複迴歸法。多元迴歸分析圖示學生性別壓力懼怕情緒擔憂.自我投入數學成就 依變項為連續變數預測變項為N個連續變數依變數若是類別變數進行

2、多元迴歸時，如果依變數（效標變數）不是連續變數，而是二分類別變數，應以區別分析或二元logistic迴歸分析。如果依變數是多分類別變數，則須進行區別分析。變數選擇邏輯基礎： 理論基礎、實證基礎、邏輯推理、專家共識統計量基礎： 利用每一解釋變數對應之偏F統計量值之大小決定刪去或留在模式中，其方法有(a)所有可能迴歸法(All-Possible-Regression Procedure )(b)後退淘汰法(Backward Elimination Procedure)(c)前進選擇法(Forward Selection Procedure)(d)逐步迴歸法(Stepwise Regression

3、Procedure)迴歸分析 (一)迴歸估計方程式(最小平方法)(二)變異數分析表 邊際檢定：若總檢定顯著，即應進行邊際檢定(Marginal Tests)，探討個別迴歸係數(j, j=1,2,K)是否顯著異於某一特定數值，共包括K個檢定。邊際檢定可分為雙尾檢定與單尾檢定，且大多數屬於對0檢定。對立假說設定為H1: j j0，屬於雙尾檢定 。對立假說設定為H1: j j0 或H1: j j0 ，屬於單尾檢定。檢定統計量: 模式檢定(2)判定係數R2R2 稱為多元判定係數（multiple determination coefficient） ： 0 R2 1R2 相當於總變異中可被解釋之百分比

4、例R2 亦是模式配適度(Goodness of Fit)之指標。Adjusted R2在迴歸分析中，如果自變項的個數很多，有時候就要用調整後的判定係數代替原先的判定係數，因為增加新的自變項後，均會使R2變大。 Adjusted R2為調整後的判定係數： 殘差分析(1)基本概念：在探討誤差項(i)是否符合常態性、恆常性、獨立性等三項假定。 迴歸分析乃以殘差值(ei, Residual)為誤差項(i )之估計，等於樣本觀察值與預測值之差，即：殘差分析(2)常態性：假說如下所示： H0: 誤差項遵循常態分配 H1: 誤差項未遵循常態分配 常態性檢定方法 常態機率圖(Normal Probabilit

5、y Plot) 當H0成立，則常態機率圖應呈現近似450直線 K-S檢定(Kolmogorov-Smirnov goodness-of-fit test)W統計量(W, Wilk-Shapiro Statistic)檢定。殘差分析恆常性：共線性問題在多元迴歸分析中要留意共線性（collinarity）問題。所謂共線性指的是由於自變項間的相關太高，造成迴歸分析之情境困擾。如果變項間有共線性問題，表示一個自變數是其它自變項的線性組合。以二個自變項X1，X2為例： 完全共線性 X1 = a + bX2如果一變項與其它自變項間有共線性問題，則這個變項迴歸係數的估計值不夠穩定，而迴歸係數的計算值也會有很

6、大誤差。共線性的診斷共線性問題，可由下面的數據加以判別： 2.變異數膨脹因素（variance inflation factor；VIF） 變異數膨脹因素為容忍度的倒數，VIF的值愈大，表示自 變項的容忍度愈小，愈有共線性問題。1.容忍度（ tolerance ） 容忍度 1-R2，容忍度的值介於0至1間。 R2是此自變項與其它自變項間的多元相關係數的平方， 即模式中其它自變項對這個變項的有效解釋能力。 一自變項的R2值太大，即容忍度太小，表示此變項與其它 自變項間有共線性問題。虛擬變數轉換(1)間斷變數在投入迴歸分析時，必須轉換為虛擬變數。在虛擬變項的轉換方面，要以0、1的方式表示，虛擬變項

7、個數等於水準個數減一。原變項虛擬變項說明: 1表示是學生性別sexd 0表是否男性 10不是女生，是男生女性 21是女生如果是二分變項，便以一個虛擬變項表示，此虛擬變項的 二個水準數值直接以0、1表示即可。以學生性別變項為例：虛擬變數轉換(2)如果是三分變項，表示此間斷變項有三個水準，則應以二個虛擬變項表示。以家庭狀況變項為例：原變項虛擬變項說明:1表示是 ，0表是否家庭狀況homd1homd2單親家庭組 110是單親家庭組，不是他人照顧組他人照顧組 201不是單親家庭組，是他人照顧組雙親家庭組 300不是單親家庭組，也不是他人照顧組，即為雙親家庭組虛擬變數轉換(3)如果是四分變項，表此間斷變

8、數有四個水準，則投入迴歸分析時，會有三個虛擬變項。例如地理位置變項中，1表示北部、2表示中部、3表示南部、4表示東部，三個虛擬變項的值如下： 原變項虛擬變項說明:1表示是，0表是否地理位置locd1locd2locd3北部 1100是北部，而非中部，也非南部中部 2010是中部，而非北部，也非南部南部 3001是南部，而非北部，也非中部東部4000非北部，非中部，也非南部，因而是東部虛擬變數轉換操作說明 轉換為虛擬變數已轉換為虛擬變數問題：學生性別、數學焦慮、數學態度、數學投入動機是否可有效預測學生的數學成就？其預測力如何？效標變項預測變項迴歸分析方法模式適合度會列出已進入模式或刪除之變數，並顯示迴歸分析相關的統計量：多元相關係數R、R平方、調整後的R平方、估計值的標準誤與變數數分析摘要表。選取變項的順序，最右邊一欄進入與移除的標準。進入模式的標準是 F 的顯著性機率要小於或等於.050，而移除的標準是 F 的顯著性機率大於或等於.100者。 迴歸模式的解釋量P值小於0.01，此迴歸