Finansiell Statistik (GN, 7,5 hp,, HT 2008) Föreläsning 7. Multipel regression. (LLL Kap 15) Multipel Regressionsmodellen

Transkript

1 Finansiell Statistik (GN, 7,5 hp,, HT 8) Föreläsning 7 Multipel regression (LLL Kap 5) Department of Statistics (Gebrenegus Ghilagaber, PhD, Associate Professor) Financial Statistics (Basic-level course, 7,5 ECTS, Autumn 8) Multipel Regressionsmodellen Syfte: Undersöka linjär samband mellan beroende variabel (Y) & eller flera förklarande variabler (X i ) Multipel Regressionsmodell med k förklarande variabler: Y Y-intercept (skärning) Population slopes (lutningar) Random Error (slumpfel) = + X + X + K+ kxk + Linjärkomponent Fel komponent

2 Multipel Regressionsmodellen Koefficienterna i multipel regression skattas från ett stickprov enligt: Multipel Regressionsmodell med k förklarande variabler: Skattad (predicerad) Värde på y Skattad skärning Skattade lutningskoefficienter y ˆ = b + b x + b x + K+ b i i I kursen ska datorprogram (Minitab, SAS, Excel) användas för att skatta koefficienterna och andra resultat. i k x ki E[ Standard Antagande i Multipel Regression E[ Förklarande variablerna x i och feltermerna i är oberoende Feltermerna i är stokastiska variabler med medelvärde och konstant varians σ. ] i = och i ] = för (i =, K, n) (egenskapen konstant varians kallas för homoscedasticitet) Feltermerna, i, är inte korrelerade med varandra: E[ i j] = för alla i j

3 Exempel med förklarande variabler Försäljaren vill veta faktorer som kan påverka efterfrågan av paj: Beroende variabel: Y = # sålda paj (enheter) per vecka Förklarande variabler: X = Pris (i $) X = Marknadsföring ($ s) Data över 5 veckor ger följande tabell: Exempel med förklarande variabler Vecka (i) Y i X i X i Multipel regression ekvation: Y i = b + b X i + b X i

4 Exempel: Skattning av koefficienterna & andra resultat Vi ska andvända Minitab för att skatta relevanta koefficienter och andra resultat: Anta att vi har sparat Y i (beroende variabeln) i första kolumnen (C) och förklarande variablerna X i och X i i andra resp. tredje kolumner (C resp c3) Då kan vi ge kommandot Regr c c c3 eller gå genom menyn stat-regression-regression och ange c som response och c-c3 som predictors. Multipel Regression - output Regression Statistics Multiple R.73 R Square.548 Adjusted R Square.447 Standard Error Observations 5 Y i = (Xi) (Xi) ANOVA df SS MS F Significance F Regression Residual Total Coefficients Standard Error T-value P-value Intercept Price Advertising

5 Skattade Ekvationen Y i = (X i ) (X i ) där Y i = # paj enheter sålda under vecka i (i =,, 5) X i = pris (i $) i vecka i X i = marknadsföring i $ s under vecka i. b = : försäljning minskar i genomsnitt med paj (enheter) per vecka för varje $ ökning i priset, efter man har tagit hänsyn till förändringen i försäljning p.g.a. marknadsföring. b = 74.3: försäljning ökar i genomsnitt med 74.3 paj (enheter) per vecka för varje $ ökning i utgifter för marknadsföring, efter man har tagit hänsyn till förändringen i försäljning p.g.a. pris. Förklaringsgraden, R Ger andelen av total variationen i Y (försäljning) som förklarar (är relaterad till) alla förklarande variabler tillsammans. SSR R = = SST regression sum of squares total sum of squares Resten (-R ) är andelen av variationen som är oförklarad av regressionsekvationen (är relaterad till andra faktorer representerade av fel termen)

6 Förklaringsgraden, R Multiple R R Adjusted SquareR Square Regression Statistics Standard Error Observations SSR 946. R = = =.548 SST % av variationen i försäljningen av paj förklaras av variation i pris och marknadsföring. ANOVA Regression Residual Total Intercept Price Advertising df 4 Coefficients SS Standard Error MS t Stat F P-value Significance F. Lower 95% Upper 95% Testa för signifikans av individuell Regressionskoefficienter Använd t-test för de individuella koefficienter Man testar om ett specifikt förklarande variabel är viktigt givet (i närvaro av) de andra variabler Hypotes: H : j = (ingen linjär samband mellan Y & X j ) H : j (finns linjär samband mellan Y & X j )

7 Testa för signifikans av individuell Regressionskoefficienter H : j = (ingen linjär samband ) H : j Testvariabel: (finns linjär samband) t = b j S b j (df = n k ) Testa för signifikans av individuell Regressionskoefficienter Regression Statistics Multiple R.73 R Square.548 Adjusted R Square.447 Standard Error Observations 5 t-värde för pris är t = -.36, med p-värde på.398. t-värde för marknadsföring är t =.855, med p-värde.45 ANOVA df SS MS F Significance F Regression Residual Total Coefficients Standard Error t Stat P-value Lower 95% Upper 95% Intercept Price Advertising

8 H : j = H : j d.f. = 5-- = α =.5 t,.5 =.788 α/=.5 Förkasta H Testa för signifikans av individuell Regressionskoefficienter Pris Marknadsföring Ej Förkasta H -t / t / Coefficients Standard Error T-value Testvariabeln för varje förklarande variabel hamnar i Rejection Region (eller p-värde <.5) α/=.5 Förkasta H Beslut: P-value Förkasta H för varje variabel Slutsats: Det finns bevis att både pris och marknadsföring påverkar försäljningen av paj (på α =.5) Testa för signifikans av alla Regressionskoefficienter (i helheten) Använd F-test för att testa för allmän signifikans (modellen i helheten) Testet visar om det finns linjär samband mellan Y och all förklarande variablerna (alla X) tillsammans. Hypotes: H : = = = k = (ingen linjär samband) H : åtminstone ett i (finns linjär samband mellan Y och åtminstone en förklarande variabel)

9 Testvariabel: MSR F = = MSE Testa för signifikans av alla Regressionskoefficienter (i helheten) där F har k frihetsgrader i täljaren och (n K-) frihetsgrader i nämnaren Beslutregel är MSR s e Förkasta H om SSR/K = SSE/(n K ) F > F k,n K, Testa för signifikans av alla Regressionskoefficienter (i helheten) Regression Statistics Multiple R.73 R Square.548 Adjusted R Square.447 Standard Error Observations 5 MSR 473. F = = = MSE 5.8 med df i täljaren och df i nämnaren. P-värde för F-testet ANOVA df SS MS F P-value Regression Residual Total Coefficients Standard Error t Stat P-value Lower 95% Upper 95% Intercept Price Advertising

10 F-test för helheten (forts ) H : = = H : och inte både lika med noll α =.5 df = df = Kritiskvärde: F α = Testvariable: MSR F = = MSE Beslut: Eftersom den skattade testvariabeln hamnar i Rejection Region (p-värde <.5), förkastar vi H. α =.5 Ej förkasta H Förkasta H F.5 = F Slutsats: Det finns bevis att åtminstone en av förklarande variablerna påverkar beroende variabeln Y. Prognos (Prediction) Efter vi har skattat regressionsmodellen kan vi använda den för att göra prognos (prediction). För givet värde av förklarande variabler (x,n+, x,n+,..., x K,n+ ), ett prognos på beroende variabeln y n+ ges enligt is ˆ y n+ = b + bx,n + + bx,n+ + L+ bkxk,n+ ^

11 Prognos (Prediction) Gör ett prognos på paj försäljningen i en vecka där priset är $5.5 och utgifter för marknadsföring är $35: Yi = (X i ) (X i ) = (5.5) (3.5) = 48.6 Predicerad försäljning är 48.6 paj. Obs: eftersom marknadsföring mäts i $ s, $35 betyder att X = 3.5. Dummy Variabler Ett dummy variabel är ett kategorisk förklarande med två möjliga värde: Ja eller Nej, On eller Off, Man eller Kvinna, o.s.v. Kodas som eller Om ett dummy variabel är signifikant i ett regressionsekvation innebär det att skärningarna är olika för de olika kategorier (värde av dummy variabeln) Lutningarna för de andra variabler är samma Om ett kategorisk variabel har n (n > ) värden kan dessa kodas till n- dummy variabler

12 Dummy Variabler: Exempel Låt: y = Paj försäljning x = Pris yˆ = b + b x + b x x = Helg (X = om ett helgdag inträffades under veckan) (X = det fanns ingen helgdag under veckan) Dummy Variabler: Exempel yˆ = b yˆ = b y (försäljning) b + b b + b x + b x + b () = (b + b () = Helg (x = ) + b b Olika Skärningar Ingen helg (x = ) ) + b x x (pris) + b x Samma lutning Helg ingen helg Om vi förkastar H : =, det betyder att Helg har signifikant påverkan på försäljningen

13 Dummy Variabler: Exempel Example: Sales = 3-3(Price) + 5(Holiday) b = 5: I genomsnitt var försäljningen 5 paj (enheter) högre under en vecka där det inträffades en helgdag än en vecka där det inte fanns någon helgdag.