ECONOMETRIE

CURS 2

- note de curs -
IAI
- 2016-
C2. REGRESIA LINIAR SIMPL (1)

Prezentarea modelului - regresia empiric i cea teoretic

Estimarea punctual i prin interval de ncredere a

parametrilor - MCMMP

Testarea parametrilor

Probleme specifice utiliznd SPSS si Excel

1.Scurt istoric al regresiei

1886 - Francis Galton,. Family Likeness in Stature,

Proceedings of Royal Society, London, vol. 40, 1886, pp. 42-
72

1897 - G. U. Yule, "On the Theory of Correlation", Journal

of the Royal Statistical Society , pp. 812-54.

1903 - Karl Pearson, G. U. Yule, Norman Blanchard, and

Alice Lee, "The Law of Ancestral Heredity", Biometrika

1925 - R.A. Fisher, Statistical Methods for Research Workers

2. Noiuni (1)
Regresia este o legtur statistic ntre dou sau mai multe
variabile statistice.

n descrierea legturilor statistice pentru variabilele

dependente utilizm variabile aleatoare (stohastice), ceea ce
nseamn c acestora le corespund distribuii de probabilitate
(fig. 1).
y1 ... y j ... ym
xi Y: ( ) =>M(Yxi) = f(xi) => yi=f(xi)+i
ni ... n j ... nm

X variabil independent - variabil nestohastic

Y variabil dependent variabil stohastic (prezint
distribuii pentru fiecare valoare a lui X)
2. Noiuni (2) - Fig.1
 n legturile de tip funcional unei valori i se asociaz o alt
valoare i nu o distribuie de probabilitate.

xi yi => f(xi)=yi

Analiza de regresie studiaz forma legturii dintre una sau

mai multe variabile => Model de regresie

Analiza de corelaie Studiaz intensitatea legturii dintre

una sau mai multe variabile puse n relaie printr-un model
de regresie.
Modele de regresie

Modele de
Simple Multiple
regresie

Liniare C = 0 + 1P + C = 0 + 1 P + 2V +

Neliniare C = 0 +1 ln(P) + C = 0 + 1 ln(P) + 2 ln(V) +

3. Modelul de regresie liniar simpl
i=yi-M(YX=xi)
yi = M(YX=xi)+i = 0+1xi+i
M(YX=xi)=0+1xi media condiionat de X=xi ,
corespunztoare variabilei stohastice Y,
0= f(0) parametrul intersecia dreptei de regresie liniar cu
axa OY (engl. intercept)
1 parametrul panta a dreptei care reprezint variaia
absolut a variabilei Y atunci cnd variabila X crete cu o
unitate (1 =Y/ X):
- 1>0: legtur direct ntre variabile, Y variaz n acelai
sens cu X
1<0: legtur invers ntre variabile, Y nu variaz n
acelai sens cu X
3. Modaliti de scriere ale modelului
liniar simplu

Dac este scris pentru valorile variabilelor

yi = 0+ 1xi + i

Dac este scris pentru variabile n general

Y= 0+ 1X+
4. Componentele modelului de regresie

A.Componenta determinist (0+ 1xi)

B.Componenta aleatoare (i). Factori detreminani ai

componentei aleatoare: natura fenomenului studiat,
specificarea modelului i erorile de msurare
 5. Ipoteze clasice ale modelului de regresie

Ipotezele modelului de regresie vizeaz variabila rezidual i

variabila independent.
Cele mai importante ipoteze cu privire la variabila rezidual
sunt:
- media erorilor de modelare este nul: M(i)=0
- homoscedasticitate: V ( i ) M ( i
2
) 2
,adic variana erorii
este constant la nivelul distribuiilor condiionate de tipulYi X xi
- normalitatea erorilor : i ~ N ( 0 , 2
) , adic variabila rezidual
urmeaz o lege de repartiie normal de medie zero i varian 2;
- necorelarea erorilor: cov( i , j ) 0, i j; i, j 1, n ,adic erorile nu
se influeneaz reciproc;
- lipsa corelaiei dintre variabila independent i variabila eroare:
cov( i , xi ) 0 .
6. Exemple de modele liniare simple
Funcia de consum
- cererea sau consumul populaiei n funcie de venit:
Ci 0 1Vi i
Ci 1 arat cu ct crete
,unde parametrul
consumul unui anumit produs ( ) la o cretere cu o unitate
a venitului i este de regul pozitiv.

Legea cererii
- cererea populaiei pentru o gam de produse n funcie
0 acestora:
dei preul
C 1 Pi i
, unde parametrul 1 este de regul
negativ i arat cu ct scade cererea la o cretere a preului
cu o unitate.
7. Estimarea punctual parametrilor
modelului de regresie prin MCMMP
MCMMP (engl. Method of Ordinary Least Sqares - OLS)
Fie:
y i 0 - valorile
1 xi estimate (teoretice ale lui Y)

i yi 0 1 xi i - valorile reale, nregistrate

Erorile estimate pot fi obtinute ca diferenta intre valorile reale

si valorile teoretice:

i yi y i yi 0 1 xi yi 0 1 xi
 Conform MCMMP estimatorii parametrilor modelului de
regresie verific condiiile

n n n n

i yi yi yi ( 0 1 xi ) yi 0 1 xi min .
2 2
2 2
i 1 i 1 i 1 i 1

Pentru a uura notaiile n procesul de estimare vom utiliza

direct notaiile pentru estimaii. Astfel relaia de mai sus se
va scrie:
n n n n

ei yi yi yi (b0 b1 xi ) yi b0 b1 xi min .
2 2 2 2

i 1 i 1 i 1 i 1

n n
Notm S e y i b0 b1 xi
2 2
i
i 1 i 1
Rezolvarea acestei probleme de minim presupune
ndeplinirea a dou condiii:
1. Anularea derivatelor pariale de ordinul I ale lui S n
raport b0 i b1:
S n n n

b 2 yi b0 b1 xi 1 0 nb0 b1 xi yi

0 i 1
i 1 i 1

S n n n n
2 yi b0 b1 xi xi 0 b0 xi b1 xi yi xi
2
b1 i 1 i 1 i 1 i 1

b
b0 0
i i xi xi yi
y x 2

n xi2 xi
2

sau b 0 y b1 x
b1 n xi yi xi yi
b1
n xi2 xi
2
 2. Matricea derivatelor pariale de ordinul doi s fie pozitiv
definit:
2S 2S
2 2n 2 xi
b0 b0 b1 2n 2 xi
0
det 0 det
S 2 xi S 2 xi 2 x
2 2 2

b b 2b1
2 xi
2

i

0 1

det
n x
i
0

xi x 2
i

Matricea derivatelor partiale de ordin doi Este pozitiv

definit deoarece n x i x i n 2 2 0
2 2
7. Proprietile estimatorilor parametrilor
modelului de regresie
Estimatorii parametrilor modelului de regresie sunt
variabile de selecie care:

- urmeaz o distribuie normal: 0~ N 0 , 0 , 1 ~N 1 , 1
2 2


- sunt nedeplasai: M 0 0 ,
M 1 1

- convergeni (in probabilitate):

0 nN p 0 ,
1 nN p 1

- eficieni: dintre toi estimatorii posibili pentru 1 , 1 are

variana cea mai mic
8. Estimarea prin interval de ncredere a
parametrilor modelului de regresie liniar

Att pentru 0 , ct i pentru 1 , intervalele de ncredere se
vor construi astfel:

0 [ 0 t / 2,n k ] 1 [ 1 t / 2,n k ]
0 1

Daca utilizam estimatiile obtinute la nivelul unui esantion,

relaiile de mai sus devin:

0 b0 t / 2,n k s , b0 t / 2,n k s
0 0

1 b t
1 / 2,n k s , b1 t / 2,n k s
1 1

unde k = numrul parametrilor estimai din model (pentru

modelul liniar k=2)
Estimaiile abaterilor standard ale estimatorilor pentru modelul
liniar simplu se determin dup relaiile:

1 x 2
s s s
2 2
2
n xi x
0 0

i
respectiv,
s2
s s2 n

i
1 1
( x x ) 2

i 1

unde s2 este estimaia acestuia:

s2
e 2
i

(y b
i 0 b1 xi ) 2
n2 n2
5. Testarea parametrilor modelului liniar
1. Formularea ipotezelor
pentru 0 pentru 1
H0: 0=0 H0: 1=0
H1: 0#0 H1: 1#0
2. Fixarea pragului de semnificaie
=0,05
3. Alegerea statisticii test
0 0 H 0 0 1 1 H 0 1
t ~ t / 2, n 2 t ~ t / 2 , n2

1 1
0 0

4. Calcularea statisticii test

b0 b1
tcalc tcalc
s s
0 1
5. Criterii de decizie:
|tcalc| tteoretic= t/2, n-2 => se accept H0 cu o probabilitate de 1-.
|tcalc| > tteoretic= t/2, n-2 => se respinge H0 cu un risc asumat .
EXEMPLU

Se consider datele cu privire la Valoarea xi yi

vnzrilor i Cheltuielile cu publicitatea pentru 10 2500
un eantion de 4 firme. Datele sunt prezentate 20 4100
n tabelul urmtor.
50 5000
100 2500

180 14100
OUTPUT SPSS
Model Summary
Adjusted R Std. Error of the
R R Square
Square Estimate
0.183 0.033 -0.450 1492.173

a. Predictors: (Constant), Vanz_X

ANOVAb
Sum of Squares df Mean Square F Sig.

Regression 154336.735 1.000 154336.735 0.069 0.817

Residual 4453163.265 2.000 2226581.633

Total 4607500.000 3.000

a. Predictors: (Constant), Vanz_X

b. Dependent Variable: Chelt_Y

Coefficientsa
95% Confidence
Unstandardized Standardized Interval for B
Std. Error t Sig.
Coefficients Coefficients Beta Lower Upper
Bound Bound
(Constant) 3777.551 1215.243 3.108 0.090 -1451.215 9006.318
OUTPUT EXCEL
SUMMARY OUTPUT

Regression Statistics
Multiple R 0.183
R Square 0.033
Adjusted R Square -0.450
Standard Error 1492.173
Observations 4.000

ANOVA
df SS MS F Sig F
Regression 1.000 154336.735 154336.735 0.069 0.817
Residual 2.000 4453163.265 2226581.633
Total 3.000 4607500.000

Coefficients Standard Error t Stat P-value Lower 95% Upper 95%