Professional Documents
Culture Documents
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Clases 4
Econometra I
Javiera Vasquez
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Contenidos
1 Modelo de Regresi
on con k variables
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
i = 1, ..., n
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
y1
1
x21
xk1
u1
y2 1
x22
xk2
u2
.. = .. 1 + .. 2 + .. +
.. k + ..
. .
.
.
.
yn
x2n
Javiera V
asquez
xkn
Clases 4 Econometra I
un
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
y1
1 x21 x31 xk1
1
u1
y2 1 x22 x32 xk2 2 u2
.. = ..
..
.. . .
.. .. + ..
. .
.
.
.
. . .
yn
1 x2n x3n xkn
k
un
Y = X + u
donde Y es un vector de dimension n1, X es la matriz de
variables explicativas de dimension nk y u es un vector
correspondiente al termino de error con dimension n1.
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
E (u)
E (uu 0 )
E (u1 )
E (u2 )
..
.
E (un )
= 0
n1
E (u12 )
E (u2 u1 )
..
.
E (un u1 )
E (u1 u2 )
E (u22 )
..
.
E (un u2 )
2
0
..
.
0
..
.
0
2
..
.
0
Javiera V
asquez
0
0
..
.
2
..
.
E (u1 un )
E (u2 un )
..
.
E (un2 )
2
= I
nn
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
2
u 0 , I
(1)
n1
nn
n
X
ui2 = u0 u
i=1
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
mn SE ()
h
i
= mn Y 0 Y 20 X 0 Y + 0 X 0 X
SE ()
= 2X 0 Y + 2X 0 X = 0
0
= (X 0 X )1 X 0 Y
(2)
De (10) tenemos:
= 0 X 0 u = 0
X 0 (Y X )
y esta es la condicion de ortogonalidad.
Javiera V
asquez
Clases 4 Econometra I
(3)
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
..
.
x2,1 x2,2
..
..
.
.
xk,1 xk,2
1
1 x2,1 x3,1 xk,1
1 x2,2 x3,2 xk,2
x2,n
.. ..
..
..
..
..
..
. . .
.
.
.
.
xk,n
1 x2,n x3,n xk,n
1
1
1 1
x2,1 x2,2 x2,n
= .
..
..
.
..
..
. ..
.
.
xk,1 xk,2
Javiera V
asquez
Clases 4 Econometra I
xk,n
1
2
..
.
k
y1
y2
..
.
yn
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Pn n
x
Pni=1 2,i
x
i=1 3,i
..
Pn .
i=1 xk,i
Pn
x2,i
Pi=1
n
x2
Pn i=1 2,i
i=1 x3,i x2,i
..
Pn .
i=1 xk,i x2,i
Javiera V
asquez
..
.
Pn
1
x
k,i
i=1
Pn
x x
2
Pni=1 2,i k,i
=
i=1 yi x3,i
..
Pn .
i=1 yi xk,i
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Clases 4 Econometra I
(4)
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
(5)
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
e =
u 0 uClases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Propiedad BLUE
es el mejor estimador lineal insesgado (MELI o
Se dice que ,
BLUE) de si se cumple lo siguiente:
1
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Gauss-Markov
Proposici
on: El estimador MCO es el estimador lineal insesgado
optimo, en el sentido de que cualquier otro estimador lineal e
insesgado tiene una matriz de covarianza mayor que la del
estimador MCO. Es decir, el estimador MCO es MELI (BLUE).
e un estimador lineal de , donde A
e es
Demostraci
on: Sea e = Ay
0
1
0
e
una matriz kn. Denotemos A = A (X X ) X , de modo que:
e = [A + (X 0 X )1 X 0 ]Y
= [A + (X 0 X )1 X 0 ](X + u)
= AX + + [A + (X 0 X )1 X 0 ]u
Aplicando esperanza a la expresion anterior:
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Gauss-Markov
e = AX + + [A + (X 0 X )1 X 0 ]E (u)
E ()
= AX +
El estimador e sera insesgado solo si la matriz A es tal que
AX=0kk . De esta forma:
e = + [A + (X 0 X )1 X 0 ]u
y su matriz de covarianza sera:
e = E [(e )(e )0 ]
cov ()
= E {([A + (X 0 X )1 X 0 ]u)([A + (X 0 X )1 X 0 ]u)0 }
= 2 AA0 + 2 (X 0 X )1
| {z }
cov ()
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Gauss-Markov
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
(7)
(8)
(9)
1 = Y 2 x2 + 3 x3 + + k xk
(10)
por lo cual:
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
M0 = I
nn
ii 0
=
n
1 0 0
1
0 1 0
1 1
.. .. . .
.. ..
. . n .
. .
0 0 1
1
1
1
n
1 n
1
1
n1
n
= .
..
..
.
n1
Javiera V
asquez
n1
1
1
.. . .
.
.
1
..
.
Clases 4 Econometra I
1
1
..
.
1
n1
n1
..
.
1
1
n
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
Pn
y1 Y
y1
i=1 yi
P
n
1 0
i=1 yi
y2 1
y2 Y
0
M Y = Y ii Y = .
=
..
..
n
.. n
.
Pn .
yi
yn Y
yn
i=1
Javiera V
asquez
Clases 4 Econometra I
su
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
Javiera V
asquez
Clases 4 Econometra I
(11)
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
Analisis de Varianza
Suponga entonces el siguiente modelo poblacional:
Y = X + u
Buscamos entonces definir la variacion de la variable dependiente
(Suma de los cuadrados totales = TSS) como:
TSS =
n
X
(Yi Y )2
(12)
i=1
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
Analisis de Varianza
con lo cual, al particionar nuestra matriz X en X = [i X2 ],
nuestro vector de parametros en 0 = [1 2 ] y considerando que
M 0 i = 0 y que M 0 u = u, tenemos que:
M 0 Y = M 0 i 1 + M 0 X2 2 + M 0 u
= M 0 X2 2 + u
(13)
= 2 X20 M 0 X2 2 + u0 u
(14)
= ESS + RSS
(15)
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
2
Bondad de Ajuste: R 2 y R
Definimos entonces la bondad de ajuste del modelo a traves del
siguiente estadgrafo llamado tambien coeficiente de determinacion:
R2 =
ESS
TSS
(16)
Javiera V
asquez
RSS
TSS
Clases 4 Econometra I
(17)
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
2
Bondad de Ajuste: R 2 y R
Note que:
1
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Modelo de Regresi
on Lineal en Desvos
An
alisis de Varianza
2
Bondad de Ajuste: R 2 y R
2
Bondad de Ajuste: R 2 y R
Por que sucede esto?, ya que al incluir regresores, la suma de los
residuos necesariamente decrece (o en el mejor de los casos se
mantiene), mientras que la suma de los cuadrados totales
permanece constante. Por esta razon se creo que coeficiente de
determinacion ajustado el que corrige el R 2 original por los grados
de libertad del numerador y denominador. Entonces, definimos
2
R 2 -ajustado (R ) como:
2
R =1
u0 u/(n k)
Y 0 M0 Y /(n 1)
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
(18)
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
Estimacion en STATA
Javiera V
asquez
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
5.5
p_exp_5
6.5
7.5
Javiera V
asquez
10
esc04
15
20
Clases 4 Econometra I
Modelo de Regresi
on con k variables
Propiedades del estimador MCO
Bondad de Ajuste y An
alisis de Varianza
Ejemplo
6.4
p_esc_10
6.5
6.6
6.7
10
15
20
exp
Javiera V
asquez
Clases 4 Econometra I
25