Clase 6

Econometrı́a

Tomás Rau

Supuestos
detrás del
método MCO
Errores estándar
Clase 6
de los
Estimadores
MCO
Estimador MCO
Econometrı́a
de σ2

Modelo de
Regresión con
k variables Tomás Rau
Representación
Matricial del
Modelo de
Regresión Lineal
Estimador
Mı́nimo
Cuadrados
Ordinarios
25 de marzo
 Contenidos

Clase 6
Econometrı́a

Tomás Rau

Supuestos
detrás del
método MCO 1 Supuestos detrás del método MCO
Errores estándar
de los
Estimadores
Errores estándar de los Estimadores MCO
MCO
Estimador MCO
Estimador MCO de σ 2
de σ2

Modelo de
Regresión con
k variables
Representación 2 Modelo de Regresión con k variables
Matricial del
Modelo de
Regresión Lineal
Representación Matricial del Modelo de Regresión Lineal
Estimador
Mı́nimo Estimador Mı́nimo Cuadrados Ordinarios
Cuadrados
Ordinarios
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau En el análisis de regresión nuestro objetivo no es sólo obtener

Supuestos los valores de β̂1 y β̂2 sino también hacer inferencia sobre los
detrás del
método MCO verdaderos β1 y β2 .
Errores estándar
de los
Estimadores
MCO Nos interesa saber que tan cerca están β̂1 y β̂2 de sus
Estimador MCO
de σ2 contraparte poblacional o que tan cerca esta Ŷi de la verdadera
Modelo de
Regresión con
E (Y |Xi ).
k variables
Representación
Matricial del
Modelo de
Ası́, los supuestos hechos son fundamentales para lograr una
Regresión Lineal
Estimador interpretación válida de los valores estimados de la regresión.
Mı́nimo
Cuadrados
Ordinarios Mientras no se especifique la forma como se generan Xi y ui ,
no hay forma de hacer inferencia estadı́stica sobre Yi ni sobre
β1 y β2 .
 Supuestos detrás de MCO

Clase 6
Econometrı́a Supuesto 1: Modelo de regresión lineal, el modelo de
Tomás Rau
regresión es lineal en parámetros:
Supuestos
detrás del
método MCO
Yi = β1 + β2 Xi + ui
Errores estándar
de los
Estimadores
MCO Supuesto 2: Los valores de X son fijos, X se supone no
Estimador MCO
de σ2 estocástica. Esto implica que el análisis de
Modelo de
Regresión con
regresión es un análisis de regresión
k variables condicional, condicionado a los valores dados del
Representación
Matricial del
Modelo de regresor X.
Regresión Lineal
Estimador
Mı́nimo Supuesto 3: El valor medio del error ui condicional en Xi
Cuadrados
Ordinarios es igual a cero. Dado el valor de X, el valor
esperado del término de error ui es cero:

E (ui |Xi ) = E (ui ) = 0

 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau

Supuestos
detrás del
método MCO
Errores estándar
Lo que nos dice este supuesto es que los factores que no están
de los
Estimadores considerados en el modelo y que están representados a través
MCO
Estimador MCO
de σ2
de ui , no afectan sistemáticamente el valor de la media de Y.
Modelo de
Regresión con
k variables
Es decir, los valores positivos de ui se cancelan con los valores
Representación
Matricial del
negativos de ui . De esta forma, el efecto promedio de ui sobre
Modelo de
Regresión Lineal Y es cero.
Estimador
Mı́nimo
Cuadrados
Ordinarios
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau

Supuestos
detrás del
método MCO
Errores estándar
de los
Estimadores
MCO
Estimador MCO
de σ2

Modelo de
Regresión con
k variables
Representación
Matricial del
Modelo de
Regresión Lineal
Estimador
Mı́nimo
Cuadrados
Ordinarios
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau
Supuesto 4: Homocedasticidad o igual varianza de ui .
Dado el valor de X, la varianza de ui es la misma
Supuestos
detrás del para todas las observaciones:
método MCO
Errores estándar
de los
Estimadores var (ui |Xi ) = E [ui − E (ui |Xi )|Xi ]2
MCO
Estimador MCO
de σ2 = E (ui2 |Xi ) por supuesto 3
Modelo de
Regresión con
= E (ui2 ) =σ 2
k variables
Representación
Matricial del
Modelo de
En la siguiente figura podemos apreciar el
Regresión Lineal
Estimador significado del supuesto de homocedasticidad, la
Mı́nimo
Cuadrados
Ordinarios
variación alrededor de la recta de regresión es la
misma para todos los valores de X. Esto implica
que la función de densidad del término de error ui
es la misma.
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau

Supuestos
detrás del
método MCO
Errores estándar
de los
Estimadores
MCO
Estimador MCO
de σ2

Modelo de
Regresión con
k variables
Representación
Matricial del
Modelo de
Regresión Lineal
Estimador
Mı́nimo
Cuadrados
Ordinarios
 Supuestos detrás de MCO

Clase 6
Econometrı́a
Por el contrario, en la próxima figura observamos el caso
Tomás Rau cuando la varianza del término de error varı́a para cada Xi , en
este caso particular la varianza del error aumenta en la medida
Supuestos
detrás del que Xi crece.
método MCO
Errores estándar
de los
Estimadores
MCO
Estimador MCO
de σ2

Modelo de
Regresión con
k variables
Representación
Matricial del
Modelo de
Regresión Lineal
Estimador
Mı́nimo
Cuadrados
Ordinarios
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau Esto se conoce como Heterocedasticidad o varianza desigual,

Supuestos lo que se expresa de la siguiente manera:
detrás del
método MCO
Errores estándar
de los
var (ui |Xi ) = σi2 (1)
Estimadores
MCO
Estimador MCO
de σ2 Supuesto 5: No existe autocorrelación entre los errores.
Modelo de Dado dos valores de X, Xi y Xj , con i6= j, la
Regresión con
k variables correlación entre ui y uj es cero:
Representación
Matricial del
Modelo de
Regresión Lineal
Estimador cov (ui , uj |Xi , Xj ) = E {[ui − E (ui |Xi )][uj − E (uj |Xj )]|Xi , Xj }
Mı́nimo
Cuadrados
Ordinarios = E (ui uj |Xi , Xj )
= 0
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau

Supuestos
detrás del
método MCO Si en la Función de regresión poblacional Yi = β1 + β2 Xi + ui ,
Errores estándar
de los ui esta correlacionado con uj , entonces Yi no depende
Estimadores
MCO
Estimador MCO
solamente de Xi sino también de uj .
de σ2

Modelo de
Regresión con
Al imponer le supuesto 5 estamos diciendo que sólo se
k variables
Representación
considerará el efecto sistemático de Xi sobre Yi sin preocuparse
Matricial del
Modelo de de otros factores que pueden estar afectando a Y, como la
Regresión Lineal
Estimador
Mı́nimo
correlación entre los u’s.
Cuadrados
Ordinarios
 Supuestos detrás de MCO

Clase 6
Econometrı́a
Supuesto 6: La covarianza entre ui y Xi es cero
Tomás Rau
E (ui Xi ) = 0:
Supuestos
detrás del
método MCO
Errores estándar
de los
Estimadores
MCO
cov (ui , Xi ) = E [ui − E (ui )][Xi − E (Xi )]
Estimador MCO
de σ2 = E [ui (Xi − E (Xi )] por supuesto 3 E (ui ) = 0
Modelo de
Regresión con = E (ui Xi ) − E (ui )E (Xi )
k variables
Representación
Matricial del
= E (ui Xi ) por supuesto 3 E (ui ) = 0
Modelo de
Regresión Lineal
Estimador
= 0
Mı́nimo
Cuadrados
Ordinarios
si X y u están correlacionadas, no es posible determinar los
efectos individuales sobre Y.
Este supuesto se cumple automáticamente si X es no
estocástica y el supuesto 3 se cumple.
 Supuestos detrás de MCO

Clase 6
Econometrı́a Supuesto 7: El número de observaciones n debe ser mayor
Tomás Rau que el número de parámetros por estimar.
Supuestos
detrás del
método MCO Supongamos que tenemos una sola observación para nuestra
Errores estándar
de los
Estimadores
variable dependiente y nuestra variable explicativa (Y1 y X1 ), el
MCO
Estimador MCO
modelo de regresión es:
de σ2

Modelo de
Regresión con
Y1 = β1 + β2 X1 + u1
k variables
Representación
Matricial del el estimador MCO de β2 es :
Modelo de
Regresión Lineal P
Estimador xi yi
Mı́nimo
Cuadrados β̂2 = P 2
Ordinarios xi

donde xi = Xi − X e yi = Yi − Y , sin embargo con una

observación X1 = X e Y1 = Y , ası́ β2 no esta determinado y
ası́ tampoco podemos determinar β1 .
 Supuestos detrás de MCO

Clase 6
Econometrı́a

Tomás Rau
Supuesto 8: Variabilidad en los valores de X. No todos los
valores de X en una muestra deben ser iguales,
Supuestos
detrás del var(X) debe ser un número finito positivo.
método MCO
Errores estándar
Si las X son las mismas ⇒ Xi = X , de esta forma
de los
Estimadores
MCO
ni β2 ni β1 pueden ser estimados.
Estimador MCO
de σ2 Supuesto 9: El modelo de regresión está correctamente
Modelo de especificado. Esto es muy importante, ya que
Regresión con
k variables por ejemplo la omisión de variables importantes
Representación
Matricial del
Modelo de
en el modelo, o la elección de la forma funcional
Regresión Lineal
Estimador inadecuada, o la consideración de supuestos
Mı́nimo
Cuadrados
Ordinarios
estocásticos equivocados sobre las variables del
modelo, harán cuestionable la validez de la
interpretación de la regresión estimada. (Aspectos
que veremos más adelante).
 Errores estándar

Clase 6
Econometrı́a Recordemos el estimador MCO de β2 :
Tomás Rau P
xi yi
Supuestos β̂2 = P 2
detrás del xi
método MCO
Errores estándar
de los
Estimadores
donde yi = β2 xi + ui (modelo poblacional en desviaciones con
MCO
Estimador MCO respecto a la media). De esta forma reemplazando yi en el
de σ2

Modelo de
estimador de β2 :
Regresión con P
k variables
xi (β2 xi + ui )
Representación
Matricial del β̂2 = P 2
Modelo de x
Regresión Lineal
Estimador P 2 i P
Mı́nimo x ui xi
Cuadrados
Ordinarios = β2 P i2 + P 2
xi xi
P
ui xi
= β2 + P 2
xi
 Errores estándar

Clase 6
Econometrı́a
Aplicando valor esperado a la expresión anterior:
Tomás Rau P 
ui xi
E (β̂2 ) = β2 + E P 2
Supuestos
detrás del
xi
método MCO P 
E (ui )xi
Errores estándar
de los = β2 + P 2 por supuesto 2
Estimadores
MCO
xi
Estimador MCO
de σ2 = β2 por supuesto 3
Modelo de
Regresión con
k variables Ahora procedamos a calcular la varianza de el estimador MCO
Representación
Matricial del
Modelo de
de β2 :
Regresión Lineal
Estimador
Mı́nimo
Cuadrados var (β̂2 ) = E [β̂2 − E (β̂2 )]2
Ordinarios
= E (β̂2 − β2 )2
[ xi ui ]2
P 
= E
[ xi2 ]2
P
 Errores estándar

Clase 6
Econometrı́a Por supuesto 4 E (ui2 ) = σ 2 y por supuesto 6 E (ui uj ) = 0, esto
Tomás Rau
implica que:
Supuestos
detrás del
σ2
método MCO
var (β̂2 ) = P 2 (2)
Errores estándar
de los xi
Estimadores
MCO
Estimador MCO
de σ2 (ver pizarra).
Modelo de
Regresión con
k variables Ahora debemos estimar el parámetro poblacional σ 2 , ûi es una
estimación de ui , por analogı́a ûi2 es una buena aproximación de
Representación
Matricial del
Modelo de
Regresión Lineal
Estimador ui2 . Luego, podemos tomar el promedio muestral sobre los ûi2
Mı́nimo
Cuadrados
Ordinarios
Pn 2
2 i =1 ûi
σ̂ =
n
 Errores estándar

Clase 6
Econometrı́a
Pareciera ser un estimador razonable. Lamentablemente
Tomás Rau
dicho estimador es sesgado (pero consistente)
Supuestos
detrás del Se debe a que los errores de MCO, están estimados
método MCO
Errores estándar
imperfectamente si los comparamos con los errores
de los
Estimadores poblacionales, ya que dependen de una estimación de β1 y
MCO
Estimador MCO
de σ2
β2 .
Modelo de Luego hay 2 grados de libertad menos que deben ser
Regresión con
k variables ajustados
Representación
Matricial del
Modelo de
Regresión Lineal Demostraremos (más adelante) que el siguiente estimador es
Estimador
Mı́nimo
Cuadrados
consistente y además insesgado (para el modelo de 2 variables):
Ordinarios

Pn 2
2 i =1 ûi
σ̂ =
n−2
 Modelo de Regresión con k variables

Clase 6
Econometrı́a

Tomás Rau Ahora abandonemos la simplificación de sólo usar dos variables,

de ahora en adelante generalizaremos el modelo de regresión
Supuestos
detrás del lineal para que pueda tener hasta k variables explicativas.
método MCO
Errores estándar
de los
Estimadores
MCO
Aclaración: haremos un pequeño cambio de notación, cada
Estimador MCO
de σ2 observación i de la variable dependiente será denotada por yi y
Modelo de cada observación i de una variable explicativa, por ejemplo X1 ,
Regresión con
k variables será denotada por x1i . Ahora las variables en minúscula no
Representación
Matricial del
Modelo de
significa que estén en desvı́os.
Regresión Lineal
Estimador
Mı́nimo
Cuadrados
Ordinarios
El Modelo de Regresión Poblacional en este caso es:

yi = β1 + β2 x2i + ... + βk xki + ui i = 1, ..., n

 Modelo de Regresión con k variables

Clase 6
Econometrı́a

Tomás Rau El modelo con k variables explicativas puede ser expresado en

Supuestos notación matricial. En efecto, cada variable explicativa xj , con
detrás del
método MCO j=1,..., k, es un vector columna de dimensión n, al igual que la
Errores estándar
de los variable dependiente y el término de error.
Estimadores
MCO
Estimador MCO
de σ2 De este modo, el modelo puede ser reescrito de la siguiente
Modelo de
Regresión con
forma:
k variables          
Representación
Matricial del y1 1 x21 xk1 u1
Modelo de
Regresión Lineal  y2   1   x22   xk2   u2 
Estimador
 ..  =  ..  β1 +  ..  β2 + .. +  ..  βk +  ..
         
Mı́nimo 
Cuadrados
Ordinarios
 .   .   .   .   . 
yn 1 x2n xkn un
 Modelo de Regresión con k variables

Clase 6
Econometrı́a

Tomás Rau Donde las variables explicativas se pueden agrupar en una sola
matriz de dimensión n×k, que denotaremos simplemente como
Supuestos
detrás del X, de esta manera el modelo se expresa de la siguiente forma:
método MCO
Errores estándar        
de los
Estimadores
MCO
y1 1 x21 x31 · · · xk1 β1 u1
Estimador MCO  y2   1 x22 x32 · · · xk2   β2   u2 
de σ2
 ..  =  .. .. .. . . ..  ·  ..  +  .. 
       
Modelo de
Regresión con
 .   . . . . .   .   . 
k variables
Representación
yn 1 x2n x3n · · · xkn βk un
Matricial del
Modelo de
Regresión Lineal
Estimador ⇒ Y = Xβ + u
Mı́nimo
Cuadrados
Ordinarios
donde Y es un vector de dimensión n×1, X es la matriz de
variables explicativas de dimensión n×k y u es un vector
correspondiente al término de error con dimensión n×1.
 Modelo de Regresión con k variables

Clase 6
Econometrı́a
Ahora debemos expresar la distribución del término de error en
Tomás Rau términos matriciales:
 
Supuestos
E (u1 )
detrás del  E (u2 ) 
método MCO
E (u) =  .. = 0
 
Errores estándar
de los
Estimadores
 .  n×1
MCO
Estimador MCO
E (un )
de σ2
E (u12 ) E (u1 u2 ) · · · E (u1 un )
 
Modelo de
Regresión con
k variables
 E (u2 u1 ) E (u22 ) · · · E (u2 un ) 
E (uu ′ ) =  .. .. ..
 
Representación .. 
Matricial del
Modelo de
 . . . . 
Regresión Lineal
Estimador
Mı́nimo
E (un u1 ) E (un u2 ) · · · E (un2 )
Cuadrados
σ2
 
Ordinarios
0 ··· 0
 0 σ2 · · · 0  2
=  .. .. . . ..  = σ n×nI
 
 . . . . 
0 0 · · · σ2
 Modelo de Regresión con k variables

Clase 6
Econometrı́a
De los supuestos 3, 4 y 5, tenemos entonces que el término de
Tomás Rau
error tiene la siguiente distribución:
Supuestos  
detrás del
método MCO 2
Errores estándar
u ∼ 0 ,σ I (3)
de los n×1 n×n
Estimadores
MCO
Estimador MCO
de σ2 El método de MCO, plantea que los parámetros del modelo
Modelo de pueden ser estimados minimizando la suma de los errores al
Regresión con
k variables cuadrado (SE (β̂)), la que en términos matriciales equivale a:
Representación
Matricial del
Modelo de n
Regresión Lineal X
Estimador
Mı́nimo SE (β̂) = ûi2 = û ′ û = (Y − X β̂)′ (Y − X β̂)
Cuadrados
Ordinarios
i =1

donde û = Y − X β̂. la suma de los errores al cuadrado se

expresa de la siguiente forma: