Professional Documents
Culture Documents
Regresión y Correlación
Objeto
Objeto
Objeto
Analizar la existencia Establecer relaciones funcionales donde una
serie de magnitudes (variables o atributos) X1 , X2 , . . . , Xp se
supone que están relacionadas con una variable Y mediante la
expresión
Y = f (X1 , X2 , . . . , Xp ).
Asimismo pretendemos medir el grado de bondad de la relación
establecida.
Objeto
Objeto
Analizar la existencia Establecer relaciones funcionales donde una
serie de magnitudes (variables o atributos) X1 , X2 , . . . , Xp se
supone que están relacionadas con una variable Y mediante la
expresión
Y = f (X1 , X2 , . . . , Xp ).
Asimismo pretendemos medir el grado de bondad de la relación
establecida.
Objetivo
Hacer mı́nima la suma de los errores al cuadrado
N
X N
X N
X
f (a, b) = ei2 = (yi − yi∗ )2 = (yi − a − bxi )2
i=1 i=1 i=1
Objetivo
Hacer mı́nima la suma de los errores al cuadrado
N
X N
X N
X
f (a, b) = ei2 = (yi − yi∗ )2 = (yi − a − bxi )2
i=1 i=1 i=1
Ecuaciones Normales
y = a + bx
N N
1 P 1 P 2
N yi xi = ax + b N xi
i=1 i=1
Ecuaciones Normales
y = a + bx
N N
1 P 1 P 2
N yi xi = ax + b N xi
i=1 i=1
El Binomio Cálculos-Gráficos
Propiedades de la Recta de
Regresión
Coeficientes de Determinación y
Correlación
Objetivo
Una vez determinada la recta de regresión queremos determinar si
el ajuste es bueno.
Objetivo
Objetivo
Una vez determinada la recta de regresión queremos determinar si
el ajuste es bueno.
Objetivo
La Varianza Residual
Como los coeficientes a y b calculados por mı́nimos cuadrados
hacen mı́nima
N
X
f (a, b) = ei2 ,
i=1
parece lógico que una primera medida del grado de bondad del
ajuste serı́a calcular el valor de ese mı́nimo.
PN
Obsérvese que como ei = 0 tenemos que:
i=1
N
1 X 2
sE2 = ei ,
N
i=1
La Varianza Residual
Como los coeficientes a y b calculados por mı́nimos cuadrados
hacen mı́nima
N
X
f (a, b) = ei2 ,
i=1
parece lógico que una primera medida del grado de bondad del
ajuste serı́a calcular el valor de ese mı́nimo.
PN
Obsérvese que como ei = 0 tenemos que:
i=1
N
1 X 2
sE2 = ei ,
N
i=1
N N N N
1 X 2 1 X 1 X 1 X ∗
se2 = ei = ei (yi − yi∗ ) = e i yi − e i yi
N N N N
i=1 i=1 i=1 i=1
N N N
yi2 − a
P P P
N yi − b xi yi
1 X i=1 i=1 i=1
se2 = e i yi =
N N
i=1
N N N N
1 X 2 1 X 1 X 1 X ∗
se2 = ei = ei (yi − yi∗ ) = e i yi − e i yi
N N N N
i=1 i=1 i=1 i=1
N N N
yi2 − a
P P P
N yi − b xi yi
1 X i=1 i=1 i=1
se2 = e i yi =
N N
i=1
La Varianza Residual
La Varianza residual mide la dispersión existente entre los valores
observados (yi ) y los valores ajustados (yi∗ ).
Si se2 es muy grande la bondad del ajuste será baja.
Si se2 es muy pequeña la bondad del ajuste será alta.
Si se2 = 0 es porque todos los ei = 0 y por tanto todos los
puntos estan sobre la recta. Habria una relación funcional
perfecta.
La Varianza Residual
La Varianza residual mide la dispersión existente entre los valores
observados (yi ) y los valores ajustados (yi∗ ).
Si se2 es muy grande la bondad del ajuste será baja.
Si se2 es muy pequeña la bondad del ajuste será alta.
Si se2 = 0 es porque todos los ei = 0 y por tanto todos los
puntos estan sobre la recta. Habria una relación funcional
perfecta.
N N
sy2 = 1
yi2 − y 2 = 1
(yi∗ + ei )2 − y ∗2 =
P P
N N
i=1 i=1
N N
1
yi∗2 y ∗2 1
ei2 = sy2∗ + se2
P P
= N − + N
i=1 i=1
N N
sy2 = 1
yi2 − y 2 = 1
(yi∗ + ei )2 − y ∗2 =
P P
N N
i=1 i=1
N N
1
yi∗2 y ∗2 1
ei2 = sy2∗ + se2
P P
= N − + N
i=1 i=1
N N
sy2 = 1
yi2 − y 2 = 1
(yi∗ + ei )2 − y ∗2 =
P P
N N
i=1 i=1
N N
1
yi∗2 y ∗2 1
ei2 = sy2∗ + se2
P P
= N − + N
i=1 i=1
Problema
se2 viene dada en las unidades de medida de la variable
dependiente al cuadrado.
¿A partir de que valores se2 es suficientemente pequeña o
grande como para admitir un buen o mal ajuste?.
Problema
se2 viene dada en las unidades de medida de la variable
dependiente al cuadrado.
¿A partir de que valores se2 es suficientemente pequeña o
grande como para admitir un buen o mal ajuste?.
Solución
Determinar un coeficiente que mida el grado de bondad del ajuste
lineal de manera que:
Sea adimensional, es decir, carezca de unidades de medida.
Nos permita decidir si el juste es aceptable o no.
Problema
se2 viene dada en las unidades de medida de la variable
dependiente al cuadrado.
¿A partir de que valores se2 es suficientemente pequeña o
grande como para admitir un buen o mal ajuste?.
Solución
Determinar un coeficiente que mida el grado de bondad del ajuste
lineal de manera que:
Sea adimensional, es decir, carezca de unidades de medida.
Nos permita decidir si el juste es aceptable o no.
Coeficiente de Determinación
El coeficiente de determinación R 2 determina la proporción de la
varianza de la variable Y que queda explicada por la variable
ajustada Y ∗ :
sy2∗ sy2 − se2 se2
R2 = 2 = = 1 −
sy sy2 sy2
Coeficiente de Determinación
El coeficiente de determinación R 2 determina la proporción de la
varianza de la variable Y que queda explicada por la variable
ajustada Y ∗ :
sy2∗ sy2 − se2 se2
R2 = 2 = = 1 −
sy sy2 sy2
Rango de Variación de R 2
Como R 2 es un cociente de varianzas tenemos que 0 ≤ R 2 .
2
Por otro lado 1 − R 2 = sse2 ≥ 0 y por tanto R 2 ≤ 1. Por tanto:
y
0 ≤ R2 ≤ 1 ⇒ −1 ≤ R ≤ 1
Coeficiente de Determinación
El coeficiente de determinación R 2 determina la proporción de la
varianza de la variable Y que queda explicada por la variable
ajustada Y ∗ :
sy2∗ sy2 − se2 se2
R2 = 2 = = 1 −
sy sy2 sy2
Rango de Variación de R 2
Como R 2 es un cociente de varianzas tenemos que 0 ≤ R 2 .
2
Por otro lado 1 − R 2 = sse2 ≥ 0 y por tanto R 2 ≤ 1. Por tanto:
y
0 ≤ R2 ≤ 1 ⇒ −1 ≤ R ≤ 1
tenemos que
tenemos que
Regresión No Lineal
Regresión No Lineal
b
Ajuste Hiperbólico Y = a + X
b
Queremos determinar el ajuste Y = a + X por mı́nimos cuadrados.
Es equivalente a:
1
Mediante el cambio de variable Z = X realizar el ajuste lineal
Y = a + bZ .
Regresión No Lineal
b
Ajuste Hiperbólico Y = a + X
b
Queremos determinar el ajuste Y = a + X por mı́nimos cuadrados.
Es equivalente a:
1
Mediante el cambio de variable Z = X realizar el ajuste lineal
Y = a + bZ .
Regresión No Lineal
Ajuste Exponencial Y = ae bX
Queremos determinar el ajuste Y = ae bX por mı́nimos cuadrados.
Es equivalente a:
a = eA y b
Regresión No Lineal
Ajuste Exponencial Y = ae bX
Queremos determinar el ajuste Y = ae bX por mı́nimos cuadrados.
Es equivalente a:
a = eA y b
Regresión No Lineal
Ajuste Potencial Y = aX b
Queremos determinar el ajuste Y = aX b por mı́nimos cuadrados.
Es equivalente a:
a = eA y b
Regresión No Lineal
Ajuste Potencial Y = aX b
Queremos determinar el ajuste Y = aX b por mı́nimos cuadrados.
Es equivalente a:
a = eA y b
Regresión No Lineal
Ajuste Parabólico Y = a + bX + cX 2
Queremos determinar el ajuste Y = a + bX + cX 2 por mı́nimos
cuadrados. Es decir, determinar a,b y c tales que minimizan:
N
X N
X
f (a, b, c) = ei2 = (yi − a − bxi − cxi2 )2
i=1 i=1
Regresión No Lineal
Ajuste Parabólico Y = a + bX + cX 2
Queremos determinar el ajuste Y = a + bX + cX 2 por mı́nimos
cuadrados. Es decir, determinar a,b y c tales que minimizan:
N
X N
X
f (a, b, c) = ei2 = (yi − a − bxi − cxi2 )2
i=1 i=1
Regresión No Lineal
Ajuste Parabólico Y = a + bX + cX 2
Por tanto las ecuaciones normales quedan:
N N N
xi2
P P P
yi = Na + b xi + c
i=1 i=1 i=1
N N N N
xi2 + c xi3
P P P P
yi xi = a xi + b
i=1 i=1 i=1 i=1
N N N N
yi xi2 = a xi2 + b xi3 + c xi4
P P P P
i=1 i=1 i=1 i=1
Regresión No Lineal
Ajuste Parabólico Y = a + bX + cX 2
Por tanto las ecuaciones normales quedan:
N N N
xi2
P P P
yi = Na + b xi + c
i=1 i=1 i=1
N N N N
xi2 + c xi3
P P P P
yi xi = a xi + b
i=1 i=1 i=1 i=1
N N N N
yi xi2 = a xi2 + b xi3 + c xi4
P P P P
i=1 i=1 i=1 i=1
Aplicaciones de la Regresión
Explicativo. Determinar que variables explican una variable
dada.
Predictivo. Predecir valores de una variabe a partir de valores
conocidos de otras.
Aplicaciones de la Regresión
Explicativo. Determinar que variables explican una variable
dada.
Predictivo. Predecir valores de una variabe a partir de valores
conocidos de otras.
E t E = (Y − XB)t (Y − XB) = Y t Y − 2Y t XB + B t X t XB
∂E t E
= −2X t Y + 2X t XB = 0
∂B
de donde deducimos que
X t XB = X t Y
E t E = (Y − XB)t (Y − XB) = Y t Y − 2Y t XB + B t X t XB
∂E t E
= −2X t Y + 2X t XB = 0
∂B
de donde deducimos que
X t XB = X t Y
B = (X t X )−1 X t Y
B = (X t X )−1 X t Y
s2y∗ s2
R2y,12...k = 2 = 1 − 2e
sy sy
0 ≤ R2y,12...k ≤ 1
s2y∗ s2
R2y,12...k = 2 = 1 − 2e
sy sy
0 ≤ R2y,12...k ≤ 1
1 t
se2 = (Y Y − B t X t Y )
n
nse2 = E t E = (Y − XB)t (Y − XB) = Y t Y − B t X t − Y t XB + B t X t XB =
Dem: = Y t Y − B t X t Y − Y t XB + (X t X )−1 X t Y t X t XB =
= Y t Y − B t X t Y − Y t XB + Y t XB = Y t Y − B t X t Y .
1 t
se2 = (Y Y − B t X t Y )
n
nse2 = E t E = (Y − XB)t (Y − XB) = Y t Y − B t X t − Y t XB + B t X t XB =
Dem: = Y t Y − B t X t Y − Y t XB + (X t X )−1 X t Y t X t XB =
= Y t Y − B t X t Y − Y t XB + Y t XB = Y t Y − B t X t Y .
s2e Y t Y − Bt Xt Y Bt Xt Y − ny2
R2 = 1 − = 1 − = .
s2y Yt Y − ny2 Yt Y − ny2
s2e Y t Y − Bt Xt Y Bt Xt Y − ny2
R2 = 1 − = 1 − = .
s2y Yt Y − ny2 Yt Y − ny2
Solución 1
Solución 1
¿Cómo?
En tres pasos.
¿Cómo?
En tres pasos.
V = Xi − X
bi
V = Xi − X
bi
El Problema de la Multicolinealidad
El Problema de la Multicolinealidad
La multicolinealidad ocurre cuando existe una correlacion entre dos
o más variables explicativas.
Ésto implica que en la matriz X existen columnas que son
combinación lineal de otras.
Por esta razón la matriz (X t X ) no será invertible y por tanto el
vector de coeficientes B = (X t X )−1 X t Y no se puede determinar.
El Problema de la Multicolinealidad
La multicolinealidad ocurre cuando existe una correlacion entre dos
o más variables explicativas.
Ésto implica que en la matriz X existen columnas que son
combinación lineal de otras.
Por esta razón la matriz (X t X ) no será invertible y por tanto el
vector de coeficientes B = (X t X )−1 X t Y no se puede determinar.
Bibliografı́a
Bobliografı́a
GARCÍA CÓRDOBA J. A. , LÓPEZ HERNÁNDEZ F. A., PALACIOS
SÁNCHEZ Ma Á. y RUIZ MARÍN, M. (2000), Introducción a la Estadı́stica para
la Empresa. Horacio Escarabajal Editores, pp 95–124.
MARTÍN PLIEGO LÓPEZ, F.J. (2004), Introdución a la Estadı́stica Económica
Y Empresarial. Ed. Prentice Hall. pp. 235–372.
MONTIEL A.M., RIUS F. y BARÓN F.J., (1997), Elementos Básicos De
Estadı́stica Económica Y Empresarial. Ed. Prentice Hall. pp. 147–186.
NOVALES, A., (1996), Estadı́stica y Econometrı́a, Madrid: Mc Graw-Hill,
pp.475-516.
SANZ J.A.; BEDATE, A.; RIVAS, A. y GONZÁLEZ, J., (1996), Problemas De
Estadı́stica Descriptiva Empresarial. Ed. Ariel Economı́a., pp. 131–284.