Professional Documents
Culture Documents
LINEAL MLTIPLE
REGRESIN
NDICE
Presentacin
Dedicatoria
Prueba t
13
17
20
23
28
PRESENTACIN
El origen de la estadstica est ligado a Pdos ramas del inters
humano muy diferentes: los juegos de azar y la ciencia poltica.
Pgina 1
REGRESIN
datos
posteriormente
amplio
sus
objetivos
al
considerar
descripciones numricas.
Hay pocas actividades en que el impacto del reciente progreso
de la estadstica se haya dejado sentir con ms fuerza que en la
ingeniera y la direccin industrial.la estadstica se ha convertido en
una herramienta vital para el ingeniero.
Pgina 2
REGRESIN
DEDICATORIA
Pgina 3
REGRESIN
en
la
extensin
del
anlisis
de
regresin
simple
(k>2)
para
pronosticar
el
valor
de
la
variable
poblacional.
La estimacin de la ecuacin de regresin poblacional es la ecuacin
de regresin lineal mltiple muestral cuya expresin es:
Y bo b1 X 1 b2 X 2 ... bk X k
Pgina 4
REGRESIN
i = 1,2,...,n
y n>k
regresin
muestral:
yi = b0 + b1x2i + b2 x2i +... + bk xki + ei
ei = yi yi es el trmino residual.
Los coeficientes de regresin muestral b0, bx, b2,..., bk se
calculan por el mtodo de mnimos cuadrados. Este mtodo consiste
Pgina 5
REGRESIN
SCE e ( yi y ) yi b0 b1 X 2i ... bk X ki ) 2
i 1
2
i
i 1
i 1
nb0 b1 x1 b2 x2 bk xk y
b0 x1 b2 x12 b2 x1 x2 .... bk x1 xk x1 y
b0 x2 b1 x1 x2 b2 x22 .... bk x2 xk
b0 xk b1 xk x1 b2 xk x2 .... bk xk2
Donde,
x j x ji , para j = 1,2, , k.
i 1
Estas ecuaciones pueden ser resueltas para b0, bx, b2, ..., bk por
cualquier mtodo apropiado para resolver sistemas de ecuaciones
lineales. Sin embargo hay muchos paquetes de cmputo disponibles
para llevar a cabo estos clculos, como por ejemplo el paquete
estadstico didctico MCEST elaborado por el autor de este texto.
NOTA. En el modelo de regresin lineal mltiple, las variables
independientes pueden incluir variables cualitativas (o categricas),
como por ejemplo, sexo. En este caso, los valores de la variable
llamada tambin variable indicadora, deben ser codificados. La
codificacin de la variable sexo por ejemplo, puede ser 0 = mujer, l =
hombre (o viceversa).
EJEMPLO
Pgina 6
REGRESIN
X1
10
9
8
7
7
6
6
4
3
2
X2
8
8
6
6
5
4
3
2
2
1
Pgina 7
REGRESIN
b1 = 0.978, b2 = 1.844
Sx1x1 =
Sx1x2 =
x x
2
1
Sx2y =
n x1 x 2 ,
Sx2x2 =
2
2
n x 2 ,
Sx1x2 =
x y n x y ,
1
y n x 2 y ,
Pgina 8
REGRESIN
de
regresin
muestral
no.
Es decir,
se debe determinar si
los
2 = 0 ; podemos concluir
di
los
coeficientes
de
regresin
muestral
individualmente.
El proceso es el siguiente:
i) Anlisis de varianza
El anlisis de varianza se utiliza en este caso para determinar si
existe o no regresin lineal en la poblacin de la variable dependiente
Y con todas las variables independientes en conjunto (anlisis de
regresin lineal global de los coeficientes de regresin). La hiptesis
nula y alternativa de la prueba es respectivamente:
H0 = 1 = 2 = = k = 0
Pgina 9
REGRESIN
(y
i 1
y i ) 2 ( y1 y ) 2 y i y ) 2
i 1
i 1
( SCR / 2 ) / K
SCR / K
CMR
~ F ( K , n k 1)
2
( SCE / )(n k 1) SCE ( n k 1) CME
En donde:
Pgina 10
REGRESIN
los
cuadros
medios
de
regresin
de
error
respectivamente.
Dado el nivel de significacin , para los grados de libertad k y
n k 1, en la tabla F se encuentra el valor crtico c = F1-,k,n-k-1 .
La regin de decisin es: rechazar H0 : 1 = 2 = = k = 0, si el
valor calculado de F es mayor que el valor crtico c. No rechazar H 0 en
caso contrario.
de Suma de Grados
variacin
Cuadrados medios
F calculada
cuadrado de
s
libertad
Regresin
SCR
CMR = SCR/k
Error
SCE
nk1
CME = SCE/(n k 1)
Total
SCT
n-1
CMR
CME
i 1
i 1
SCT ( y1 y ) 2 y12 n( y ) 2
n
Donde Sx1y =
x y n( x)( y ), y Sx
i 1
x2 y n( x 2 )( y )
i 1
Pgina 11
REGRESIN
EJEMPLO
Con los datos mustrales del ejemplo 13.10
y utilizando el
SCT =
y
i 0
2
1
SX1Y =
x y n (x
i 0
SX2Y =
x
i 0
Pgina 12
CMR
451.342
225.671
2
CME
20.258
2.894,
7
REGRESIN
225.671
77.979
2.894
de
Suma de
Grados
de
Cuadrados
variacin
cuadrado
libertad
medios
Calculada
Regresin
s451.342
225.671
Error
Total
20.258
471.600
7
9
2.894
=77.979
Pgina 13
REGRESIN
los
distintos
estadsticos
para
el
intervalo
de
fech
UREA
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
a
20/1
21/1
22/1
23/1
24/1
28/1
30/1
31/1
3/2
4/2
5/2
6/2
7/2
10/2
11/2
12/2
[g/l]
0,22
0,21
0,23
0,22
0,21
0,22
0,20
0,21
0,18
0,18
0,21
0,24
0,22
0,18
0,23
0,21
Pgina 14
17
18
19
20
13/2
14/2
17/2
18/2
REGRESIN
0,23
0,27
0,22
0,21
fech
UREA [g/l]
control
1
2
3
4
5
6
7
8
9
10
11
12
13
14
a
19/2
20/2
21/2
24/2
25/2
25/2
27/2
28/2
28/2
4/3
5/3
6/3
7/3
7/3
0,24
0,25
0,22
0,34
0,27
0,25
0,30
0,26
0,24
0,25
0,24
0,25
0,27
0,24
Pgina 15
REGRESIN
Prueba t:
Estadsticos
Media
Varianza
Observaciones
Estadstico t
P(T<=t)
Valor crtico de t
test t student
valores muestra
1
0,22
0,00045
20
muestra 2
0,26
0,00091
14
-4,67
0,0001
-2,07
Pgina 16
REGRESIN
de
observaciones
inusuales
en
la
muestra
para
vez
hallada
la
ecuacin
de
regresin
muestral
debera
Pgina 17
la muestra
REGRESIN
y, x1 , x2
puede
= b0 +b1 Xl + b2 X2
independientes.
El coeficiente de determinacin mltiple se define en forma
similar al
Coeficiente de determinacin simple, por ejemplo,
para
k = 2
RY2.12 1
SCE
SCT
y, x1 , x2
Pgina 18
RY2.12 1
REGRESIN
SCE
20.6
1
0.96
SCT
471.6
Aplicando
los
datos
del
CME
CMT
ejemplo
13.10
el coeficiente
de
CME
2.91
1
1 0.056 0.944
CMT
52.4
Pgina 19
REGRESIN
0.96 0.98
3.-MATRIZ
DE
REGRESIN
LINEAL
MEDIANTE
MATRICES
Supngase que se tiene k variables independientes X 1, X2,, XK
y una variable dependiente Y, y que adems la muestra aleatoria de
tamao n: (X1i, X2i,, XKi, yi), i = 1, 2, . . . , n y n > k, satisface la
ecuacin de regresin poblacional:
yi: 0 + 1x1i + 2x2i + + xki + i
Con la notacin matricial estas n ecuaciones se pueden escribir
como el modelo poblacional.
Y = X +
Donde,
Pgina 20
REGRESIN
y1 1 1 21. xxx k1 0 1
y 1 . xxx
2 12 2 k2 1 2
. .... . .
Y , X , , ,
. .... . .
. .... .
yn 1 1n 2n. xxx kn k n
FACULTAD DE INGENIERIA CIVIL
Pgina 21
0
1
El vector de parmetros
.
.
.
k
REGRESIN
b0
b
1
, se estima por
.
b
.
.
bk
, el
( SCE ) 0
b
Pgina 22
REGRESIN
n
n x1i x2i . . xki y1
i1 i1 i1 i1
n n 2 n n n
x1i x1i x1i x2i. . x1i xki x1i y1
i1 i1 i1 i1 i1
X ' X . . . . , X 'Y .
. . . . .
. . . . .
n n n n n
x x x x x . . x2 x y
i1 ki i1 ki 1i i1 ki 2i i1 ko i1 ki i
n
Pgina 23
REGRESIN
EJEMPLO
Se realiz un estudio de las relaciones entre las notas obtenidas en 4
materias
por
10
estudiantes
de
administracin
de
empresas
X1
12
X2
10
X3
18
15
14
12
15
17
16
10
18
16
15
11
20
13
11
13
15
17
15
16
18
16
16
10
19
14
14
14
16
18
17
13
15
11
11
11
13
Pgina 24
REGRESIN
1
120 1694 1476 19 5 b2 1838
167 2375 19 5 283 b3 2584
Pgina 25
REGRESIN
b 3 0.41 0. 16 0. 09 0. 32 2584 0.196 0
De donde resulta
b0 = -2.91069, b1 = 1.01726, b2 = 0.04826, b3=0.19690,
La ecuacin de regresin muestral es:
yi j x ji i , i 1,2,..., n,
j 0
Pgina 26
Se
ha
supuesto
que
los
REGRESIN
son
variables
aleatorias
prueba
de
Durbin
Watson
nos
proporciona
un
(e
i 2
ei 1 ) 2
(e )
i 1
Pgina 27
r11 r12 . .
r r ..
21 22
r1k 1
r2k r21
R
. . . . . . . . ...
r k1 rk 2 . . rkk rk1
REGRESIN
... ...
rk 2 ...
rij
Cov ( X i , X j )
Si S j
(x
k 1
ik
x i )( x jk x j )
( xik x) 2
k 1
(x
k 1
ik
x j )2
nk 2
1 rij2
Pgina 28
REGRESIN
y as
ser cercano a
con los
Regla
de Decisin
Conclusin
decisin
vs
Si
Rechace
al
Hay
correlacin
Pgina 29
Si
REGRESIN
nivel
No rechace
al nivel
No
se
concluye
vs
Si
Rechace
Si
S
al
nivel
No rechace
entre errores
No existe indicio de
una
correlacin
serial
.
Es
posible
correlacin
una
serial
positiva
al nivel
No
se
concluye
vs
Si
Rechace
Si
S
al
nivel
No rechace
al nivel
No
se
concluye
Es
posible
correlacin
una
serial
negativa
No existe indicio de
una
correlacin
serial
No
se
puede
concluir nada
rechace
al nivel
rechace
al nivel
Pgina 30
REGRESIN
rechace
al nivel
y
2.5%
5%
15
0.8
1.0
0.9
1.2
1.0
1.3
20
1
0.9
7
1.1
5
1.0
3
1.2
8
1.2
6
1.4
25
5
1.0
5
1.2
8
1.1
8
1.3
0
1.2
1
1.4
30
5
1.1
1
1.2
8
1.2
4
1.3
9
1.3
5
1.4
40
3
1.2
6
1.3
5
1.3
8
1.4
5
1.4
9
1.5
50
5
1.3
4
1.4
5
1.4
5
1.5
4
1.5
4
1.5
70
2
1.4
0
1.4
2
1.5
0
1.5
0
1.5
9
1.6
10
3
1.5
9
1.5
1
1.5
7
1.6
8
1.6
4
1.6
0
15
2
1.6
6
1.6
9
___
3
___
5
1.7
9
1.7
0
20
1
1.6
4
1.6
___
2
1.7
5
1.7
___
Pgina 31
REGRESIN
Modelo muestral:
= b0 + b1 X2 + br Xr
EJEMPLO
Se llevo a cabo un experimento para determinar la distancia de
frenado a diferentes velocidades de un modelo nuevo de automvil, se
registraron los siguientes datos:
Velocidad X (Km./h)
Distancia de frenado
30
15
40
25
50
35
60
65
(metros)
70
10
80
15
Y 0 1 x 2 X 2
Y 0 1 x 2 X 2
b1 = -3.23570, b2 = 0.05357
Pgina 32
REGRESIN
Coeficient
Error
es
estndar
Significaci
n
bilateral
b0
65.284
b1
-3.236
0.516
-6.276
0.011
b2
0.054
0.005
11.530
0.001
con m<n
Tal que:
Sea mnima.
P1) El grado m del polinomio p m(x) se puede escoger previamente
con base en algn resultado terico, alguna expectativa o por la
aplicacin que se le pretenda dar al polinomio. En cualquier caso
Pgina 33
REGRESIN
Pgina 34
REGRESIN
, j = 0, 1, , m,
aproximacin
polinomial.
Con
respecto
la
aproximacin
Pgina 35
REGRESIN
Pgina 36
REGRESIN
Pgina 37
La
siguiente
tabla
muestra
cmo
se
REGRESIN
comporta
el
programa,
(Excel)
YREAL DIFEREN
0.000
X
0.023
0.000
CIA
0.0233
0
0.062
3
0.139
0
0.250
0.1107
5
0.125
3
0.247
0
0.353
0.1062
0
0.187
3
0.347
6
0.433
0.0853
5
0.250
7
0.440
0
0.500
0.0593
0
0.312
7
0.526
0
0.559
0.0322
5
0.375
8
0.606
0
0.612
0.0063
0
0.437
1
0.679
4
0.661
0.0177
5
0.500
1
0.746
4
0.707
0.0390
0
1.750
1
1.326
1
1.322
0.0031
0
1.812
0
1.342
9
1.346
0.0040
5
1.875
3
1.359
3
1.369
0.0095
0
1.937
8
1.378
3
1.391
0.0131
5
2.000
8
1.399
9
1.414
0.0145
Pgina 38
REGRESIN
2.062
1.422
1.436
0.0134
5
2.125
8
1.448
1
1.457
0.0094
0
2.187
3
1.476
7
1.479
0.0023
5
2.250
8
1.508
0
1.500
0.0083
polinomio
Pgina 39
REGRESIN
BIBLIOGRAFA
Manual de estadstica
http://www.monografias.com/trabajos21/regresionlineal/regresion-lineal.shtml#prueba
www.virtual.unal.edu.co/cursos/ciencias/2007315/lecciones_htm
l/capitulo_2/leccion4/indepen.html-32k
http://www.ingenieria.uady.mx/weblioteca/CompApp/aproximaci
on/poli/Regresionpolinomial.htm.
Pgina 40