Procesos Estocsticos

Simulacin 2001
Profesor: Hctor Allende
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
2
Introduccin
Las caractersticas de un fenmeno aleatorio puede ser
descrito a travs de la distribucin de probabilidad de una
variable aleatoria que representa el fenmeno.

En la teora de probabilidad, las propiedades estadsticas de
un fenmeno aleatorio que ocurre de manera aleatoria
respecto al tiempo no son considerados.


Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
3
Introduccin
Ejemplos de fenmenos aleatorios en el tiempo:
Movimiento de una partcula en el movimiento
Browniano
Emisin de fuentes radioactivas
Flujo de corriente en un circuito elctrico.
Comportamiento de una onda en el oceano.
Respuesta de un avin al viento y movimiento de un
barco en el mar.
Vibracin de un edificio causado por un temblor o
terremoto.


Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
4
Proceso Estocstico
Definicin: Una familia de variables aleatorias x(t) donde t
es el parmetro perteneciente a un conjunto indexado T es
llamado un proceso estocstico (o proceso aleatorio), y se
denota por:

tambin es definido como:

donde O es el espacio muestral.

} ), ( { T t t x e
} , ), , ( { O e e e e T t t x
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
5
Proceso Estocstico
Observacin:
Si t es fijo, x(e ) es una familia de variables aleatorias.
(ensemble).
Para e fijo, x(t) es una funcin del tiempo llamada
funcin muestrada.
) (
1
t x
) (
2
t x
) (
3
t x
) (t x
k
) (t x
n
1
t
2
t
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
6
Proceso Estocstico
Estado y tiempo discreto y continuo.
Estado
Continuo Discreto
C
o
n
t
i
n
u
o
T
i
e
m
p
o
D
i
s
c
r
e
t
o
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
7
Funcin de Medias
1. Sea un proceso estocstico, se llama funcin
de medias:



Obs: se dice que es un
proceso estocstico estable en media.
} ), ( { T t t x e
] [ ) (
: ) (
t x
x
x E t t
T t
=
9

T t )] ( [ ) ( e = = cte t x E t
x

Profesor Dr. Hctor Allende

Desarrollado por Rodrigo Salas
8
Funcin de Varianzas
2. Sea un proceso estocstico, se llama funcin
de varianzas:



Obs: se dice que es un proceso
estocstico estable en varianza.
} ), ( { T t t x e
} ] [ {( ] [ ) (
: ) (
2 2
2
t t t x
x
x E x E x V t t
T t
= =
9
o
o
T t cte t
x
e = ) (
2
o
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
9
Funcin de Autocovarianzas
3. Sea un proceso estocstico, se llama funcin
de varianzas:




} ), ( { T t t x e
))} ( ))( ( {(
] , [ ) ( ) , (
: ) (
2 1
2 , 1 2 1
2 1
2
1
t x t x E
x x Cov t t C t t
T T t C
x t x t
t t xx
xx
=
=
9
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
10
Funcin de Autocovarianza
La funcin de Autocovarianza de un proceso
estocstico viene dado por:





donde

Si est en funcin de las diferencias de tiempo:
) , (
2 1
t t C
xx

=
=
=
=
n
k
k k
xx
t x t x t x t x
t x E t x t x E t x E
t x t x Cov t t C
1
2 2 1 1
2 2 1 1
2 1 2 1
)} ( ) ( )}{ ( ) ( {
n
1

)])] ( [ ) ( )])( ( [ ) ( [(
)] ( ), ( [ ) , (
2 , 1 ) (
1
)] ( [ ) (
1
= = =

=
i t x
n
t x E t x
n
k
i
k
i i
)] ( ), ( [ ) ( t t + = t x t x Cov R
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
11
Funcin de Autocorrelacin
3. Sea un proceso estocstico, se llama funcin
de varianzas:




} ), ( { T t t x e
) ( ) (
] , [
) ( ) , (
: ) (
2 1
2 , 1 2 1
2
1
t t
x x Cov
t t t t
T T t
t t
x
x
o o

=
9
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
12
Distribucin conjunta finito
dimensional
Sea un espacio de probabilidad y un conjunto de
ndices T, y un proceso estocstico.
El sistema:

es una Distribucin conjunta finito dimensional

) , , ( P A O
9 O T X :
} , ,...., : {
1 ) ( ),..., (
1
N e e = n T t t F F
n t X t X X
n
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
13
Proceso estocstico de 2 orden
Sea X un proceso estocstico, se dice de 2 orden ssi

o sea
T t )] ( [
2
e < t x E
T t ) (
2
1 2
2
e < = o t
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
14
1.- Proceso Estacionario
OBS: Las caractersticas de un proceso aleatorio son
evaluados basados en el ensemble.
a) Proceso Estocstico Estacionario Estricto:
Si la distribucin conjunta de un vector aleatorio n-
dimensional,
y
es la misma para todo t , entonces el proceso
estocstico x(t) se dice que es un proceso estocstico
estacionario (o estado estacionario).
Es decir, las propiedades estadsticas del proceso se
mantienen invariante bajo la traslacin en el tiempo.
)} ( ),...., ( ), ( {
2 1
t x t x t x
n
)} ( ),...., ( ), ( {
2 1
t t t + + + t x t x t x
n
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
15
1.- Proceso Estacionario
b) Proceso Estocstico Evolucionario:
Es aquel proceso estocstico que no es estacionario.

c) Proceso Estocstico Dbilmente Estacionario:
Un proceso estocstico se dice dbilmente estacionario
(o estacionario en covarianza) si su funcin de valor
medio E[x(t)] es constante independiente de t y su
funcin de autocovarianza Cov[x(t),x(t+t)] depende de
t para todo t.

Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
16
2.- Proceso Ergdico
Un proceso estocstico x(t) se dice que es un proceso
ergdico si el tiempo promedio de un simple registro es
aproximadamente igual al promedio de ensemble. Esto es:

=
}

=
continuo. tiempo de proceso un para ) (
1
discreto. tiempo de proceso un para ) (
1
)] ( [
0
1
dt t x
T
t x
n
t x E
T
n
i
i
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
17
2.- Proceso Ergdico
Obs:
En general, las propiedades ergdicas de un proceso
estocstico se asume verdadera en el anlisis de los
datos observados en ingeniera, y por lo tanto las
propiedades estadsticas de un proceso aleatorio puede
ser evaluado a partir del anlisis de un nico registro.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
18
3.- Proceso de Incrementos
Independientes
Un proceso estocstico x(t) se dice que es un proceso de
incrementos independientes si , i=0,1,, es
es estadsticamente independiente (Por lo tanto,
estadsticamente no correlacionado).
Sea el proceso estocstico x(t) un proceso estacionario de
incrementos independientes. Entonces, la varianza de los
incrementos independientes , donde
,es proporcional a

) ( ) (
1 i i
t x t x
+
) ( ) (
1 2
t x t x
2 1
t t <
1 2
t t
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
19
4.- Proceso de Markov
Un proceso estocstico x(t) se dice que es un proceso de
Markov si satisface la siguiente probabilidad condicional:





Cadena de Markov: Proceso de Markov con estado
discreto.
Proceso de Difusin: Proceso de Markov con estado
continuo.

.... donde }, ) ( | ) ( {
} ) ( ,..., ) ( , ) ( | ) ( {
1 2 1 1 1
1 1 2 2 1 1
n n n n n n
n n n n
t t t t x t x x t x P
x t x x t x x t x x t x P
< < < = s =
= = = s


Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
20
4.- Proceso de Markov
La ecuacin anterior puede ser escrita como:

entonces se tiene:



)} ( | ) ( { )} ( ),..., ( ), ( | ) ( {
1 1 2 1
=
n n n n
t x t x f t x t x t x t x f
)} ( | ) ( { )} ( { )} ( ),..., ( ), ( {
)} ( ),..., ( ), ( { )} ( | ) ( {
)} ( ),..., ( ), ( {
)} ( ),..., ( ), ( { )} ( | ) ( {
)} ( ),..., ( ), ( { )} ( ),..., ( ), ( | ) ( {
)} ( ),..., ( ), ( {
2
1 2 1
2 2 1 2 1
1 2 1
1 2 1 1
1 2 1 1 2 1
2 1
[
=

=
=
=
n
r
r n i n
n n n
n
n n n
n n n
n
t x t x f t x f t x t x t x f
t x t x t x f t x t x f
t x t x t x f
t x t x t x f t x t x f
t x t x t x f t x t x t x t x f
t x t x t x f
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
21
4.- Proceso de Markov
Conclusin:
La funcin de densidad de probabilidad conjunta de un
proceso de Markov puede ser expresado por medio de
las densidades marginales y un conjunto de
funciones de densidad de probabilidad condicional
,el cual es llamado densidad de
probabilidad de transicin.
Un proceso de Markov se dice Homogeneo en el tiempo si
la densidad de probabilidad de transicin es invariante en
el tiempo t:
)} ( {
1
t x f
)} ( | ) ( {
1 r r
t x t x f
)} ( | ) ( { )} ( | ) ( {
1 1
= + +
r r r r
t x t x f t x t x f t t
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
22
5.- Proceso de Conteo
Un proceso estocstico de tiempo continuo y valores
enteros se llama proceso de conteo de la serie de eventos si
N(t) representa el nmero total de ocurrencias de un evento
en el intervalo de tiempo t=0 a t.
N(t)
Time
4
3
2
1
0
t
1
t
2
t
3

T
1
T
2
T
3
T
4

Intervalos de tiempo
entre sucesivas
ocurrencias
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
23
5.- Proceso de Conteo
Proceso de renovacin (Renewal Process):
Los tiempos entre llegadas son v.a. i.i.d.
Proceso de Poisson:
Proceso de renovacin en la cual los tiempos entre
llegadas obedecen una distribucin exponencial.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
24
6.- Proceso de Banda-Angosta
Un proceso estocstico de tiempo continuo y estado
estacionario x(t) es llamado un proceso de banda angosta si
x(t) puede ser expresado como:

donde e
0
= constante . La amplitud A(t), y la fase c(t) son
variables aleatorias cuyo espacio de muestreo son
0sA(t) s y 0 s c(t) s 2t, respectivamente.
)} ( cos{ ) ( ) (
0
t t A t x c e + =
0
2
e
t
0
2
e
t
0
2
e
t
0
2
e
t
0
2
e
t
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
25
7.- Proceso Normal(Gaussiano)
Un proceso estocstico x(t) se dice que es un proceso
normal (o gaussiano) si para cualquier tiempo t, la variable
aleatoria x(t) tiene distribucin Normal.

Obs:
Un proceso normal es importante en el anlisis
estocstico de un fenmeno aleatorio observado en las
ciencias naturales, ya que muchos fenomenos aleatorios
pueden ser representados aproximadamente por una
densidad de probabilidad normal. Ejm: movimiento de
la superficie del oceano.

Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
26
8.- Proceso de Wiener-Lvy
Un proceso estocstico x(t) se dice que es un proceso de
Wiener-Lvy si:
i) x(t) tiene incrementos independientes estacionarios.
ii) Todo incremento independiente tiene distribucin
normal.
iii) E[x(t)]=0 para todo el tiempo.
iv) x(0)=0

Se conoce como Proceso de movimiento Browniano el
cual describe el movimiento de pequeas particulas
inmersas en un lquido o gas.

Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
27
8.- Proceso de Wiener-Lvy
Se puede demostrar que la varianza de un proceso Wiener-
Lvy aumenta linealmente con el tiempo.
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
28
9.- Proceso de Poisson
Un proceso de conteo N(t) se dice que es un proceso de
Poisson con razn media (o intensidad) u si:
i) N(t) tiene incrementos independientes estacionarios.
ii) N(0)=0
iii) El nmero de la longitud t en cualquier intervalo de
tiempo est distribuido como Poisson con media ut. Esto
es:


tambin es llamado como proceso de incremento de
Poisson.
,... 2 , 1 , 0 ,
!
()
} ) ( ) ( { = = = +

k
k
e k t N t N P
k
ut
t
ut
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
29
9.- Proceso de Poisson
Para un proceso estocstico de incrementos
independientes, se tiene la siguiente funcin de
autocovarianza:



Si x(t) tiene distribucin de Poisson, entonces:



Por lo tanto un proceso de incremento de Poisson es
estacionario en covarianza.

< < +
=
e.t.o.c 0
0 para )] ( ) ( [
)] ( ), ( [
1 2 2 1
2 1
t t t t t N t N Var
t x t x Cov

< < = +
=
e.t.o.c 0
0 para )) ( ( ) (
)] ( ), ( [
1 2 1 2 2 1
2 1
t t v t v t t t t t t
t x t x Cov
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
30
10.- Proceso de Bernoulli
Considerar una serie de intentos independientes con dos
salidas posibles: xito o fracaso. Un proceso de conteo X
n

se llama proceso de Bernoulli si X
n
representa el nmero
de xitos en n intentos.

Si p es la probabilidad de xito, la probabilidad de k xitos
dado n intentos est dado por la distribucin binomial:
p q q p
k
n
k X P
k n k
n
=
|
|
.
|

\
|
= =

1 donde , } {
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
31
11.- Proceso Ruido Blanco
Sea un p.e., se llama ruido blanco ssi:
i.
ii.


Obs:
1. El ruido blanco es un proceso estocstico estacionario
(por construccin).
2. Si , en tal caso el ruido
blanco se dice Gaussiano.
3. Si son independientes
entonces es ruido blanco puro
T t
t a
e
)} ( {
0 )] ( [ = t a E

=
= =
e.t.o.c. 0
t s si 1
] , [
st s t
a a Cov o
T t N t a
a
e ) , 0 ( ~ ) (
2
o
T t t t
n
e ,..., ,
2 1
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
32
12.- Proceso de Medias Mviles
Sea un p.e., se dice de media mvil de orden
q ssi:

donde

y es ruido blanco.

Notacin:
} ), ( { T t t x e
q t q t t t t
a a a a x

+ + + + = u u u .....
2 2 1 1
0 , ,....,
1
= 9 e
q q
u u u
T t
t a
e
)} ( {
) ( ~ q MA X
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
33
13.- Proceso Autoregresivo
Sea un p.e., se dice autoregresivo de orden p
ssi:

donde

y es ruido blanco.

Notacin:
} ), ( { T t t x e
t p t p t t t
a x x x x + + + + =

| | | ...
2 2 1 1
0 , ,....,
1
= 9 e
p p
| | |
T t
t a
e
)} ( {
) ( ~ p AR X
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
34
14.- Proceso ARMA
Sea un p.e., se dice autoregresivo de media
mvil de orden (p,q) ssi:

donde

y es ruido blanco.

Notacin:
} ), ( { T t t x e
q t q t t p t p t t
a a a x x x

+ + + + + + = u u | | ... ...
1 1 1 1
0 , 0 , ,..., , ,....,
1 1
= = 9 e
q p q p
u | u u | |
T t
t a
e
)} ( {
) , ( ~ q p ARMA X
Profesor Dr. Hctor Allende
Desarrollado por Rodrigo Salas
35
Bibliografa
Applied Probability & Stochastic Processes.
Michel K. Ochi.
Applied Probability Models with Optimization
Applications.
Sheldon M. Ross.
Consultas o Preguntas?