07 Procesos Estocasticos

Simulacin/2002 Hctor Allende 1
Captulo 7

Generacin de
Procesos Estocsticos

Departamento de Informtica
Universidad Tcnica Federico Santa
Mara

Introduccin
Las caractersticas de un fenmeno aleatorio
puede ser descrito a travs de la distribucin de
probabilidad de una variable aleatoria que
representa el fenmeno.

En la teora de probabilidad, las propiedades
estadsticas de un fenmeno aleatorio que ocurre
de manera aleatoria respecto al tiempo o al espacio
no son considerados.

Introduccin
Ejemplos de fenmenos aleatorios en el tiempo:

-Imagen Biomedica, Imagen SAR
-Comportamiento de una onda en el oceano.
-Demanda de energia de cuidad o regin geografica
-Volatilidad de los ADR
-Movimiento de una partcula en un campo magnetico
-Emisin de fuentes radioactivas
-Vibracin de un edificio, causada por un movimiento
ssmico

Proceso Estocstico
Definicin: Una familia de variables aleatorias
x(t) donde t es el parmetro perteneciente a un
conjunto indexado T es llamado un proceso
estocstico (o proceso aleatorio), y se denota por:

Nota: Tambin es definido como:
siendo en el mismo espacio de
probabilidad

} ), ( { T t t x e
} , ), , ( { O e e e e T t t x
T t a v t X e . . ), (
) , , ( P O
Proceso Estocstico
Observacin
Si t es fijo, x(e ) es una familia de variables aleatorias. (ensemble).
Para e fijo, x(t) es una funcin del tiempo llamada funcin
muestrada.
) (
1
t x
) (
2
t x
) (
3
t x
) (t x
k
) (t x
n
1
t
2
t
Proceso Estocstico
Estado y tiempo discreto y continuo.
Estado
Continuo Discreto
C
o
n
t
i
n
u
o
T
i
e
m
p
o
D
i
s
c
r
e
t
o
Funcin de Medias
1. Sea un proceso estocstico, se
llama funcin de medias:

Obs: se dice que
es un proceso estocstico estable en media.
} ), ( { T t t x e
] [ ) (
: ) (
t x
x
x E t t
T t
=
9

T t )] ( [ ) ( e = = cte t x E t
x

Funcin de Varianzas
llama funcin de varianzas:

Obs: se dice que es
un proceso estocstico estable en varianza.
} ), ( { T t t x e
} ] [ {( ] [ ) (
: ) (
2 2
2
t t t x
x
x E x E x V t t
T t
= =
9
o
o
T t cte t
x
e = ) (
2
o
Funcin de
Autocovarianzas

} ), ( { T t t x e
))} ( ))( ( {(
] , [ ) ( ) , (
: ) (
2 1
2 , 1 2 1
2 1
2
1
t x t x E
x x Cov t t C t t
T T t C
x t x t
t t xx
xx
=
=
9
Funcin de
Autocorrelacin

} ), ( { T t t x e
) ( ) (
] , [
) ( ) , (
: ) (
2 1
2 , 1 2 1
2
1
t t
x x Cov
t t t t
T T t
t t
x
x
o o
=
9
Funcin de Autocovarianza
La funcin de Autocovarianza de un
proceso estocstico viene dado por:

donde

Si est en funcin de las diferencias de tiempo:
) , (
2 1
t t C
xx
=
=
=
=
n
k
k k
xx
xx
t x t x t x t x t t C
t x E t x t x E t x E
t x t x Cov t t C
1
2 2 1 1 2 1
2 2 1 1
2 1 2 1
)} ( ) ( )}{ ( ) ( {
n
1
) , (
)])] ( [ ) ( )])( ( [ ) ( [(
)] ( ), ( [ ) , (
2 , 1 ) (
1
)] ( [ ) (
1
= = =

=
i t x
n
t x E t x
n
k
k
i i i
) ( )] ( ), ( [ ) ( t t t
x
t x t x Cov R = + =
Distribucin conjunta finito
dimensional
Sea un espacio de probabilidad y
un conjunto de ndices T, y
un proceso estocstico.

El sistema:
es una Distribucin conjunta finito
dimensional

) , , ( P O
9 O T X :
} , ,...., : {
1 ) ( ),..., (
1
N e e = n T t t F F
n t X t X X
n
Proceso estocstico de 2 orden
Sea X un proceso estocstico, se dice de 2
orden ssi el segundo momento es finito es
decir,

o sea
T t )] ( [
2
e < t x E
| |
| | T t
t t X V
e <
e < =
X(t) E
T t ) ( ) (
2
1 2
2
o
Proceso Estacionario
OBS: Las caractersticas de un proceso aleatorio son
evaluados basados en el ensemble.
a) Proceso Estocstico Estacionario Estricto:
Si la distribucin conjunta de un vector aleatorio n-
dimensional,
y
es la misma para todo t , entonces el proceso
estocstico x(t) se dice que es un proceso estocstico
estacionario (o estado estacionario).
Es decir, las propiedades estadsticas del proceso se
mantienen invariante bajo la traslacin en el tiempo.
)} ( ),...., ( ), ( {
2 1 n
t x t x t x
)} ( ),...., ( ), ( {
2 1
t t t + + +
n
t x t x t x
Proceso Estacionario
b) Proceso Estocstico Evolucionario:
Un proceso estocstico no estacionario se llama
evolucionario
c) Proceso Estocstico Dbilmente Estacionario:
Un proceso estocstico se dice dbilmente estacionario
(o estacionario en covarianza) si su funcin de valor
medio es constante independiente de t y su funcin de
autocovarianza depende de la diferencia de los
Argumentos.
i) E[x(t)]=c ii) Cov[x(t),x(t+t)] = h(t) para todo t.

Proceso Ergdico
Un proceso estocstico x(t) se dice que es
un proceso ergdico si el tiempo promedio
de un simple registro es aproximadamente
igual al promedio de ensemble. Esto es:
=
}
=
continuo. tiempo de proceso un para ) (
1
discreto. tiempo de proceso un para ) (
1
)] ( [
0
1
dt t x
T
t x
n
t x E
T
n
i
i
Proceso Ergdico
En general, las propiedades ergdicas de un
proceso estocstico se asume verdadera en
el anlisis de los datos observados en
ingeniera, y por lo tanto las propiedades
estadsticas de un proceso aleatorio puede
ser evaluado a partir del anlisis de un nico
registro.
Proceso de Incrementos
Independientes
Un proceso estocstico x(t) se dice que es un proceso
de incrementos independientes si ,
i= 0,1,, es es estadsticamente independiente
(i.e., Estadsticamente no correlacionado).

Sea el proceso estocstico x(t) se dice un proceso
estacionario de incrementos independientes.
Entonces, la varianza de los incrementos
independientes , donde
es proporcional a

) ( ) (
1 i i
t x t x
+
) ( ) (
1 2
t x t x
,
2 1
t t <
1 2
t t
Proceso de Markov
Un proceso estocstico x(t) se dice que es un
proceso de Markoviano si satisface la siguiente
probabilidad condicional:

Cadena de Markov: Proceso de Markov con estado
discreto.
Proceso de Difusin: Proceso de Markov con
estado continuo.

.... donde }, ) ( | ) ( {
} ) ( ,..., ) ( , ) ( | ) ( {
1 2 1 1 1
1 1 2 2 1 1
n n n n n n
n n n n
t t t t x t x x t x P
x t x x t x x t x x t x P
< < < = s =
= = = s

Proceso de Markov
La ecuacin anterior puede ser escrita
como:
entonces se tiene:

Obteniendos
)} ( | ) ( { )} ( ),..., ( ), ( | ) ( {
1 1 2 1
=
n n n n
t x t x f t x t x t x t x f
etc.

)} ( ),..., ( { )} ( | ) ( { )} ( ),..., ( {
)} ( ),..., ( ), ( { )} ( | ) ( {
)} ( ),..., ( { )} ( ),..., ( | ) ( { )} ( ),.., ( {
2 1 2 1 1 1
1 2 1 1
1 1 1 1 1

=
=
=
n n n n
n n n
n n n n
t x t x f t x t x f t x t x f
t x t x t x f t x t x f
t x t x f t x t x t x f t x t x f

[
=

=
n
r
r r i n
t x t x f t x f t x t x t x f
2
1 2 1
)} ( | ) ( { )} ( { )} ( ),..., ( ), ( {
Proceso de Markov
Conclusin:
La funcin de densidad de probabilidad conjunta
de un proceso de Markov puede ser expresado por
medio de las densidades marginales y
Un conjunto de funciones de densidad de probabilidad
condicional ,se llama densidad de
probabilidad de transicin.

Un proceso de Markov se dice homogneo en el tiempo si
la densidad de probabilidad de transicin es invariante en
el tiempo t:
)} ( {
r
t x f
)} ( | ) ( {
1 r r
t x t x f
)} ( | ) ( { )} ( | ) ( {
1 1
= + +
r r r r
t x t x f t x t x f t t
Proceso de Conteo
Un proceso estocstico de tiempo continuo y valores
enteros se llama proceso de conteo de la serie de eventos si
N(t) representa el nmero total de ocurrencias de un evento
en el intervalo de tiempo [0 ; t]
N(t)
Time
4
3
2
1
0
t
1
t
2
t
3

T
1
T
2
T
3
T
4

Intervalos de tiempo
entre sucesivas
ocurrencias
Proceso de Conteo
Proceso de Poisson: Proceso de renovacin en la cual
los tiempos entre llegadas obedecen una distribucin
exponencial.
Proceso de renovacin (Renewal Process):
Los tiempos entre llegadas son v.a. i.i.d. con alguna ley de
probabilidades F
Proceso Guassiano
Proceso de Wiener
Proceso de Bernoulli

Proceso Normal o Gaussiano
Un proceso estocstico x(t) se dice que es un proceso
gaussiano si para cualquier tiempo t, la variable aleatoria
x(t) tiene distribucin Normal.

Nota: Un proceso normal es importante en el anlisis
estocstico de un fenmeno aleatorio observado en las
ciencias naturales, ya que muchos fenomenos aleatorios
Pueden ser representados aproximadamente por una
densidad de probabilidad normal

Ejemplo: Movimiento de la superficie del oceano.

Proceso de Wiener-Lvy
Un proceso estocstico x(t) se dice que es un proceso de
Wiener-Lvy si:
i) x(t) tiene incrementos independientes estacionarios.
ii) Todo incremento independiente tiene distribucin normal.
iii) E[x(t)]=0 para todo el tiempo.
iv) x(0)=0
Este proceso se conoce en el mundo fisco comomovimiento
Browniano y juega un importante papel en la descripcin del
movimiento de pequeas particulas inmersas en un lquido o
gas.
Se puede demostrar que la varianza de un proceso Wiener-
Lvy aumenta linealmente con el tiempo.

Proceso de Poisson
Un proceso de conteo N(t) se dice que es un proceso de
Poisson con razn media (o con intensidad) u si:
i) N(t) tiene incrementos independientes estacionarios.
ii) N(0)=0
iii) El nmero de la longitud t en cualquier intervalo de
tiempo est distribuido como Poisson con media ut. Esto
es:

tambin se conoce como proceso de incremento de Poisson.
,... 1 , 0 ,
!
) (
} ) ( ) ( { = = = +

k
k
e k t N t N P
k
ut
t
ut
Proceso de Poisson
Para un proceso estocstico de incrementos independientes,
se tiene la siguiente funcin de autocovarianza:

Si x(t) tiene distribucin de Poisson, entonces:

Por lo tanto un proceso de incremento de Poisson es
estacionario en covarianza.
< < +
=
e.t.o.c 0
0 para )] ( ) ( [
)] ( ), ( [
1 2 2 1
2 1
t t t t t N t N Var
t x t x Cov
< < = +
=
e.t.o.c 0
0 para )) ( ( ) (
)] ( ), ( [
1 2 1 2 2 1
2 1
t t v t v t t t t t t
t x t x Cov
Proceso de Bernoulli
Considerar una serie de intentos independientes con dos
salidas posibles: xito o fracaso. Un proceso de conteo X
n

se llama proceso de Bernoulli si X
n
representa el nmero
de xitos en n ensayos.

Si p es la probabilidad de xito, la probabilidad de k xitos
dado n ensayos est dado por la distribucin binomial:

p q q p
k
n
k X P
k n k
n
=
|
|
.
|
\
|
= =

1 donde , } {
Proceso Ruido Blanco
Sea un p.e., se llama ruido blanco
ssi:
i )
ii)

El ruido blanco es un proceso estocstico estacionario
Si , en tal caso el ruido blanco
se dice Gaussiano.
Si son independientes
entonces es ruido blanco puro
T t
t a
e
)} ( {
0 )] ( [ = t a E
2
] , [
a st s t
a a Cov o o =
T t N t a
a
e ) , 0 ( ~ ) (
2
o
T t t t
n
e ,..., ,
2 1
Proceso de Medias Mviles
Sea un p.e., se dice de media mvil de orden q
ssi:

donde

y es ruido blanco.

Notacin:
} ), ( { T t t x e
q t q t t t t
a a a a x

+ + + + = u u u .....
2 2 1 1
0 , ,....,
1
= 9 e
q q
u u u
T t
t a
e
)} ( {
) ( ~ q MA X
Proceso Autoregresivo
Sea un p.e., se dice autoregresivo de
orden p ssi:

donde

y es ruido blanco.

Notacin:
} ), ( { T t t x e
t p t p t t t
a x x x x + + + + =

| | | ...
2 2 1 1
0 , ,....,
1
= 9 e
p p
| | |
T t
t a
e
)} ( {
) ( ~ p AR X
Proceso ARMA
Sea un p.e., se dice autoregresivo de
media mvil de orden (p,q) ssi:

donde

y es ruido blanco.

Notacin:
} ), ( { T t t x e
q t q t t p t p t t
a a a x x x

+ + + + + + = u u | | ... ...
1 1 1 1
0 , 0 , ,..., , ,....,
1 1
= = 9 e
q p q p
u | u u | |
T t
t a
e
)} ( {
) , ( ~ q p ARMA X
Proceso de Banda-Angosta
Un proceso estocstico de tiempo continuo y estado
estacionario x(t) es llamado un proceso de banda angosta si
x(t) puede ser expresado como:

donde e
0
= constante . La amplitud A(t), y la fase c(t) son
variables aleatorias cuyo espacio de muestreo son 0sA(t) s
y 0 s c(t) s 2t, respectivamente.
)} ( cos{ ) ( ) (
0
t t A t x c e + =
0
2
e
t
0
2
e
t
0
2
e
t
0
2
e
t
0
2
e
t
Generacin de Procesos Estocsticos
Generacin de Familias de v.a. {X
t
}
t eT
Comenzaremos con las cadenas de Markov homogneas.

Cadena de Markov en Tiempo Discreto
Para generar una cadena de Markov con espacio de estado S
y matriz de transicin P = [p
ij
] donde p
ij
= P(X
n+1
=j / X = i). La
forma ms simple de simular la transicin (n+1)-sima,
conocida X
n
, es generar X
n+1
~{px
nj
: j e S}

Generacin de Procesos
Estocsticos
Alternativamente se puede simular T
n
, el tiempo hasta el
siguiente cambio de estado y, despus el nuevo estado
X
n+Tn
. Si X
n
= s, T
n
~ G
eo
(p
ss
) y X
n+Tn
tiene una distribucin
discreta con cuanta {p
sj
/ (1 - p
ss
) : j e S \ {s}}.
Para muestrear N transiciones de la cadena suponiendo
X
o
= i
o
Algoritmo
Hacer t=0, X
o
= i
o

Mientras t < N
Generar h ~ G
eo
(px
t
x
t
)
Generar X
t+h
~ {px
tj
/ (1 - px
t
x
t
) : j e S \ {s}}.
Hacer t=t+h
Estocsticos
OBS. 1) La primera forma de simular una cadena de
Markov, que corresponde a una estrategia
sincrnica, es decir en la que el tiempo de
simulacin avanza a instantes iguales.
2) La estrategia asincrnica es ms complicada de
simular [Ver. B. Ripley 1996]
Estocsticos
Cadenas de Markov en Tiempo Continuo
La simulacin asincrnica de cadenas de Markov en
tiempo continuo es sencilla de implantar.
- Las cadenas de Markov de Tiempo Continuo vienen
caracterizadas por los parmetros v
i
de las distribuciones
exponenciales de tiempo de permanencia en el estado i y
la matriz de transicin P; con p
ii
= 0; p
ij
= 1
- Sea P
i
la distribucin de la fila i-sima. Entonces si X
o
= i
o
,
para simular hasta T se tiene :
= j i
Estocsticos
Algoritmo

Hacer t = 0, X
o
= i
o
, j = 0
Mientras t < N
Generar t
j
~ exp(vx
j
)
Hacer t = t + t
j

Hacer j = j + 1
Generar X
j
~ Px
j-1

Estocsticos
Proceso de Poisson
En el Proceso de Poisson P(), el nmero de eventos N
T

en un intervalo (0,T) es P(T) y los N
T
~ U(0,T)
Algoritmo

-Generar N
T
~ P(T)

- Generar U
1
, ..., U
T
~ U(0,T)
Estocsticos
1) Para procesos de Poisson no homogneos, con

intensidad (t) y u(t) = (s) ds . Entonces
- Generar N
T
~ P(u(t))
- Generar T
1
, T
2
,..., TN
T
~

2) Los procesos de Poisson son un caso particular
de los procesos de renovacin. La forma de generar
los primeros se extiende a los procesos de
renovacin.
}
t
0
] , 0 [
) (
T
I
t
Estocsticos
- Sean S
0
= 0, S
1
, S
2
, ... Los tiempos de ocurrencia
- T
i
= S
i
- S
i-1
los tiempos entre sucesos.
- Para un proceso de renovacin, los T
i
son v.a.i.i.d. segn
cierta distribucin t.
- Simular hasta el instante T.
Hacer S
0
= 0
Mientras S
i
< T
Generar T
i
~ t
Hacer S
i
= T
i
+ S
i-1

Hacer i = i + 1
Estocsticos
Procesos no Puntuales (Movimiento Browniano)
- La simulacin de procesos (no puntuales) en tiempo
continuo es ms complicada que la simulacin de procesos
puntuales.

-Una solucin es generar procesos en suficientes instantes
discretos y aproximar la trayectoria por interpolacin.

Estocsticos
Como ejemplo, consideremos el movimiento Browniano
con parmetro o
2

- X
0
= 0
- Para s
1
s t
1
s
2
s t
2
..... s s
n
s t
n
las v.a.
Xt
1
- Xs
1
, ..., Xt
n
- Xs
n
son independientes
- Para s < t, X
t
- X
s
~ N(0, (t-s) o
2
)
-Las trayectorias son continuas

Estocsticos
Entonces para At fijo,
Hacer X
0
= 0
Desde i = 1 hasta n
Generar Y
i
~ N(0, (t-s) o
2
)
Hacer X
iAt
= X
(i-1)At
+ Y
i

Interpolar la trayectoria en {(iAt, X
iAt
)}
Otros ejemplos de Simulacin de Procesos continuos [Ver
B. Ripley 1987]

Estocsticos
El Proceso de Gibbs
El creciente inters en los mtodos de cadenas de Markov,
se debe al uso en Inferencia Bayesiana del Muestrador de
Gibbs. [Geman and Geman (1984)]
Ejemplo: Sean (X,Y) v.a.d. Bernoulli con distribucin
x y P(X,Y)
0 0 p
1

1 0 p
2

0 1 p
3
p
i
> 0
1 1 p
4

1
4
1
=
= i
i
p
Estocsticos
P(X=1) = p
2
+ p
4
(Marginal)
P(X/Y=1) =
P(X=1/Y=1) =
Las Distribuciones condicionales

=
=
1
0
4
3
x p
x p
4 3
4
p p
p
+
|
|
.
|
\
|
= = = =
= = = =
=
) 1 / 1 ( ) 1 / 0 (
) 0 / 1 ( ) 0 / 0 (
x y P x y P
x y p x y P
A
yx
|
|
.
|
\
|
+ +
+ +
4 2
4
4 2
2
3 1
3
3 1
1
p p
p
p p
p
p p
p
p p
p
=
yx
A
Estocsticos

Algoritmo
Escoger Y
0
= y
0
, j =1
Repetir
Generar X
j
~ X/Y = y
j-1

Generar Y
j
~ Y/X = x
j

j=j+1

Entonces {X
n
} define una cadena de Markov con matriz de
transicin
A = A
yx
A
xy

|
|
.
|
\
|
+ +
+ +
4 3
4
4 3
3
2 1
2
2 1
1
p p
p
p p
p
p p
p
p p
p
=
xy
A
Estocsticos
Como las probabilidades p
i
> 0, la cadena es ergdica y
tiene distribucin lmite, que es la marginal de X
X
n
X ; Y
n
Y ; (X
n
, Y
n
) (X,Y)

1) El procedimiento descrito se llama muestrador de
Gibbs [Gibbs Sampler] y nos proporciona una
cadena de Markov, con distribucin lmite deseada y
se puede generalizar.
Para muestrear un vector aleatorio p-variante
X = (X
1
, X
2
, ..., X
p
) con distribucin t, conociendo
las distribuciones condicionadas X
s
/X
r
, r = s
Estocsticos
Sea t (x
s
/x
r
, r = s) Distribucin Condicionada
El [Gibbs Sampler] en este caso es
- Escoger X
1
0
, X
2
0
,..., X
p
0
; j = 1
Repetir
Generar X
1
j
~ X
1
/ X
2
j-1
,..., X
p
j-1

Generar X
2
j
~ X
2
/ X
1
j
, X
3
j-1
,..., X
p
j-1

....
Generar X
p
j
~ X
p
/ X
1
j
, X
2
j
,..., X
p-1
j

j = j+1

Estocsticos
Se puede verificar que X
n
= (X
1
n
, X
2
n
,..., X
p
n
) define una
cadena de Markov con Matriz de transicin
P
g
(X
n
, X
n+1
) =

Bajo condiciones suficientemente generales [Ver Roberts
Smith (1994)]
[
=
+ +
< >
p
j
n
j
n
j
n
i
i j X i j X x
1
1 1
) , ; ; / ( t
Estocsticos
Ejemplo : Muestrear la densidad
t (x
1
/x
2
) =
siendo D = R
+
R
t (x
1
/x
2
) =
t (x
2
/x
1
) =

x
1
/x
2
~
x
2
/x
1
~ N(0, o
2
=(1/2x
1
))
) , ( )] 1 ( exp[
2 1
2
2 1
1
x x I x x
D
+
t
] exp[
2
2 1
x x
)] 1 ( exp[
2
2 1 ) (
) , (
2
2 1
x x
x
x x
+ =
t
t
] 1 exp[
2
2
x +
Estocsticos
El muestreador Gibbs
Escoger x
2
0
; j = 1
Repetir
Generar X
1
j
~ exp[1+(x
2
j-1
)
2
]
Generar X
2
j
~ N(0, 1/2x
1
j
)
OBS: Las secuencias podran efectuarse en forma
aleatoria en lugar de usar la secuenciacin natural
Estudiar el Algoritmo de Metropolis-Hastings.

Estocsticos

Mtodos de Optimizacin y Simulacin:

1. Bsqueda Aleatoria Pura
2. Simulated Anneling
3. Algoritmos Genticos
4. Bsqueda Tab
5. Bsqueda Tab Probabilstica

07 Procesos Estocasticos

Uploaded by

Document Information

Original Title

Copyright

Available Formats

Share this document

Share or Embed Document

Sharing Options

Did you find this document useful?

Is this content inappropriate?

Copyright:

Available Formats

07 Procesos Estocasticos

Uploaded by

Copyright:

Available Formats

Simulacin/2002 Hctor Allende 1

Simulacin/2002 Hctor Allende 8

You might also like