You are on page 1of 54

Tema 7: Procesos Estoc asticos

Teora de la Comunicaci on
Curso 2007-2008
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Denici on
Procesos Estoc asticos
Denici on: Un Proceso Estoc astico X(t) es una funci on que
asocia una se nal a cada posible resultado de un experimento
aleatorio.
S X(t, S) R
Variable independiente: t T R (T espacio de tiempos)
Interpretaci on
Si se ja el suceso: X(t, S
0
) es una se nal
Si se ja el tiempo: X(t
0
, S) es una variable aleatoria
Si se jan ambos: X(t
0
, S
0
) es un n
o
real
Si ambos varan: X(t, S) es un proceso estoc astico
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Denici on
Procesos Estoc asticos. Ejemplo
Realizaciones de un Proceso Estoc astico
0 5 10 15 20 25 30 35 40 45 50
10
0
10
X: 5
Y: 2.746
x
(
t
,
S
1
)
t
Realizaciones de un Proceso Estocstico
X: 20
Y: 0.128
0 5 10 15 20 25 30 35 40 45 50
10
0
10
X: 5
Y: 3.786
x
(
t
,
S
2
)
t
X: 20
Y: 0.8176
0 5 10 15 20 25 30 35 40 45 50
10
0
10
X: 5
Y: 3.641
x
(
t
,
S
3
)
t
X: 20
Y: 6.604
0 5 10 15 20 25 30 35 40 45 50
10
0
10
X: 5
Y: 3.67
x
(
t
,
S
4
)
t
X: 20
Y: 3.524
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Clasicaci on
Clasicaci on de Procesos Estoc asticos
En funci on del Espacio de Tiempos T:
T continuo: Proceso Estoc astico
T discreto: Secuencia Estoc astica
En funci on del espacio de estados S = {X(t, S) t T S }
T continuo T discreto
S continuo Proceso
Estoc astico
Continuo
Secuencia
Estoc astica
Continua
S discreto Proceso
Estoc astico
Discreto
Secuencia
Estoc astica
Discreta
Otra Clasicaci on:
Deterministas (o predecibles): Los valores futuros se pueden
predecir de manera exacta a partir de los valores anteriores
Ejemplo: X(t) = Acos(t + ) con v.a. uniforme en (, )
No Deterministas (impredecibles): No se pueden predecir de
manera exacta los valores futuros
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Funciones Distribuci on y Densidad de Probabilidad de Primer Orden
F.D. y fdp de primer orden
Fijando t X(t
1
) es una v.a.
Funci on Distribuci on de primer orden:
F
X
(x
1
; t
1
) = P(X(t
1
) x
1
)
Funci on Densidad de Probabilidad de primer orden:
f
X
(x
1
; t
1
) =
F
X
(x
1
; t
1
)
x
1
Observaciones:
Ambas funciones se han de conocer para todo t
1
T
En general, el proceso estoc astico no queda completamente
caracterizado por las funciones de primer orden
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Funciones Distribuci on y Densidad de Probabilidad de Segundo Orden
F.D. y fdp de segundo orden
Considerando dos instantes t
1
, t
2
v.a. bidimensional (X(t
1
), X(t
2
))
Funci on Distribuci on de segundo orden:
F
X
(x
1
, x
2
; t
1
, t
2
) = P(X(t
1
) x
1
, X(t
2
) x
2
)
Funci on Densidad de Probabilidad de segundo orden:
f
X
(x
1
, x
2
; t
1
, t
2
) =

2
F
X
(x
1
, x
2
; t
1
, t
2
)
x
1
x
2
Observaciones:
Ambas funciones se han de conocer para todo par (t
1
, t
2
)
En general, el proceso estoc astico no queda completamente
caracterizado por las funciones de segundo orden
Obtenci on de las marginales (funciones de primer orden):
F
X
(x
1
; t
1
) = F
X
(x
1
, x
2
= ; t
1
, t
2
)
f
X
(x
1
; t
1
) =

f
X
(x
1
, x
2
; t
1
, t
2
)dx
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Funciones Distribuci on y Densidad de Probabilidad de Orden n
F.D. y fdp de orden n
Considerando n instantes t
1
, t
2
, . . . , t
n
Caracterizaci on Conjunta de n variables aleatorias
Funci on Distribuci on de orden n:
F
X
(x
1
, x
2
, . . . , x
n
; t
1
, t
2
, . . . , t
n
) = P(X(t
1
) x
1
, . . . , X(t
n
) x
n
)
Funci on Densidad de Probabilidad de orden n:
f
X
(x
1
, x
2
, . . . , x
n
; t
1
, t
2
, . . . , t
n
) =

n
F
X
(x
1
, x
2
, . . . , x
n
; t
1
, t
2
, . . . , t
n
)
x
1
x
2
. . . x
n
Observaciones:
Un proceso estoc astico queda completamente caracterizado
a
si
conocemos su fdp (o F.D.) de orden n
n
x
1
, x
2
, . . . , x
n
R
t
1
, t
2
, . . . , t
n
T
a
En la pr actica, suele bastar con conocer la fdp o F.D. de segundo orden.
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estadsticos de un Proceso Estoc astico
Media de un Proceso Estoc astico
Denici on:

X
(t) = E[X(t)] =

xf
X
(x; t)dx
En general,
X
(t) depende del tiempo
Se requiere la fdp de primer orden
Autocorrelaci on de un Proceso Estoc astico
Denici on:
R
X
(t
1
, t
2
) = E[X(t
1
)X(t
2
)] =

x
1
x
2
f
X
(x
1
, x
2
; t
1
, t
2
)dx
1
dx
2
En general, la autocorrelaci on depende de t
1
y t
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estadsticos de un Proceso Estoc astico
Autocovarianza de un Proceso Estoc astico
Denici on:
C
X
(t
1
, t
2
) = E [(X(t
1
)
X
(t
1
)) (X(t
2
)
X
(t
2
))] =
= E[X(t
1
)X(t
2
)]
X
(t
1
)
X
(t
2
) = R
X
(t
1
, t
2
)
X
(t
1
)
X
(t
2
)
Valor Cuadr atico Medio (Potencia) de un Proceso Estoc astico
Es el momento no centrado de orden 2 de la v.a. X(t):
m
2
(t) = E

X
2
(t)

= R
X
(t, t)
Varianza de un Proceso Estoc astico
Es el momento centrado de orden 2 de la v.a. X(t):

2
(t) =
2
X
(t) = Var [X(t)] = E

X
2
(t)

2
X
(t) = C
X
(t, t)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estadsticos de un Proceso Estoc astico
Coeciente de Autocorrelaci on
Denici on an aloga al caso de 2 variables aleatorias:
r
X
(t
1
, t
2
) =
C
X
(t
1
, t
2
)

Var [X(t
1
)] Var [X(t
2
)]
=
C
X
(t
1
, t
2
)

C
X
(t
1
, t
1
)C
X
(t
2
, t
2
)
1 r
X
(t
1
, t
2
) 1
r
X
(t
1
, t
2
) indica el grado de relaci on lineal entre X(t
1
) y X(t
2
)
Ejemplo
X(t) = at +Y con Y v.a. uniforme en (0, 1), a = cte.
Media:
X
(t) = at + 1/2
Autocorrelaci on: R
X
(t
1
, t
2
) = a
2
t
1
t
2
+
1
2
a(t
1
+t
2
) +
1
3
Autocovarianza: C
X
(t
1
, t
2
) =
1
12
Varianza:
2
X
(t) = Var [X(t)] = C
X
(t, t) =
1
12
Valor Cuadr atico Medio: E

X
2
(t)

= R
X
(t, t) = a
2
t
2
+at +
1
3
Coeciente de Autocorrelaci on: r
X
(t
1
, t
2
) = 1
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estadsticos de un Proceso Estoc astico
Ruido Blanco
Un Proceso Estoc astico es Ruido Blanco sii:
C
X
(t
1
, t
2
) = 0 R
X
(t
1
, t
2
) =
X
(t
1
)
X
(t
2
) t
1
= t
2
Las variables aleatorias X(t
1
), X(t
2
) est an incorreladas
No se puede estimar linealmente X(t
2
) a partir de X(t
1
) (t
1
= t
2
)
Realizaciones de Ruido Blanco: Car acter Err atico
Ruido Blanco Estricto
Un Proceso Estoc astico es Ruido Blanco Estricto sii:
f
X
(x
1
, x
2
; t
1
, t
2
) = f
X
(x
1
; t
1
)f
X
(x
2
; t
2
) t
1
= t
2
Las variables aleatorias X(t
1
), X(t
2
) son independientes
No hay ninguna relaci on (ni lineal ni no lineal) entre X(t
1
) y X(t
2
)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estadsticos de un Proceso Estoc astico
Caracterizaci on de Procesos Estoc asticos Discretos en el tiempo
Secuencias Estoc asticas: Espacio de tiempos T = {. . . , t
1
, t
0
, t
1
, . . .}
X[n] = X(t
n
) n Z
Deniciones An alogas a las de Procesos Estoc asticos Continuos
Funci on Distribuci on: F
X
[x; n] = P(X[n] x)
fdp:
f
X
[x; n] =
F
X
[x; n]
x
Media:
X
[n] = E [X[n]]
Autocorrelaci on: R
X
[n
1
, n
2
] = E [X[n
1
]X[n
2
]]
Autocovarianza: C
X
[n
1
, n
2
] = R
X
[n
1
, n
2
]
X
[n
1
]
X
[n
2
]
Valor Cuadr atico Medio (Potencia): m
2
[n] = E

X
2
[n]

Varianza:

2
X
[n] = Var [X[n]] = E

(X[n]
X
[n])
2

= E

X
2
[n]

2
X
[n]
Coeciente de Autocorrelaci on: r
X
[n
1
, n
2
] =
C
X
[n
1
,n
2
]

C
X
[n
1
,n
1
]C
X
[n
2
,n
2
]
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estadsticos de dos Procesos Estoc asticos
Caracterizaci on de dos Procesos Estoc asticos
Procesos Estoc asticos X(t), Y (t)
Funci on Distribuci on Conjunta:
F
XY
(x
1
, . . . , x
N
, y
1
, . . . , y
M
; t
1
, . . . , t
N
, t

1
, . . . , t

M
)
fdp Conjunta: f
XY
(x
1
, . . . , x
N
, y
1
, . . . , y
M
; t
1
, . . . , t
N
, t

1
, . . . , t

M
)
Estadsticos de dos Procesos Estoc asticos
Correlaci on Cruzada: R
XY
(t
1
, t
2
) = E [X(t
1
)Y (t
2
)]
Covarianza Cruzada:
C
XY
(t
1
, t
2
) = E [(X(t
1
)
X
(t
1
)) (Y (t
2
)
Y
(t
2
))]
Propiedades:
R
X
(t
1
, t
2
) = R
X
(t
2
, t
1
) C
X
(t
1
, t
2
) = C
X
(t
2
, t
1
)
R
XY
(t
1
, t
2
) = R
Y X
(t
2
, t
1
) C
XY
(t
1
, t
2
) = C
Y X
(t
2
, t
1
)
R
XY
(t
1
, t
2
) = R
XY
(t
2
, t
1
) C
XY
(t
1
, t
2
) = C
XY
(t
2
, t
1
)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estacionariedad
Proceso Estoc astico Estacionario de Orden 1
Denici on: Se dice que un proceso estoc astico es estacionario de
orden uno sii:
f
X
(x; t) = f
X
(x; t + ) t,
es decir, la fdp (y F.D.) de orden 1 no dependen de t, lo que implica:

X
(t) =
X
= cte.
2
X
(t) =
2
X
= cte.
Proceso Estoc astico Estacionario de Orden 2
Denici on: Se dice que un proceso estoc astico es estacionario de
orden dos sii:
f
X
(x
1
, x
2
; t
1
, t
2
) = f
X
(x
1
, x
2
; t
1
+ , t
2
+ ) t
1
, t
2
,
Implicaciones:
La fdp (y F.D.) de orden dos no depende de los tiempos absolutos
t
1
, t
2
sino solamente de la diferencia = t
1
t
2
Un P.E. estacionario de orden 2 tambi en lo es de orden 1
R
X
(t
1
, t
2
) = R
X
(t
1
t
2
) = R
X
()
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estacionariedad
Proceso Estoc astico Estacionario en Sentido Estricto
Denici on: Un proceso estoc astico es estacionario en sentido estricto
sii es estacionario de orden n n
Proceso Estoc astico Estacionario en Sentido Amplio
Denici on: Un P.E. es estacionario en sentido amplio
a
sii:

X
(t) = E[X(t)] =
X
= cte.
R
X
(t
1
, t
2
) = R
X
(t
1
t
2
) = R
X
() = E [X(t +)X(t)]
En el caso discreto:

X
[n] = E[X[n]] =
X
= cte.
R
X
[n
1
, n
2
] = R
X
[n
1
n
2
] = R
X
[m] = E [X[n +m]X[n]]
Observaci on:
Estacionario de orden 2

Estacionario en Sentido Amplio


a
WSS: Wide Sense Stationary
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estacionariedad
Ejemplo 1
Tono de fase aleatoria: X(t) = Acos(t + ) uniforme en (, )
f
X
(x; t) = f
X
(x) =
1

A
2
x
2
|x| A Estacionario orden 1
Media:

X
(t) = E [Acos(t + )] = A
_

cos(t +)
1
2
d = 0 = cte.
Autocorrelaci on:
R
X
(t
1
, t
2
) = E [X(t
1
)X(t
2
)] = E
_
A
2
cos(t
1
+ ) cos(t
2
+ )

=
=
A
2
2
_

_
E [cos((t
1
+t
2
) + 2)]
. .
0
+E [cos((t
1
t
2
))]
_

_
=
=
A
2
2
cos((t
1
t
2
)) R
X
() =
A
2
2
cos()
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estacionariedad
Ejemplo 1. Continuaci on
X(t) = Acos(t + ) es estacionario en sentido amplio
Realizaciones del Proceso Estoc astico
0 1 2 3 4 5 6 7 8 9
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
R
e
a
l
i
z
a
c
i
o
n
e
s

d
e

X
(
t
)
t
Proceso Estocstico Estacionario
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estacionariedad
Ejemplo 2
X(t) = Acos(t +) con A v.a. uniforme en (a, a)
X(t) es una v.a uniforme en [a cos(t +), a cos(t +)]
Dependencia con t Proceso Estoc astico No Estacionario
0 1 2 3 4 5 6 7 8 9
1
0.8
0.6
0.4
0.2
0
0.2
0.4
0.6
0.8
1
R
e
a
l
i
z
a
c
i
o
n
e
s

d
e

X
(
t
)
t
Proceso Estocstico No Estacionario
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Estacionariedad
Procesos Conjuntamente Estacionarios
Denici on: Los procesos estoc asticos X(t), Y (t) son conjuntamente
estacionarios en sentido amplio sii:
X(t), Y (t) son estacionarios en sentido amplio por separado
R
XY
(t +, t) = E [X(t +)Y (t)] = R
XY
()
Algunas Propiedades de los Procesos Estacionarios
Propiedades de R
X
()
R
X
() = R
X
()
|R
X
()| R
X
(0)
Propiedades de R
XY
()
R
XY
() = R
Y X
()
|R
XY
()|

R
X
(0)R
Y
(0)
Para Z(t) = X(t) +Y (t)
R
Z
() = E [Z(t +)Z(t)] = E [(X(t +) +Y (t +)) (X(t) +Y (t))]
R
Z
() = R
X
() +R
Y
() +R
XY
() +R
Y X
()
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Relaciones Entre Procesos Estoc asticos
Procesos Estoc asticos Independientes
Denici on: Dos procesos estoc asticos son independientes sii:
f
XY
(x
1
, . . . , x
N
, y
1
, . . . , y
M
; t
1
, . . . , t
N
, t

1
, . . . , t

M
) =
= f
X
(x
1
, . . . , x
N
; t
1
, . . . , t
N
)f
Y
(y
1
, . . . , y
M
; t

1
, . . . , t

M
) N, M
Procesos Estoc asticos Incorrelados
Denici on: Dos procesos estoc asticos son incorrelados sii:
C
XY
(t +, t) = 0 t,
X(t) no se puede estimar de manera lineal a partir de la observaci on de Y (t)
Procesos Estoc asticos Ortogonales
Denici on: Dos procesos estoc asticos son ortogonales sii:
R
XY
(t +, t) = 0 t,
Ejemplo (ruido en RX): Z(t) = X(t) +Y (z) con X(t), Y (t) ortogonales
R
Z
(t +, t) = R
X
(t +, t) +R
Y
(t +, t)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Ergodicidad
Procesos Estoc asticos Erg odicos
Pregunta: Dada una realizaci on de un proceso estoc astico . . .
Podemos caracterizarlo estadsticamente?
Intuici on: Un proceso estoc astico es erg odico si se puede caracterizar
estadsticamente a partir de una realizaci on
Promedio Temporal y Autocorrelaci on Temporal
Dada una realizaci on X(t, S
0
) de un P.E. se dene
Promedio Temporal:
M
X
(S
0
) = lm
T
1
2T

T
T
X(t, S
0
)dt
Autocorrelaci on Temporal:
A
X
(, S
0
) = lm
T
1
2T

T
T
X(t +, S
0
)X(t, S
0
)dt
En general, M
X
(S) es una v.a. y A
X
(, S) es un proceso estoc astico
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Ergodicidad
Ergodicidad Respecto a la Media
Denici on: Un P.E. X(t) es erg odico respecto a la media sii:
X(t) es estacionario en sentido amplio
El promedio temporal es igual a la media
M
X
(S) =
X
S
Condiciones para que X(t) (WSS) sea erg odico respecto a la media
Teorema 1: Condici on Necesaria y Suciente
lm
T
1
2T
_
2T
2T
_
1
||
2T
_
C
X
()d = 0
Teorema 2: Condici on Suciente
_

|C
X
()|d <
Teorema 3: Condici on Suciente
C
X
(0) < lm
||
C
X
() = 0
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Ergodicidad
Ejemplo 1
X(t) = A con A variable aleatoria uniforme en (0, 1)
Promedio estadstico (vertical):
X
= E[X(t)] = E[A] = 1/2
Promedio temporal (horizontal): M
X
= lm
T
1
2T

T
T
Adt = A

X
= M
X
no es erg odico respecto a la media
Ejemplo 2
Lanzamiento de una moneda y dos formas de onda
X(t, cara

) = cos(t) X(t, cruz

) = e
ct

X
(t) No es WSS No es erg odico respecto a la media
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Ergodicidad
Ejemplo 3
X(t) = Acos(t + ) uniforme en (, )
X(t) es estacionario en sentido amplio:

X
= 0 R
X
() =
A
2
2
cos()
Promedio Temporal:
M
X
= lm
T
1
2T

T
T
Acos(t + )dt = lm
T
A
2T
sin(t + )|
T
T
=
= lm
T
A
2T
(sin(T + ) sin(T + )) =
= lm
T
A
T
sin(T) cos() = 0 =
X
WSS y
X
= M
X
Erg odico respecto a la media
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Ergodicidad
Ergodicidad Respecto a la Autocorrelaci on
Denici on: Un P.E. X(t) es erg odico respecto a la autocorrelaci on sii:
X(t) es estacionario en sentido amplio
La Autocorrelaci on Temporal es igual a la Autocorrelaci on
A
X
(, S) = R
X
() , S
Ejemplo
X(t) = Acos(t + ) uniforme en (, )

X
= 0 R
X
() =
A
2
2
cos()
Autocorrelaci on Temporal:
A
X
() = lm
T
1
2T

T
T
Acos((t +) + )Acos(t + )dt =
=
A
2
2
cos() = R
X
() Erg odico resp. Autocorrelaci on
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Caracterizaci on Espectral de Procesos Estoc asticos WSS
Objetivo: Caracterizaci on frecuencial de un proceso estoc astico WSS
Herramienta: Transformada de Fourier
X() =

x(t)e
jt
dt x(t) =
1
2

X()e
jt
d
X(f) =

x(t)e
j2ft
dt x(t) =

X(f)e
j2ft
df
Primera Aproximaci on
Obtenci on de la T.F. de cada Realizaci on x(t) = X(t, S)
Problemas:
En general, x(t) puede no tener Transformada de Fourier
Cond. suciente para T.F.
_

|x(t)|dt <
Buscamos el espectro del P.E., no de una realizaci on
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Segunda Aproximaci on
Consideraci on de una ventana temporal
X
T
(t, S) =
_
X(t, S) T < t < T
0 resto
X
T
(, S) =
_

X
T
(t, S)e
jt
dt
Ventajas:
Energa nita Existe Transformada de Fourier. T
a
de Parseval:
E
T
(S) =
_
T
T
(X
T
(t, S))
2
dt =
1
2
_

|X
T
(, S)|
2
d
Inconvenientes:
Seguimos considerando realizaciones
S olo consideramos un intervalo temporal (T E
T
(S) )
P
T
(S) =
1
2T
_
T
T
(X
T
(t, S))
2
dt =
1
2
_

|X
T
(, S)|
2
2T
d
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Soluci on: Densidad Espectral de Potencia
Consideramos la Potencia
P
X
= lm
T
E[P
T
(S)] = lm
T
1
2T
_
T
T
E[X
2
T
(t, S)]dt = R
X
(0) =
=
1
2
_

lm
T
E
_
|X
T
(, S)|
2
_
2T
d
Densidad Espectral de Potencia (DEP)
S
X
() = lm
T
E

|X
T
(, S)|
2

2T
Adem as, la DEP y la Funci on de Autocorrelaci on satisfacen la relaci on:
S
X
() = TF[R
X
()] =

R
X
()e
j
d
R
X
() = TIF[S
X
()] =
1
2

S
X
()e
j
d
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia de P.E. Discretos en el tiempo
Denici on an aloga
S
X
() = TF[R
X
[m]] =

m=
R
X
[m]e
jm
R
X
[m] = TIF[S
X
()] =
1
2

2
S
X
()e
jm
d
En este caso, la DEP es peri odica de periodo 2
P
X
= R
X
[0] =
1
2

2
S
X
()d
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia
Ejemplo 1:
DEP y Funci on de Autocorrelaci on de un Proceso Estoc astico
0 20 40 60 80 100 120 140 160 180 200
0
0.2
0.4
0.6
0.8
1
S
X
(
f
)
Frecuencia (Hz)
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
5
0
5
10
R
X
(

)
(s)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia
Ejemplo 1:
Realizaciones del Proceso Estoc astico
0 0.2 0.4 0.6 0.8 1
10
0
10
t (s)
0 0.2 0.4 0.6 0.8 1
10
0
10
t (s)
0 0.2 0.4 0.6 0.8 1
10
0
10
t (s)
0 0.2 0.4 0.6 0.8 1
5
0
5
t (s)
0 0.2 0.4 0.6 0.8 1
20
0
20
t (s)
0 0.2 0.4 0.6 0.8 1
10
0
10
t (s)
0 0.2 0.4 0.6 0.8 1
10
0
10
t (s)
0 0.2 0.4 0.6 0.8 1
10
0
10
t (s)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia
Ejemplo 2:
DEP y Funci on de Autocorrelaci on de un Proceso Estoc astico
0 20 40 60 80 100 120 140 160 180 200
0
0.2
0.4
0.6
0.8
1
S
X
(
f
)
Frecuencia (Hz)
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1
20
0
20
40
60
R
X
(

)
(s)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia
Ejemplo 2:
Realizaciones del Proceso Estoc astico
0 0.2 0.4 0.6 0.8 1
50
0
50
t (s)
0 0.2 0.4 0.6 0.8 1
20
0
20
t (s)
0 0.2 0.4 0.6 0.8 1
50
0
50
t (s)
0 0.2 0.4 0.6 0.8 1
20
0
20
t (s)
0 0.2 0.4 0.6 0.8 1
50
0
50
t (s)
0 0.2 0.4 0.6 0.8 1
50
0
50
t (s)
0 0.2 0.4 0.6 0.8 1
50
0
50
t (s)
0 0.2 0.4 0.6 0.8 1
50
0
50
t (s)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia
Propiedades:
S
X
() es una funci on real
La DEP es no negativa: S
X
() 0
Para P.E. reales, la DEP es par: S
X
() = S
X
()
S
X
() = TF[R
X
()]
Analoga con una fdp: La DEP indica como se distribuye la
potencia de un P.E. con la frecuencia
Ejemplo 1
X(t) = Acos(
0
t + ), con uniforme en (, )
Funci on de Autocorrelaci on: R
X
() =
A
2
2
cos(
0
)
Densidad Espectral de Potencia:
S
X
() = TF[R
X
()] =
A
2
2
[(
0
) +( +
0
)]
Potencia: P
X
= R
X
(0) =
1
2

S
X
()d =
A
2
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Ejemplo 2
Ruido Blanco con media cero:
Densidad Espectral de Potencia:
S
X
() =
N
0
2
Watt/Hz
Autocorrelaci on: R
X
() = C
X
() = TIF[S
X
()] =
N
0
2
()
Potencia en una Ancho de Banda BW (en Hercios):
P
BW
= BWN
0
=
2
Caso discreto: Ruido Blanco de media cero y varianza
2
Autocorrelaci on:
R
X
[m] = C
X
[m] =

0 m = 0

2
m = 0
Densidad Espectral de Potencia: S
X
() = TF[R
X
[m]] =
2

Tema 7: Procesos Estoc asticos Teora de la Comunicaci on


Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Densidad Espectral de Potencia
Densidad Espectral de Potencia Cruzada
Denici on: Sean X(t), Y (t) dos procesos estoc asticos conjuntamente
estacionarios, se dene la DEP cruzada como
S
XY
() = TF[R
XY
()] =

R
XY
()e
j
d
R
XY
() = TIF[S
XY
()] =
1
2

S
XY
()e
j
d
En el caso discreto:
S
XY
() = TF[R
XY
[m]] =

m=
R
XY
[m]e
jm
R
XY
[m] = TIF[S
XY
()] =
1
2

2
S
XY
()e
jm
d
Particularidades:
S
XY
() puede ser compleja y puede no ser par
S
XY
() = S
Y X
()
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Contenido
1
Denici on
2
Caracterizaci on Estadstica
3
Estadsticos
4
Estacionariedad
5
Ergodicidad
6
Densidad Espectral de Potencia
7
Filtrado de Procesos Estoc asticos
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Transformaci on de Se nales Aleatorias
Sistemas con Entradas Aleatorias
Planteamiento General: Supongamos que un proceso estoc astico
X(t) es la entrada a un determinado sistema T[]. Nuestro objetivo
consiste en caracterizar el proceso estoc astico de salida Y (t)
X(t) Y (t)
T[]
En general, Y (t) se podra caracterizar a partir de la estadstica de X(t)
y del conocimiento del sistema T[] (determinista)
Para simplicar el problema, aqu nos centraremos en dos tipos
particulares de sistemas:
Sistemas sin Memoria (Transformaci on de Procesos Estoc asticos)
Sistemas LTI (Filtrado de Procesos Estoc asticos)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas sin Memoria
Sistemas sin Memoria
Sistemas del tipo
Y (t) = g (X(t))
La salida en el instante t s olo depende de la entrada en el instante t
Equivale a una funci on de una variable aleatoria
Obtenci on de la fdp de primer orden:
A partir de f
X
(x; t) y de la funci on g() Teorema Fundamental
Obtenci on de la media:

Y
(t) = E[Y (t)] = E[g(X(t))] =

g(x)f
X
(x; t)dx
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas sin Memoria
Sistemas sin Memoria (Continuaci on)
Obtenci on de la fdp de segundo orden:
Y (t
1
) = g(X(t
1
))
Y (t
2
) = g(X(t
2
))
_
Funciones de 2 variables aleatorias
Teorema Fundamental:
f
Y
(y
1
, y
2
; t
1
, t
2
) =

i
f
X
(x
1i
, x
2i
; t
1
, t
2
)
|J(x
1i
, x
2i
)|
=

i
f
X
(x
1i
, x
2i
; t
1
, t
2
)
|g

(x
1i
)g

(x
2i
)|
Obtenci on de la Funci on de Autocorrelaci on
R
Y
(t
1
, t
2
) = E [Y (t
1
)Y (t
2
)] =

g(x
1
)g(x
2
)f
X
(x
1
, x
2
; t
1
, t
2
)dx
1
dx
2
Observaciones sobre la Estacionariedad
X(t) est. sentido estricto Y (t) est. sentido estricto
X(t) est. de (hasta) orden n Y (t) est. de (hasta) orden n
X(t) WSS Y (t) WSS
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas sin Memoria
Ejemplo
Detector Cuadr atico: Y (t) = X
2
(t)
fdp de primer orden:
Races:
y = g(x) = x
2
x
1
=

y, x
2
=

y (y 0)
Derivada: g

(x) = 2x
fdp: f
Y
(y; t) =
f
X
(

y;t)
2

y
+
f
X
(

y;t)
2

y
fdp de orden 2:
Y (t
1
) = X
2
(t
1
)
Y (t
2
) = X
2
(t
2
)
Races (y
1
0,y
2
0):
y
1
= x
2
1
y
2
= x
2
2
_

x
1
=

y
1
x
2
=

y
2
4 parejas de soluciones !!
Jacobiano: J(x
1
, x
2
) = 4x
1
x
2
fdp: f
Y
(y
1
, y
2
; t
1
, t
2
) =

4
i=1
f
X
(

y
1
,

y
2
;t
1
,t
2
)
4

y
1
y
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas Lineales e Invariantes en el Tiempo
Sistemas Lineales e Invariantes en el Tiempo
X(t) Y (t)
T[]
X(t) Y (t)
L[]
Utilizaremos L[X(t)] (en lugar de T[X(t)]) para distinguir que se trata
de un operador lineal
Caractersticas:
Permiten un estudio general
Se pueden caracterizar en el dominio de la frecuencia
Aparecen con frecuencia en aplicaciones pr acticas
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas Lineales e Invariantes en el Tiempo
Sistemas Lineales e Invariantes en el Tiempo
Repaso:
Linealidad: L
_

N
i=1
a
i
x
i
(t)
_
=

N
i=1
a
i
L[x
i
(t)]
Invarianza temporal:
y(t) = L[x(t)] y(t +c) = L[x(t +c)] c
Respuesta al impulso y convoluci on: h(t) = L[(t)]
y(t) = L[x(t)] = x(t) h(t) =
_

x(t )h()d
Caracterizaci on Frecuencial: L
_
e
j
0
t

= H(
0
)e
j
0
t
H() = TF[h(t)] =
_

h(t)e
jt
dt
Causalidad:
x(t) = 0 t < t
0
y(t) = 0 t < t
0
Estabilidad: |x(t)| < M t K |y(t)| < K t
_

|h(t)|dt <
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas Lineales e Invariantes en el Tiempo
Caracterizaci on Estadstica de Sistemas LTI
Teorema: Los operadores E[] y L[] son intercambiables
E [L[x(t)]] = L[E [x(t)]]
La demostraci on es directa a partir de la linealidad de E[] y L[]
Media del Proceso Estoc astico de Salida
Obtenci on de la media

Y
(t) = E [Y (t)] = E [L[X(t)]] = L[E[X(t)]] = L[
X
(t)]

Y
(t) =

X
(t )h()d =
X
(t) h(t)
Caso particular: X(t) est. en sentido amplio (
X
(t) =
X
)

Y
(t) =

X
h()d =
X

h()d
Y
=
X
H(0)
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas Lineales e Invariantes en el Tiempo
Autocorrelaci on del Proceso Estoc astico de Salida
Asumiendo que X(t) es estacionario en sentido amplio
R
Y
() = E [Y (t +)Y (t)] = R
X
() h() h()
X(t) Y (t)
T[]
X(t) Y (t)
L[]
R
X
() R
Y
() h() h()
R
XY
()
Correlaci on Cruzada Entrada-Salida
R
XY
() = R
X
() h() R
Y X
() = R
X
() h()
Densidad Espectral de Potencia
A partir de la denici on: S
Y
() = TF[R
Y
()]
Y teniendo en cuenta: TF[h()] = H(), TF[h()] = H()
Adem as, para h() real: H() = H

()
Obtenemos:
S
Y
() = S
X
()H

()H() = S
X
() |H()|
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas Lineales e Invariantes en el Tiempo
Ejemplo
Filtrado de Ruido Blanco con Media Cero:
Autocorrelaci on de la Entrada: R
X
() =
N
0
2
()
DEP de la entrada: S
X
() =
N
0
2
Sistema LTI: h(t) H()
Autocorrelaci on de la salida:
R
Y
() =
N
0
2
() h() h() =
N
0
2
(h() h())
DEP de la salida:
S
Y
() =
N
0
2
|H()|
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on
Denici on Caracterizaci on Estadsticos Estacionariedad Ergodicidad Densidad Espectral de Potencia Filtrado de Procesos Estoc asticos
Sistemas Lineales e Invariantes en el Tiempo
Ejemplo
Promediador de Media M ovil:
Respuesta del Sistema:
Y (t) =
1
2T

T
T
X(t)dt
Funci on de trasferencia:
H() =
sin(T)
T
DEP de la salida:
S
Y
() = S
X
()
sin
2
(T)
(T)
2
Tema 7: Procesos Estoc asticos Teora de la Comunicaci on

You might also like