Professional Documents
Culture Documents
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
O processamento de sinais mudou! Nao estamos mais na era na
qual a informacao na forma de sinais eletricos e processada por
meio de tradicionais dispositivos analogicos. Nos estamos solida e,
para o futuro previsvel, irrevogavelmente, no amago do
processamento de sinais digitais (amostrados ou discretos no
tempo) aleatorios.
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Conteudo da Apresentacao
1 Introducao
2 Funcao Distribuicao de Probabilidade Conjunta
3 Funcao Densidade de Probabilidade Conjunta
4 Densidade de Probabilidade Gaussiana
5 Vetor de Medias e Matriz de Covariancia
6 Estimacao do Vetor de Medias e da Matriz de Covariancia
7 Contornos da Gaussiana Bivariada
8 Densidades de Probabilidade Marginal e Condicionais
9 Geracao de Variaveis Aleatorias Multidimensionais no Matlab
10 Aplicacoes em Reconhecimento de Padroes
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Pre-Requisitos
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Referencias Importantes
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Parte I
Introducao
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
ALEA JACTA EST
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Introducao
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Introducao
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
x = [x1 x2 xp ]T (1)
R
em que xi denota a i-esima componente do vetor, n e a
dimensao do vetor e o sobrescrito T representa o vetor
transposto.
As componentes do vetor x podem ter significados distintos
(e.g. x1 pode ser temperatura, x2 velocidade, etc).
Vetores aleatorios podem ser constitudos de uma linha (ou
coluna) inteira de pixels de uma imagem digital.
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
Fx (x0 ) = P (x x0 ), (5)
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
1 0 FXi Xj (xi , xj ) 1.
2 FXi Xj (, xj ) = FXi Xj (xi , ) = 0.
3 FXi Xj (+, +) = 1.
4 FXi Xj (xi , xj ) e uma funcao nao-decrescente em xi e em xj .
5 P (Xi a, b Yi c) = FXi Xj (a, b) FXi Xj (b, c).
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
2 FXi Xj (xi , xj )
fXi Xj (xi , xj ) = , i, j (6)
xi xj
fx (x0 ) = Fx (x) |x=x0 (7)
x1 x2 xp
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
1 fXi Xj (xi , xj ) 0.
R R
2
Xi Xj
f (xi , xj )dxi dxj = 1.
3 fXi Xj (xi , xj )dxi dxj =
P (xi < Xi xi + dxi , xj < Xj xj + dxj ).
RdRb
4 P (a < Xi b, c < Xj d) = c a fXi Xj (xi , xj )dxi dxj .
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Vetores de Variaveis Aleatorias
em que Z
i = E[Xi ] = xi fXi (xi )dxi
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Covariancia entre Variaveis Aleatorias
Definicao de Covariancia
A covariancia de Xi e Xj , i 6= j, e definida como:
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Correlacao entre Variaveis Aleatorias
Definicao de Correlacao
A correlacao de Xi e Xj , i 6= j, e definida como:
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Coeficiente de Correlacao entre Duas Variaveis Aleatorias
1 ij 1
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Coeficiente de Correlacao entre Duas Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Independencia entre Variaveis Aleatorias
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Independencia entre Variaveis Aleatorias
Covariancia e Independencia
Se xi e xj sao variaveis aleatorias independentes, entao
Z Z
cij = (xi i )(xj j )fXi Xj (xi , xj )dxj dxi
Z Z
= (xi i )(xj j )fXi (xi )fXj (xj )dxj dxi
Z Z
= (xi i )fXi (xi )dxi (xj j )fXj (xj )dxj
= 00=0 (18)
Consequentemente,
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Matriz de Covariancia
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Matriz de Covariancia
Cx = CTx
xT Cx > 0,
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Matriz de Covariancia
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Matriz de Covariancia
Forma Vetorial
Podemos escrever a matriz Cx como
Cx = E (x )(x )T
(20)
Cx = E xxT T
(21)
= Rx T
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Matriz de Covariancia
Cx = Rx = E xxT
(22)
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Parte II
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
Cx = Rx xxT (28)
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
M = [x | x | | x] (30)
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
function C=mcovar(X)
[N p]=size(X);
soma=zeros(p);
[N p]=size(X);
M=sum(X)/N; % vetor de medias
for i=1:N,
soma = soma + (X(i,:)-M)*(X(i,:)-M);
end
C=soma/N; % Matriz de covariancia
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Estimacao de Parametros
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Parte III
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
em que |Cx | e C1
x denotam, respectivamente, o
determinante e a inversa da matriz de covariancia.
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
E[(x1 1 )2 ]
E[(x1 1 )(x2 2 )]
Cx =
E[(x2 2 )(x1 1 )] E[(x2 2 )2 ]
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
12
1 2
Cx = (34)
1 2 22
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
|C1x|2 |Cx | (1 2 ) 2 2
1 2 (1 2 ) 2
2
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
(x1 1 )2 (x2 2 )2
1 2(x1 1 )(x2 2 )
Q(x1 , x2 ) = 2
+
(1 2 ) 1 1 2 22
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
0.1
0.08
0.06
0.04
0.02
0
6 6
4 4
2 2
0 0
2 2
4 4
6
X X
2 1
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
fx (x1 , x2 ) fx (x1 , x2 )
fx (x1 |x2 ) = ou fx (x2 |x1 ) = (38)
fx2 (x2 ) fx1 (x1 )
fx (x1 , x2 = x )
fx (x1 |x2 = x ) = ou (39)
fx2 (x2 = x )
fx (x1 = x , x2 )
fx (x2 |x1 = x ) = (40)
fx1 (x1 = x )
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
Nao-Correlacao e Independencia
Regra Geral:
Se variaveis aleatorias sao independentes, entao elas
tambem sao nao-correlacionadas!
O raciocnio inverso nao e valido:
Se variaveis aleatorias sao nao-correlacionadas, isto
nao implica que elas sejam independentes!
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Parte IV
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
(x1 1 )2 (x2 2 )2
1 2(x1 1 )(x2 2 )
Q(x1 , x2 ) = 2
+
(1 2 ) 1 1 2 22
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
0.05
0.04
(x ,x )
1 2
0.03
2
X X
0.02
1
f
0.01
0
4
2 4
2
0
0
2 2
4 4
X X1
2
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
1 Variaveis Nao-Correlacionadas ( = 0)
2 Variaveis Correlacionadas ( 6= 0)
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
(x1 1 )2 (x2 2 )2
+ =C (44)
12 22
(x1 1 )2 (x2 2 )2
+ =1 (45)
( C1 )2 ( C2 )2
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
C 2 2
C 2 1
X1
1 > 2 1 < 2 1 = 2
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
1
2
0
X
4
4 3 2 1 0 1 2 3 4
X
1
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
3
Reta suporte
2
1
X2
4
4 3 2 1 0 1 2 3 4
X1
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
100
0.15
80
0.1 60
f(x1,x2)
0.05 40
3
2
1
0 20
0
6 1
4 2 0 2
2 4 3
6 x1
x2 10 20 30 40 50 60
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
3 6
2 4
1 2
0 0
1 2
2 4
3 6
4 8
5 4 3 2 1 0 1 2 3 4 4 3 2 1 0 1 2 3 4
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes
Variaveis Aleatorias Multidimensionais
Densidade Gaussiana Multidimensional
c G. A. Barreto
Variaveis Aleatorias Multidimensionais e Aplicacoes