INTRODUÇÃO AO AJUSTAMENTO DE OBSERVAÇÕES

POR QUE AJUSTAR OBSERVAÇÕES?

As observações conduzidas pelo homem se caracterizam pela inevitável presença dos

“erros de medida”. Erros que decorrem não apenas de falhas humanas, mas também da
imperfeição do equipamento e da influência das condições ambientais nas quais se processa a
mensuração. Cabe aqui, de imediato, a célebre frase do Prof. Camil Gemael: “Quem dá os
primeiros passos na análise de observações começa por fazer uma concessão: abdicar da
pretensão de obter o verdadeiro valor de uma grandeza medida”.

A desconfiança no resultado de uma medida isolada, fruto da certeza na falibilidade

humana, leva naturalmente à repetição das observações. Assim, a partir da pluralidade de
observações, sabidamente incorretas – pelas discrepâncias que apresentam, como extrair um
resultado que seja único e que possa representar com confiança a grandeza medida? O
ajustamento de observações proporciona este resultado bem como estima a precisão da solução
adotada.

ERRO VERDADEIRO, APARENTE E RESÍDUO

Designando por X o valor estimado de uma grandeza medida; por m o seu verdadeiro
valor, e por li os valores observados, tem-se que:

e v = li - m - erro verdadeiro;

e a = li - X - erro aparente;

Vi = X - li - resíduo

O MÉTODO DOS MÍNIMOS QUADRADOS

Para apresentar o MMQ, considere o caso muito simples de medida direta de uma
grandeza X. Sejam

l ,l , l ,..., l
1 2 3 n

os valores obtidos em uma série de n observações – medidas da grandeza X.

 Na impossibilidade de se obter o verdadeiro valor de X, pesquisemos uma estimativa na
qual se possa confiar; adote-se, com base num certo critério, o valor x e determinam-se as
diferenças:

x - l =v
1 1

x -l = v
2 2
x - l = v ;i =1,2,..., n
i i
.............

x -l =v
n n

Tais diferenças ( v ) são os resíduos; estes, a priori são desconhecidos, e somados às

i
observações reproduzem o valor escolhido x.

Mudando o critério, poder-se-ia adotar um outro valor x’; resultaria um novo conjunto de
resíduos:

x¢ - l = v ¢
i i

E assim por diante. Qual dos valores x, x’,... adotar? Como escolher um critério que
permita, das observações repetidas l , discrepantes entre si, extrair um valor único para
i
representar a incógnita X?

Há dois séculos, Gauss e Legendre indicaram a solução: Método dos Mínimos Quadrados
– MMQ.

ENUNCIADO:

A melhor estimativa de uma grandeza X é o valor que torna mínima a soma dos quadrados dos
resíduos:

åv
2
i = min
i =1

Quando as observações não oferecem o mesmo grau de confiança, são homogeneizadas através
da atribuição de pesos p :
i

å pv
2
i i = min
i =1

Modernamente, prefere-se a notação matricial:

 T T
V V = min V PV = min

sendo V o vetor coluna dos resíduos: V =[v1 v2 ... vn ]T .

Até há bem pouco tempo, a teoria clássica dos mínimos quadrados manteve-se inalterada;
isto é, impunha restrições hoje dispensáveis: observações não correlacionadas e os resíduos
obedecerem à distribuição normal. Foram os avanços da Estatística Matemática, através da
extraordinária concisão da linguagem matricial associada ao uso de computadores capazes de
manipular matrizes de elevadas dimensões, que mostraram a conveniência da revisão de certos
conceitos. Assim, os pré-requisitos de “observações não correlacionadas” e os de “desvios
normais” recebem atualmente outro enfoque: as observações são encaradas como variáveis
aleatórias ou estocásticas (sujeitas as oscilações probabilísticas) e o ajustamento proporciona
estimativas das mesmas e/ou de quantidades (parâmetros) a elas ligadas. A introdução da
estimativa por intervalos e dos testes estatísticos veio possibilitar o tratamento mais lógico de
certos problemas.

RESUMO

Em resumo, pode-se dizer que:

A partir de observações superabundantes, sujeitas a flutuações probabilísticas e de uma

estimativa de sua precisão, o AJUSTAMENTO tem por objetivo:

a) Estimar mediante a aplicação de modelos matemáticos adequados e do MMQ, um

valor único para cada uma das incógnitas do problema;

b) Estimar a precisão de tais incógnitas e a eventual correlação entre elas.

AJUSTAMENTO DE OBSEVAÇÕES DIRETAS

Observações diretas são aquelas em que as medidas são efetuadas diretamente sobre a
grandeza incógnita ou desconhecida. Em geral, trata-se, portanto, na medida de uma distância, de
um ângulo ou qualquer medida repetida sobre uma grandeza. Mais adiante será mostrado que a
Média Aritmética satisfaz o Método dos Mínimos Quadrados (MMQ) quando o problema é o
ajustamento de observações diretas.

As observações de uma mesma grandeza podem ou não oferecer o mesmo grau de

confiança; não oferecendo, estas serão afetadas por pesos diferentes ou, ponderadas
adequadamente.

OBSERVAÇÕES DIRETAS DE MESMA PRECISÃO

ESTIMATIVA DA GRANDEZA – VALOR AJUSTADO – MÉDIA ARITMÉTICA

O valor ajustado é dado por uma estimativa pontual, ou seja, por um único valor
representado pela média aritmética simples.

Admitindo que sobre uma mesma grandeza desconhecida, um ângulo por exemplo, tenha
sido efetuada uma série de n medidas repetidas, independentes entre si, e que as mesmas
apresentem o mesmo grau de confiança.

Eliminando-se os erros grosseiros e as influências sistemáticas presentes nas observações

originais, resta um conjunto de n observações:

l1 , l2 , l3 ,..., ln

Designando por X o valor a ser calculado, que representa o valor ajustado ou a

estimativa da grandeza incógnita, os resíduos podem ser calculados:

X = l1 + v1 v1 = X + l1
X = l2 + v2 v2 = X + l2
................ ................
X = ln + vn vn = X + l n

Aplicando o critério dos Mínimos Quadrados, de forma que V T V = min , tem-se:

n
f = V V = å vi = ( X - l1 ) 2 + ( X - l 2 ) 2 + ...+ ( X - l n ) 2 = min
T 2

i =1

Derivando a forma quadrática f em relação a X , igualando a zero e efetuando as

manipulações algébricas, resulta:
 n
1 n
n .X - å l i = 0 X= ål
i =1 n i =1 i

Verifica-se que, para observações diretas (de mesma precisão e não correlacionadas) a
estimativa da grandeza procurada (valor mais provável) X é a média aritmética simples.

A equação acima, escrita em notação matricial:

1 T
X= A LB
n

apresenta duas matrizes: A um vetor coluna (nx1) de termos unitários e LB o vetor (nx1) das
observações.

ESTIMATIVA DA PRECISÃO – ERRO MÉDIO QUADRÁTICO

Adotada a média aritmética como representativa da grandeza medida, resta estimar o grau
de precisão desta estimativa – desvio padrão ou erro médio quadrático. Para tanto necessita-se de
uma estimativa da precisão das observações ajustadas.

Desvio padrão ou erro médio quadrático de uma observação isolada

Como índice de precisão utiliza-se o desvio padrão sˆ ’ou o erro médio quadrático m,
com ŝ =|m|.

O erro médio quadrático foi proposto por Gauss, que o definiu como a raiz quadrada da
média dos quadrados dos erros verdadeiros. Como os erros verdadeiros são desconhecidos, o
erro médio quadrático pode ser expresso em função dos resíduos relativos à média:

n n

å ei åv
2 2
i
m= i =1
m = sˆ = i =1
n n -1

que na forma matricial é dada por:

V TV
m = sˆ =
n -1

Desvio padrão ou erro médio quadrático do valor ajustado

Nas aplicações as observações são substituídas pela média aritmética; portanto, interessa
a precisão desta média.

Aplicando-se a Lei de Propagação de Covariâncias em:

 1 T
X= A LB
n

obtém-se o desvio padrão sˆ X ou o erro médio quadrático mX :

n n

å vi 2
åv i
2

sˆ X = mX =
2 2 i =1
sˆ X = m X = i =1
n( n -1) n (n - 1)

V TV
ou, escrevendo na forma matricial: sˆ X = m X = .
n (n - 1)

Medidas duplas

Freqüentemente as observações diretas são feitas aos pares (medidas duplas). É o caso,
por exemplo, do nivelamento de uma linha ou da medição de uma distância. No nivelamento a
seção é nivelada duas vezes: na ida (nivelamento) e na volta (contranivelamento); a medida de
uma distância é feita em ida e volta (vante e ré).

A partir das discrepâncias (d) entre as duas observações pode-se calcular a média
aritmética:

d d
X = l2 - = l1 +
2 2

onde: d = l2 - l1 . O erro médio quadrático da média é igual a metade da discrepância:

d d
mX = ± . O desvio padrão é igual a sˆ X = .
2 2

Estimativa por intervalo

As estimativas da média e da precisão para observações diretas são referidas como

estimativas por ponto, por que o resultado é um valor para cada parâmetro em questão. Na
estimativa por intervalo são calculados valores que definem um intervalo de confiança que
deverá, com uma certa probabilidade, conter o parâmetro populacional estimado. Então, constrói-
se um intervalo (a, b) em torno da estimativa por ponto (e), tal que:

P (a  e  b) = 1 - 

onde:

aeb intervalo denominado intervalo de confiança do parâmetro e;

(a, b) extremos do intervalo – limites de confiança;

(1 - ) probabilidade conhecida – nível ou grau de confiança.

É muito comum na prática, a utilização dos níveis de confiança de 90%, 95%, 99%.

Intervalo de confiança para a média em função da variância amostral

Para calcular o intervalo de confiança para a média em função da variância amostral,

utiliza-se o estimador t que tem distribuição t de Student. O estimador t e a probabilidade para o
intervalo de confiança são:

( X - m)
t= P (-t1- / 2  t  t1+ / 2 ) = 1 - 
sˆ / n

Graficamente, a figura a seguir ilustra o intervalo de confiança:

Assim,

( X - m)
P( -t1- / 2  t  t1+ / 2 ) = 1 - 
sˆ / n

sˆ sˆ
P( X - t1- / 2  m  X + t1+ / 2 ) = 1- 
n n

Portanto, o intervalo de confiança de (1 - ) 100% para a média populacional m será:

sˆ sˆ
X - t1- / 2  m  X + t1 + / 2
n n

OBS: Verificar o manuseio da tabela t de Student.

Intervalo de confiança para a variância

 O intervalo de confiança para a variância populacional ( s 2 ) pode ser construída
utilizando-se a variância amostral ( ŝ 2 ) a partir da distribuição do “qui-quadrado” ( c 2 ) sendo o
estimador c 2 igual a:

( n -1)sˆ 2
c2 =
s2

A probabilidade para o intervalo de confiança é dada por:

P ( c 2  c 2  c 2  ) = 1 - 
1-
2 2

A sua interpretação pode ser visualizada no gráfico a seguir:

Assim,

( n -1)sˆ 2
P( c 2   c 2  ) = 1 -
s
2
1-
2 2

( n - 1)sˆ 2 ( n - 1)sˆ 2
P(  s 2
 ) = 1-
c2  c2
1-
2 2

Portanto, o intervalo de confiança de (1 - ) 100% para a variância populacional s 2 será

dada por:

( n -1)sˆ 2 ( n -1)sˆ 2
 s 2

c2  c 2
1-
2 2

e o intervalo de confiança para a variância da média amostral é dada por:

( n -1)sˆ 2 ( n -1)sˆ 2
 s 2X 
c2 n c2 n
1-
2 2
OBS: Verificar o manuseio da tabela do “qui-quadrado”.

APLICAÇÃO

Um ângulo foi medido 10 vezes e as medidas efetuadas estão no quadro que segue
(Gemael, 1994):
Li Ângulo Quesitos:
01 120o 31’ 40,1” a) Calcular a estimativa pontual: média aritmética
02 41,2” simples, erro médio quadrático de uma observação
03 40,8” isolada e o erro médio quadrático da média;
04 42,1”
05 42,9” b) Construir o intervalo de confiança para a média,
06 42,4” variância e desvio padrão, a um nível de confiança de
07 43,0” 95%.
08 40,7”
09 41,9”
10 41,5”

Resposta:
Estimativa pontual: Estimativa por intervalo:
X = 120o 31’ 41,66” P = 95% = [120o31' 40,96 ''  m  120o31'42, 36 '']
m = ±0,9698" sˆ = 0, 9698" P = 95% = [, 4449 ''(2)  s 2  3,1343''(2) ]
mX = ±0,31" sˆ X = 0,31" P = 95% = [0, 67 ''  s  1, 77 '']
Tabela da distribuição de t de Student
Tabela da distribuição de “qui-quadrado”