Validación de La Hoja de Cálculo del Manual Técnico del Laboratorio

de Masa

Este documento es para la validación de la hoja de cálculo del certificado de

calibración interno CCI-LM-010-2015 calibrado en fecha 2015-08-28 del juego
de pesas patrón clase F1 con identificación interna MPT-41

Datos de la pesa a calibrar:

Valor Nominal 100 g Densidad 7950 kg/m3

Marca KERN/MPT-01 u densidad(k=1) 70 kg/m3
Material Acero Inoxidable Forma Cilindro tipo botón

Datos del Patrón

Valor nominal 100 g Código MPT-10 - 100 g

Masa Convencional 99999.97 mg Densidad 7943.32261 kg/m3
(CC-LMI-015-del 2014)
U masa conv. (k=2) 0.053 mg U densidad(k=2) 1.581618095 kg/m3
Deriva 0.0265 mg
Densidad del aire en la 1.1609 kg/m3
cual se ha calibrado

Comparador de Masa

Código MEA-02 Q max 1100 g

Manufactura METTLER d 0.00001 g
TOLEDO
Modelo AT 1005 sp 0.00005 mg
Densidad de 8010 kg/m3
Ajuste

Datos del sensor de Temperatura y Humedad “OPUS 20 E”

Sensor Corrección U (k=2)

Temperatura -0.04 ºC 0.16 ºC
Humedad Relativa 0.3 % 1%
Presión Atmosférica -0.11 mbar 0.38 mbar

Cálculo de las condiciones Ambientales corregidas

Inicial Final Promedio Corrección Promedio

corregido
Temperatura(ºC) 20.4 20.5 20.45 -0.04 20,41
Humedad (%) 58.3 58.3 58.3 0.3 58
Presión (mbar) 662.9 662.9 662.9 -0.11 662.8
Calculo de la densidad del aire:

0.34848 * 668.04  0.009024 * 47.55 * exp(0.061* 20.06)

a 
273.15  20.06

kg
 a  0.78899027
m3

Cálculo del promedio de las diferencias de indicaciones

Indicaciones en (g)

CICLO 1 CICLO 2 CICLO 3 CICLO 4

A1 0,00011 0,00023 0,00027 0,00034
B1 0,00126 0,00133 0,00139 0,00143
B2 0,00129 0,00135 0,00139 0,00145
A2 0,00022 0,00028 0,00033 0,00036
(PROM DE A) 0,000165 0,000255 0,0003 0,00035
(PROM DE B) 0,001275 0,00134 0,00139 0,00144
(PROM DE B)-(PROM 0,00111 0,001085 0,00109 0,00109
DE A)

Cálculo del promedio de los pesajes realizados por ciclo ABBA.

0.00111  0.001085  0.00109  0.00109

I   0.00109375g  1.09375mg
4

Cálculo de la corrección por empuje de aire

Cálculo de la masa convencional:

1000000,07063 mg
 1. La incertidumbre asociada con la masa de referencia. u m cr

Este dato es obtenido del certificado de calibración.

U (mcr ) 2
u ( mcr )  ( )  uinest
2
(mcr )
k
Dónde: U ( mcR ) = incertidumbre expandida dada en el certificado
k = factor de cobertura dado en el certificado (usualmente k=2)

0.5 2
u ( mcr )  ( )  0.25mg
2

2. Incertidumbre asociada con la corrección del empuje de aire u b

2 2 2
  (mcr C )    (mcr C )    (mcr C ) 
ub   u (  a )   u (  t )   u (  r )
 (  a )   (  t )   (  r ) 

  r  t 
2
2 u ( t )
2
 u 2 ( r )
u  mcr
2
b u (  a )   mcr   a   0    mcr   a   0    a   0   2  a1   0  
2

 r t   t4  r4

 r  t   8000  7950  * 0.00393981  0.0000095934 7mg

2 2
  
mcr u (  a )  999999 .3 * 
 r t   8000 * 7950

u 2 (t ) 70 2
 mcr   a   0   2
  999999.3 *  0.78899027  1.2  
2
 0,207219757 mg
 t4 7950 4

u 2 ( r )
m   a   0     a   0   2  a1   0  
2
cr  999999.3 0.78899027  1.2   0.78899027  1.2  21.1609
 r4
u 2 ( r )
m   a   0     a   0   2  a1   0  
2
cr  0.000208722 mg
 r4

ub  0.00000959347  0,207219757  0.000208722  0,4554537mg

 3. Incertidumbre sobre la densidad del aire

Aporte de Fuente Distribución Inc. Est (k=1) Coeficiente

incertidumbre de
Sensibilidad
Formula Formula Normal 1 0.00157795

Temperatura Certificado Normal 0.08 ºC 0.0451093

Humedad Certificado Normal 0.5% -0.000105049

Presión Certificado Normal 0.19 mbar 0.000011885

u( a )  (cec u ec ) 2  (ct ut ) 2  (c p u p ) 2  (chr u hr ) 2

u(  a )  (1 * 0.00157995) 2  (0.04510943* 0.08) 2  (0.000011885* 0.19) 2  (0.000105049* 0.5) 2

kg
u (  a )  0,003939811
m3

Cálculo de la incertidumbre de la ecuación: cec

incertidumbre de la ecuación utilizada, para CIPM = 10-4  a

cec = 1 ; coeficiente de sensibilidad de la ecuación:

kg
u ec  10  4  a  0.0001 * 0.78899  0.00007889
m3

u ec  (0.0001*  a ) 2  (0.002 *  a ) 2  (0.0001* 0.78899) 2  (0.002 * 0.78899) 2

kg
u ec  0,00157995
m3

Cálculo de la incertidumbre de la Humedad Relativa:

coeficiente de sensibilidad del valor de humedad relativa

 a 0,009024  e 0, 0612t
chr  
hr 273,15  t
 a 0,009024  e 0, 0612*20.06 kg
c hr    0,000105049
hr 273,15  20.06 % HR * m3

Incertidumbre de medición del sensor de presión (del certificado de calibración)

U
u hr  hr
k
 1%
u hr   0.5%
2

Cálculo de la incertidumbre de la temperatura:

coeficiente de sensibilidad del valor de temperatura:

 a 0,0034848  0,0612  p   a 1  0,0612   273,15  t  

ct   ;
t  273,15  t 
 a 0,0034848  0,0612  668.04  0.788990271  0,0612   273,15  20.06 
ct  
t  273,15  20.06
kg
ct  0,04510943
º C * m3

Incertidumbre de medición del termómetro (del certificado de calibración)

U
ut  t
k
0.16º C
ut   0.08º C
2

Cálculo de la incertidumbre de la presión:

coeficiente de sensibilidad del valor de presión atmosférica

 a 0,0034848
cp   ;
p 273,15  t
 a 0,0034848 kg
cp    0.000011885
p 273,15  20.06 mbar * m3

incertidumbre de medición del sensor de presión (del certificado de calibración)

Up
up  ;
k
0.38mbar
up   0.19mbar
2

4. Incertidumbre asociada con la medición de la diferencia de

masa u I

Desviación estándar experimental

Magnitud que caracteriza la dispersión de los resultados de una serie de n
mediciones de un mismo mensurando, igual a
n

 (x i  x) 2
s i 1
n 1
(1.09375  0.00111) 2  (1.09375  0.001085) 2  (1.09375  0.00109) 2  (1.09375  0.00109) 2
s
4 1
s  0.01109 mg

u I  0.01109 mg

5. Incertidumbre asociada con la resolución del comparador u ba

d
ud  2  2
3

Donde d = resolución del comparador (valor de división de

escala)
0.00001 / 2
u ba  ( )  2  4,08248E - 06 g
3

u ba  0.00408248 mg

6. Incertidumbre estándar de la masa convencional en test es:

u c (mct )  u 2 ( mcr )  u b2  u 2 ( I )  u ba
2

u c ( mct )  0.252  0,45545372  0.01109 2  0.004082482

u c (mct )  0,51969003 mg

7. Control de dispersión de la balanza

El valor “F experimental es obtenida por la siguiente ecuación:

2
S nuevo ( I )
F 2
Sp

0.01109 2
F  0,546613778
0.015 2

El F crítico es calculado en función del nivel de confianza requerida, los grados de

libertad del ensayo, población de la desviación estándar histórica.
Fcrítico  ( , v, v * m) Para : Fcrítico  (0.05,3,3 * 50)

De tablas: Fcrítico  2.665

Para que el ensayo sea aceptado tiene que cumplir la siguiente condición:

F  Fcrítico

0,546613778  2.665

CUMPLE

8. Incertidumbre expandida del resultado estimado.

U (mct )  k  u ( mct )

Dónde : k = 2; factor de cobertura para un 95,45 % de nivel de confianza

U (mct )  k  u (mct )  2 * 0,51969003  1,039380061mg

Resultados reportados

1 kg 1 kg +0,07063 mg 1,039380061mg

Resultado por la plantilla

1 kg 1 kg +0,071 mg 1.039 mg

Como se tiene los mismos resultados entre La hoja de cálculo y la plantilla

entonces la hoja de cálculo ha sido validado.