5 V-forsyning med et Fluke 87V
Serviceanvisningen til et fladskærms-print siger 5,00 V ±2 %. Du måler 5,012 V på 6 V-området med et 87V, som har ±(0,05 % + 1) og opløsning 0,001 V.
- Aflæsning i displayet
- 5,012 V
- Nøjagtighed: procent af aflæsning (datablad)
- 0,05 %
- Nøjagtighed: antal digits (datablad)
- 1 digits
- Værdien af ét digit på området (opløsning)
- 0,001 V
Det betyder: Usikkerheden er ±0,0035 V, så den sande værdi ligger mellem 5,0085 V og 5,0155 V. Det er langt inden for tolerancen, så forsyningen er i orden.