Fluke 5700A Series II Operator's Manual page 234

5700A/5720A Series II
Operators Manual
6-10
-----------------------------------------------------------------------------
-----------------------------------------------------------------------------
RANGE Point Zero Shift
N O P
220 mV +FS -0.00020 mV
-FS -0.00017 mV
2.2V +FS 0.0000003
-FS 0.0000006
11V +FS 0.000001
-FS 0.000002
22V +FS -0.000001
-FS 0.000002
220V +FS -0.00006
-FS -0.00003
1100V +FS -0.0002
-FS -0.0001
-----------------------------------------------------------------------------
-----------------------------------------------------------------------------
T
RANGE Point
2.2 mV FS
20.00 kHz
50.00 kHz
100.00 kHz
119.99 kHz
0.1200 MHz
0.2000 MHz
0.3000 MHz
0.4000 MHz
0.5000 MHz
0.6000 MHz
0.7000 MHz
0.8000 MHz
0.9000 MHz
1.0000 MHz
1.1000 MHz
1.1999 MHz
22 mV FS
20.00 kHz
50.00 kHz
100.00 kHz
119.99 kHz
0.1200 MHz
0.2000 MHz
0.3000 MHz
0.4000 MHz
0.5000 MHz
0.6000 MHz
0.7000 MHz
0.8000 MHz
0.9000 MHz
1.0000 MHz
1.1000 MHz
1.1999 MHz
Figure 6-2. Calibration Shift Results Printout (continued)
DC VOLTAGE OUTPUT SHIFTS
Full Scale Shift
Q
-0.00085 mV -3.87
0.00047 mV 2.12
V -0.0000011 V -0.48
V 0.0000018 V 0.82
V 0.000001 V 0.05
V 0.000001 V 0.09
V 0.000005 V 0.21
V 0.000001 V 0.03
V 0.00020 V 0.91
V -0.00028 V -1.26
V -0.0001 V -0.09
V -0.0001 V -0.05
AC VOLTAGE OUTPUT SHIFTS
Full Scale Shift
-0.000018 mV -0.0008
-0.000013 mV -0.0006
-0.000017 mV -0.0008
-0.000017 mV -0.0008
-0.000018 mV -0.0008
-0.000019 mV -0.0009
-0.000041 mV -0.0019
-0.000008 mV -0.0003
-0.000002 mV -0.0001
0.000028 mV 0.0013
0.000007 mV 0.0003
0.000021 mV 0.0010
0.000021 mV 0.0009
0.000031 mV 0.0014
0.000032 mV 0.0015
0.000036 mV 0.0016
0.000042 mV 0.0019
-0.00008 mV -3.48 ppm
-0.00009 mV -3.90 ppm
-0.00004 mV -1.70 ppm
-0.00004 mV -0.0002
0.00001 mV 0.0000
0.00002 mV 0.0001
0.00024 mV 0.0011
-0.00005 mV -0.0002
-0.00001 mV -0.0001
0.00006 mV 0.0003
0.00009 mV 0.0004
-0.00003 mV -0.0001
0.00022 mV 0.0010
0.00033 mV 0.0015
0.00050 mV 0.0023
0.00024 mV 0.0011
0.00192 mV 0.0087
Spec Shift
R
(+/-) (% spec)
ppm 10.41 ppm -37.18
ppm 10.41 ppm 20.39
ppm 6.55 ppm -7.32
ppm 6.55 ppm 12.46
ppm 5.36 ppm
ppm 5.36 ppm
ppm 5.36 ppm
ppm 5.36 ppm
ppm 6.45 ppm 14.08
ppm 6.45 ppm -19.45
ppm 8.55 ppm -1.01
ppm 8.55 ppm -0.53
Spec Shift
(+/-) (% spec)
% 0.24 % -0.34
% 0.24 % -0.24
% 0.26 % -0.30
% 0.45 % -0.17
% 0.80 % -0.10
% 0.80 % -0.11
% 0.80 % -0.23
% 0.80 % -0.04
% 1.53 % -0.01
% 1.53 %
% 1.69 %
% 1.69 %
% 1.69 %
% 1.69 %
% 1.69 %
% NO SPEC
% NO SPEC
382.73 ppm -0.91
382.73 ppm -1.02
642.73 ppm -0.26
% 0.13 % -0.13
% 0.19 %
% 0.19 %
% 0.19 %
% 0.19 % -0.11
% 0.31 % -0.02
% 0.31 %
% 0.47 %
% 0.47 % -0.03
% 0.47 %
% 0.47 %
% 0.47 %
% NO SPEC
% NO SPEC
S
0.85
1.60
3.87
0.56
0.08
0.02
0.06
0.06
0.08
0.09
0.00
0.00
0.01
0.04
0.58
0.09
0.08
0.21
0.32
0.49
0.00
0.00