VTI Instruments Metek EX1202 User Manual page 22

VTI Instruments Corp.
– 1 Y
2-W R
IRE ESISTANCE
R R
ANGE ESOLUTION
100 Ω, 6½ digit
1 kΩ, 6½ digit
3 kΩ, 6½ digit
10 kΩ, 6½ digit
100 kΩ, 6½ digit
1 MΩ, 6½ digit
10 MΩ, 6½ digit
100 MΩ, 6½ digit
100 Ω, 5½ digit
1 kΩ, 5½ digit
3 kΩ, 5½ digit
10 kΩ, 5½ digit
100 kΩ, 5½ digit
1 MΩ, 5½ digit
10 MΩ, 5½ digit
100 MΩ, 5½ digit
100 Ω, 4½ digit
1 kΩ, 4½ digit
3 kΩ, 4½ digit
10 kΩ, 4½ digit
100 kΩ, 4½ digit
1 MΩ, 4½ digit
10 MΩ, 4½ digit
100 MΩ, 4½ digit
– 1 Y
4-W R
IRE ESISTANCE
R R
ANGE ESOLUTION
100 Ω, 6½ digit
1 kΩ, 6½ digit
3 kΩ, 6½ digit
10 kΩ, 6½ digit
100 kΩ, 6½ digit
100 Ω, 5½ digit
1 kΩ, 5½ digit
3 kΩ, 5½ digit
10 kΩ, 5½ digit
100 kΩ, 5½ digit
100 Ω, 4½ digit
1 kΩ, 4½ digit
3 kΩ, 4½ digit
10 kΩ, 4½ digit
100 kΩ, 4½ digit
Over-range: 20% beyond range
22
A
EAR CCURACY
T
C
AL
% R
EADING
100 µΩ
0.1000%
1 mΩ
0.0500%
10 mΩ
0.0200%
10 mΩ
0.0100%
100 mΩ
0.0100%
1 Ω
0.0250%
10 Ω
0.0550%
100 Ω
0.1200%
1 mΩ
0.1500%
10 mΩ
0.0550%
100 mΩ
0.0250%
100 mΩ
0.0110%
1 Ω
0.0100%
10 Ω
0.0260%
100 Ω
0.1000%
1000 Ω
0.1250%
10 mΩ
0.1500%
100 mΩ
0.1000%
1Ω
0.0400%
1Ω
0.0250%
10 Ω
0.0180%
100 Ω
0.0270%
1000 Ω
0.1200%
10000 Ω
0.1300%
A
EAR CCURACY
T
C
AL
% R
EADING
100 µΩ 0.0140%
1 mΩ
0.0100%
10 mΩ
0.0100%
10 mΩ
0.0100%
100 mΩ
0.0100%
1 mΩ
0.0150%
10 mΩ
0.0100%
100 mΩ
0.0110%
100 mΩ
0.0110%
1 Ω
0.0100%
10mΩ
0.0160%
100 mΩ
0.0150%
1Ω
0.0150%
1Ω
0.0150%
10 Ω
0.0150%
 5 °C
% R < 30% R
ANGE
0.0600%
0.0100%
0.0150%
0.0090%
0.0009%
0.0008%
1.68 kΩ
0.0010%
45.0 kΩ
0.0050%
0.0700%
0.0150%
0.0200%
0.0110%
0.0011%
0.0008%
4.50 kΩ
0.0040%
45.3 kΩ
0.0055%
0.1500%
0.0250%
0.0300%
0.0150%
0.0025%
0.0008%
4.53 kΩ
0.0050%
45.6 kΩ
0.0090%
 5 °C
% R < 30% R
ANGE
11.7 mΩ
0.0070%
39.0 mΩ
0.0010%
390 mΩ
0.0010%
390 mΩ
0.0010%
0.0009%
12.0 mΩ
0.0070%
42.0 mΩ
0.0014%
420 mΩ
0.0020%
420 mΩ
0.0020%
0.0012%
27.0 mΩ
0.0150%
81.0 mΩ
0.0030%
720 mΩ
0.0040%
720 mΩ
0.0040%
0.0025%
0 °C +55 °C
TO
> 30% R
ANGE ANGE
0.60 Ω 0.75 Ω
0.75 Ω 3.00 Ω
3.00 Ω 3.00 Ω
3.00 Ω 3.90 Ω
3.90 Ω 78.0 Ω
78.0 Ω 1.68 kΩ
45.0 kΩ
45.0 kΩ
0.63 Ω 0.78 Ω
0.78 Ω 3.30 Ω
3.30 Ω 3.30 Ω
3.30 Ω 4.20 Ω
4.20 Ω 81.0 Ω
81.0 Ω 4.50 kΩ
45.3 kΩ
45.3 kΩ
0.66 Ω 0.81 Ω
0.81 Ω 3.60 Ω
3.60 Ω 3.60 Ω
3.60 Ω 8.70 Ω
8.70 Ω 84.0 Ω
84.0 Ω 4.53 kΩ
45.6 kΩ
45.6 kΩ
0 °C +55 °C
TO
> 30% R
ANGE ANGE
39.0 mΩ
390 mΩ
390 mΩ
3.90 Ω
3.90 Ω 78.0 Ω
42.0 mΩ
420 mΩ
420 mΩ
4.20 Ω
4.20 Ω 81.0 Ω
81.0 mΩ
720 mΩ
720 mΩ
7.20 Ω
7.20 Ω 84.0 Ω
EX1200 Series Introduction