範圍

精度

解析度

1Ω to 20Ω

0.01% +/- 5mΩ

1Ω

20Ω to 99.999Ω

0.01% +/- 5mΩ

1mΩ/5mΩ*

100Ω to 999.999Ω

0.01% +/- 5mΩ

1mΩ

1kΩ to 9.999kΩ

0.02% +/- 20mΩ

1Ω

10kΩ to 99.999kΩ

0.01% +/- 1Ω

1Ω

100kΩ to 999.99kΩ

0.01% +/- 10Ω

10Ω

1MΩ to 9.9999MΩ

0.02% +/- 100Ω

100Ω

10MΩ to 120MΩ

0.1% +/- 1kΩ

1kΩ

溫度係數

Less than 50ppm per °C

功率

0.1 Watt per resistor

最大電壓

250V

電阻轉換時間

< 250μs

操作時間

< 300ms

結束電阻變化

< 2.5mΩ

備註:低於50Ω輸出設置解析度5mΩ

RTD

Alpha係數

範圍

精度

PT100

0.003850

-180 to -100°C

0.1°C

PT100

0.003850

-100 to 850°C

0.05°C

類型

範圍

精度

J

-210 to 150 / 150 to 1200°C

0.15 / 0.3°C

K

-270 to 190 / 190 to 1250°C

0.5 / 0.6°C

T

-200 to 150 / 150 to 400°C

0.4 / 0.5°C

R

-50 to 800 / 800 to 1750°C

0.8 / 2.0°C

S

-50 to 850 / 850 to 1750°C

0.9 / 2.0°C

B

100 to 1200 / 1200 to 1800°C

1.0 / 2.0°C

N

-270 to 260 / 260 to 1300°C

0.5 / 0.4°C

E

-50 to 1000°C

0.3°C

備註:冷端補償 applies to ambient changes of less than +/- 1°C at 23°C

範圍

精度

解析度

20mV

100ppm+4μV

100nV

200mV

30ppm+6μV

1μV

2V

25ppm+20μV

1μV

20V

25ppm+150μV

10μV

範圍

精度

解析度

200µA   

150ppm + 15nA

1nA  

2mA

100ppm + 40nA

10nA

20mA

80ppm + 200nA

10nA

200mA

80ppm + 3 µA

100nA