Spesifikasjoner for presisjon

Målefunksjon	Måleområde	Oppløsning	Nøyaktighet ± ([% av den målte verdien] + [tallverdi])
Vekselspenning (AC V)	600,0 mV	0,1 mV	± (1,0 % + 3) (45−500 Hz) ± (2,0 % + 3) (500−1000 Hz)
	6,000 V	0,001 V
	60,00 V	0,01 V
	600,0 V	0,1 V
LoZ V (DC/AC)	600,0 V	0,1 V	± (2,0 % + 3) (45−500 Hz)
Vekselstrøm (AC A)	6,000 A	0,001 A	± (1,5 % + 3) (45−500 Hz)
Vekselstrøm (AC A)	10,00 A	0,01 A	± (1,5 % + 3) (45−500 Hz)
Frekvens (AC V: 10 V ... 600 V 5 Hz ... 50 kHz) (AC A: 600 mA ... 10 A 45 Hz ... 2 kHz) Pulsbredde > 10 µs	99,99 Hz	0,01 Hz	± (0,1 % + 2)
	999,9 Hz	0,1 Hz
	9,999 kHz	0,001 kHz
	50,00 kHz	0,01 kHz
Likespenning (DC V)	600,0 mV	0,1 mV	± (0,5 % + 2)
	6,000 V	0,001 V
	60,00 V	0,01 V
	600,0 V	0,1 V
Likestrøm (DC A) (HVAC DC µA)	600,0 µA	0,1 µA	± (1,0 % + 3)
Likestrøm (DC A)	6,000 A	0,001 A	± (1,0 % + 3)
Likestrøm (DC A)	10,00 A	0,01 A	± (1,0 % + 3)
Motstand	600,0 Ω	0,1 Ω	± (1,0 % + 5)
	6,000 kΩ	0,001 kΩ
	60,00 kΩ	0,01 kΩ
	600,0 kΩ	0,1 kΩ
	6,000 MΩ	0,001 MΩ
	60,00 MΩ	0,01 MΩ	± (2,0 % + 5)
Kapasitet	100,0 µF	0,1 µF	± (1,9 % + 2)
Kapasitet	1000 µF	1 µF	± (1,9 % + 2)
Kapasitans	−	0,1 Ω	± (1,0 % + 5) ≤ 30 Ω: Lydsignal ≥ 50 Ω: ingen lydsignal
Diodetest	−	0,001 V	± (1,0 % + 5) Ledespenning ~ 3 V ingen lydsignal > 0,1 V
Temperatur (°C)^A)	−40 °C … +400 °C	0,1 °C	± (1,0 % + 1 °C)
Temperatur (°F)^A)	−40 °F … +752 °F	0,2 °F	± (1,0 % + 2 °F)

A): For å sikre en nøyaktig måling må termoelement-adapteren og temperatursensoren av type K oppbevares i samme romtemperatur i ca. 2 timer, slik at den innvendige temperaturen utjevnes.

Nøyaktigheten er garantert i ett år etter kalibrering ved driftstemperaturer på -10 °C til 50 °C og relativ luftfuktighet på 0 % til 90 %.

Spesifikasjonene gjelder for en omgivelsestemperatur på 18 °C til 28 °C og en relativ luftfuktighet på ≤ 75 %. Hvis temperaturen ligger utenfor det tidligere spesifiserte området, må det tas hensyn til en ekstra temperaturfeilfaktor på 0,1 x den spesifiserte nøyaktigheten per 1 °C.