Нормирование погрешностей при измерении сопротивлений

Частота сигнала	Пределы измерения	Разрешение ЕМР	Абсолютная погрешность измерения	Примечание
120 Гц	20 Ом	1 мОм	± (2 % R изм + 8ЕМР)	После калибровки КЗ
200 Ом	10 мОм	± (0,5 % R изм + 5ЕМР)
2 кОм	100 мОм	± (0,5 % R изм + 3ЕМР)	_
20 кОм	1 Ом	± (0,5 % R изм + 3ЕМР)
200 кОм	10 Ом	± (0,5 % R изм+ 3ЕМР)
2 МОм	100 Ом	± (0,8 % R изм + 5ЕМР)	После калибровки ХХ
10 МОм	1 кОм	± (1,2 % R изм + 8ЕМР)
1 кГц	20 Ом	1 мОм	± (2 % R изм + 8ЕМР)	После калибровки КЗ
200 Ом	10 мОм	± (0,5 % R изм + 5ЕМР)
2 кОм	100 мОм	± (0,5 % R изм + 3ЕМР)	_
20 кОм	1 Ом
200 кОм	10 Ом
2 МОм	100 Ом	± (0,8 % R изм + 5ЕМР)	После калибровки ХХ
10 МОм	1 кОм	± (1,2 % R изм + 8ЕМР)

ЕМР – единица младшего разряда

 

Таблица П2

Погрешности измерения емкостей и тангенса угла потерь

Частота сигнала	Пределы измерения	Разрешение ЕМР	Абсолютная погрешность измерения	Примечание
120 Гц	20 нФ	1 пФ	C	± (1 % C изм + 5ЕМР)	После калибровки ХХ
D	± (2 % D изм +100/ C x +5ЕМР)
200 нФ	10 пФ	C	± (0,7 % C изм + 5ЕМР)
D	± (0,7 % D изм + 100/ C x +5ЕМР)
2000 нФ 20 мкФ 200 мкФ	100 пФ 1 нФ 10 нФ	С	± (0,7 % C изм + 3ЕМР)	_
D	± (0,7 % D изм + 100/ C x +5ЕМР)
2000 мкФ	100 нФ	С	± (1 % C изм + 5ЕМР)	После калибровки КЗ
D	± (2 % D изм + 100/ C x +5ЕМР)
20 мФ	1 мкФ	C	± (5 % C изм + 5ЕМР)
D	± (10 % D изм + 100/ C x +5ЕМР)
1 кГц	2000 пФ	0,1 пФ	C	± (1 % C изм + 5ЕМР)	После калибровки ХХ
D	± (2 % D изм + 100/ C x +5ЕМР)
20 нФ 200 нФ	1 пФ 10 пФ	C	± (0,7 % C изм + 5ЕМР)
D	± (0,7 % D изм + 100/ C x +5ЕМР)
2000 нФ 20 мкФ	100 пФ 1 нФ	C	± (0,7 % C изм + 3ЕМР)	_
D	± (0,7 % D изм + 100/ C x +5ЕМР)
200 мкФ	10 нФ	C	± (1% C изм + 3ЕМР)	После калибровки КЗ
D	± (2 % D изм + 100/ C x +5ЕМР)
2000 мкФ	100 нФ	C	± (5 % C изм + 5ЕМР)
D	± (10 % D изм + 100/ C x +5ЕМР)

Примечания:

1. Погрешности нормируются для тангенса угла потерь D < 0,1. _____

2. Если D > 0,1, погрешности дополнительно умножаются на Ö 1 +D² .

3. C _изм и D _изм - значения емкости и тангенса угла, отображаемые на ЖКИ с учетом единиц измерения.

4. С_х – цифровое безразмерное значение отображаемой величины без учета десятичной точки. Например: на ЖКИ отображается величина 18,888 мкФ; тогда, С _изм = 18,888 мкФ, С_х = 18888.

Таблица П3

Погрешности измерения индуктивности и тангенса угла потерь

Частота сигнала	Пределы измерения	Разрешение ЕМР	Абсолютная погрешность измерения	Примечание
	22304 5мГн	1 мкГн	L	± (2 % L изм + Lx /10000+ 5ЕМР)	После кали-бровки КЗ
D	± (10 % D изм +100/ Lx +5ЕМР)
200 мГн	10 мкГн	L	± (1 % L изм + Lx /10000+5ЕМР)
D	± (3 % D изм + 100/ Lx +5ЕМР)

 

Окончание табл. П3

120 гЦ	2000 мГн 20 Гн 200 Гн	100 мкГн 1 мГн 10 мГн	L	± (0,7 % L изм + L x/10000+ЕМР)	_
D	± (1,2 % D изм + 100/ L x +5ЕМР)
2000 Гн	100 мГн	L	± (1 % L изм + L x/10000+ 5ЕМР)	После кали-бровки ХХ
D	± (2 % D изм + 100/ Lx +5ЕМР)
20000 Гн	1 Гн	L	Не нормируется	_
D	Не нормируется
1 кГц	2000 мкГн	0,1 мкГн	L	± (1 % L изм + 5ЕМР)	После кали-бровки КЗ
D	± (2 % D изм + 100/ L x +5ЕМР)
20 мГн	1 мкГн	L	± (0,7 % L изм + 5ЕМР)
D	± (0,7 % D изм + 100/ Lx +5ЕМР)
200 мГн 2000 мГн 20 Гн	10 мкГн 100 мкГн 1 мГн	L	± (0,7 % L изм + 3ЕМР)	_
D	± (0,7 % D изм + 100/ Lx +5ЕМР)
200 Гн	10 мГн	L	± (1 % L изм + 3ЕМР)	После кали-бровки ХХ
D	± (2 % D изм + 100/ L x +5ЕМР)
2000 Гн	100 мГн	L	Не нормируется	_
D	Не нормируется

Примечания:

1. Погрешности нормируются для тангенса угла потерь D < 0,5.
2. L _изм и D _изм - значения индуктивности и тангенса, отображаемые на ЖКИ с учетом единиц измерения.

3. L_x - цифровое безразмерное значение отображаемой величины без учета десятичной точки. Например: на ЖКИ отображается величина 18,888 мГн; тогда, L _изм=18,888 мГн, L _x=18888.

ПРИЛОЖЕНИЕ 2

 

ПРИМЕРЫ РАСЧЕТА ПОГРЕШНОСТЕЙ

Пример 1.

На пределе измерения сопротивления 20 Ом при частоте сигнала 120 Гц прибор индицирует 1,8362 Ом. Из табл. п.1 видно, что на этом пределе разрешение 1 мОм, значит, 5 ЕМР равно 0,005 Ом. Определяем, что абсолютная погрешность измерения составит

D = ± (0,02 × 1,8362 + 0,005) = ±0,041724 Ом» ± 0, 042 Ом.

Относительная погрешность равна

d = ±(0,42/ 1,8362) × 100 % = ± 2,3 %

 

Пример 2.

Измерение сопротивления кабеля дало значение R _к = 0,035 Ом. Тогда, с учетом поправки на сопротивление кабеля результат измерения составит

R _попр = 1,8362 - 0,035 = 1,8012 Ом.

Итак, R _попр» (1,800 ± 0, 042) Ом.

Пример 3.

На пределе измерения емкости 2000 пФ при частоте сигнала 1000 Гц прибор индицирует 1218,5 pF. Из табл. п.2 определяем, что на этом пределе разрешение 0,1 pF, значит, 5 ЕМР равно 0,5 pF. Абсолютная погрешность измерения составит

D = ± (0,01 × 1218,5 + 0,5) = ±12,685 pF» ± 13 pF.

Относительная погрешность равна

d = ±(13/ 1218,5) × 100 % = ± 1,1 %

 

Пример 4.

Измерение емкости кабеля дало значение C _к = 23 pF. Тогда, с учетом поправки на C _к = 23 pF результат измерения: C _попр= 1218 -23 = (95 ± 13) F.

 

Пример 5.

Получены следующие результаты при измерении емкости на частоте 1000 Гц:

· Для последовательной схемы замещения:

С_s =2,152 мкФ, R_s = 82,81 Ом, Q =0,8918, D = 1,121;

· Для параллельной схемы замещения:

С_p = 0,954 мкФ, R_p =148,6 Ом, Q =0,8918, D = 1,121.

Проверим соотношения 5 и 6:

R_s = R_p /(1+ Q ²) = 148,6 / (1+0,8918²) = 82,77 Ом,

C_s = C_p (1 + 1/ Q ²) = 0,954 (1+ 1/0,8918²) = 2,153 мкФ.

В соответствии с табл. п.2

D С = ±(0,007×2,152 мкФ + 3×0,001) = ±0,018 мкФ,

D D = ±(0,007×1,121 +100/2152+5×0,001) = ± 0,059.

Из оценки погрешностей измерения C_s видно, что соотношения 5 и 6выполняются в пределах допустимых погрешностей.