При непосредственном определении мгновенных значений и локальных параметров сигналов по калибрационной сетке на экране осциллографа важное значение имеют погрешности калибровки амплитудной и временной шкал (погрешности коэффициентов отклонения и развертки). Обеспечить стабильность этих коэффициентов во времени, тем более с учетом внешних влияющих факторов ( температуры,влажности, давления и т.п.) достаточно сложно. Поэтому в осциллограф часто встраивают калибраторы амплитуды и длительности, которые служат для калибровки коэффициента отклонения каналов вертикального отклонения и калибровки длительности развертки. Калибратор, как правило, представляет собой генератор прямоугольных импульсов.
Погрешность измерения амплитуд импульсов методом совмещения с калиброванной шкалой определяется выражением:
,
где δк – погрешность выбранного коэффициента отклонения; δн – неравномерность переходной характеристики канала вертикального отклонения; δв – погрешность сравнения или визуальная погрешность.
Погрешность измерения длительности импульса определяется с помощью выражения
,
где δкр – погрешность коэффициента развертки; δy – погрешность, вызванная неточностью определения уровня 0,5 от амплитуды или любого другого заданного уровня, на котором определяется длительность; δв – погрешность сравнения или визуальная погрешность.
Вычислим погрешности измерений, выполняемых с помощью осциллографа С1-83. Погрешность коэффициента отклонения для этого типа прибора при размере изображения сигнала от 2 до 6 делений составляет ±4%и ±8% в рабочем диапазоне влияющего фактора, неравномерность переходной характеристики каждого канала вертикального отклонения не превышает 2.5%, а визуальная погрешность не превышает 1%; однако, при наличии шумов, увеличивающих эффективную ширину линии луча, визуальная погрешность увеличивается до 4%.
Таким образом, общие погрешности измерения амплитуды сигнала имеют следующие значения:
%;
%.
Значения такого порядка имеют погрешности и при измерении временных интервалов.