Если измерению подлежит величина, которая представляет собой непрерывную функцию времени, то при наличии аналого-цифрового преобразователя в измерительном канале результат измерения (входное значение ВК) представляет собой последовательность отдельных значений в определенные моменты времени, разделенные интервалами дискретизации 
Этим значениям соответствует входной код ВК 
. Пусть восстановленный по этим значениям сигнал будет
где 
- алгоритм восстановления зависимости 
по результатам измерения в отдельные моменты времени. Тогда погрешность восстановления будет равна
(1)
В точках отсчета погрешность восстановления равна нулю. На практике оценивают характеристики погрешности 
или в виде максимального значения 
или в виде среднеквадратического отклонения 
.Оценивание этих характеристик может быть произведено по теоретической модели, выбранной исходя из предварительных исследований объекта или по имеющимся сведениям. Так получают характеристики погрешности 
при определенной модели 
Тогда выражение (1) принимает вид
(2)
Так как результат в большинстве случаев соответствует не отдельному моменту, а промежутку времени, при необходимости может быть определена погрешность датирования отсчета. Необходимость в этом возникает, если вычислительный компонент реализует косвенное измерение с несколькими аргументами. Эта погрешность возникает из-за не одновременности измерения отдельных аргументов и может быть определена по модели сигналов, соответствующих отдельным аргументам.
Теперь рассмотрим составляющие погрешности значений 
или просто 
. Пусть 
получено из входного значения ВК 
путем применения алгоритма 
т.е.
(3)
Если алгоритм 
отличается от гипотетического истинного алгоритма 
то возникающая при этом погрешность 
носит название погрешности алгоритма и определяется выражением
(4)
где - погрешность, обусловленная отличием алгоритма, положенного в основу измерения от адекватного гипотетического алгоритма .
Пример 1. Алгоритм 
(
в градусах) заменен приближенным 
Найти границы относительной погрешности алгоритма, если изменяется в диапазоне от 
до 
.
Решение
Относительная погрешность алгоритма равна
(5)
Погрешность максимальна на границах диапазона . Тогда
Погрешность из-за неидеальности аппаратурной реализации алгоритма обусловлена отличием алгоритма в действительности реализуемого аппаратурно от алгоритма, положенного в основу измерения.
(6)
где 
алгоритм, реализуемый аппаратурно. Сюда относят погрешность, обусловленную конечностью объема выборочных данных, погрешности итерационных процедур и т.д.
Значения получают от измерительного канала, т.е. значения сопровождаются погрешностями ИК. Трансформированную погрешность алгоритма получают как разность
(7)
где 
относительная погрешность ИК, которая при линейной модели равна
(8)
где 
относительная мультипликативная погрешность ИК, 
приведенная аддитивная погрешность ИК.
Погрешность вычислений определяется программными средствами. ЕЕ можно оценить теоретически, разбивая алгоритм вычисления на отдельные операции и объединяя характеристики погрешностей отдельных операций. Если процедуру расчета выполнить сложно, для оценивания погрешности используют моделирование (рис.4).
Образцовый ВК реализует тот же алгоритм, но с большей разрядностью по сравнению с исследуемым ВК. Схема (рис.4) может быть использована и для оценивания других погрешностей. В этом случае повышенную точность вычислений в образцовом ВК можно получить увеличением временем работы (увеличением количества итераций, числа учитываемых членов разложения, уменьшением шага дискретизации и т.п.), т.к. при исследованиях можно снять временные ограничения, накладываемые на рабочие ВК.
Рисунок 4.Схема оценивания погрешности вычислений с помощью моделирования.
