Погрешность данного числа а, которое рассматривается как приближённое значение некоторой величины, точное значение которой равно х, есть разность х — а. Её называют абсолютной погрешностью. Отношение х — а к а называют относительной погрешностью числа а. Для характеристики П. обычно пользуются указанием её границ. Число D(а) такое, что ½ х — a ½ £ D(a), называют границей абсолютной П. Число d(a) такое, что , называют границей относительной П. Границы относит. П. часто выражают в процентах. В качестве D(а) и d(а) берутся по возможности меньшие числа.
Информацию о том, что число а является приближённым значением числа х с границей абсолютной П. D(а), принято записывать в виде: х = а ±D(а). Аналогичное соотношение для относительной П. записывается в виде: х = а (1 ±d(а)).
Границы абсолютной и относительной П. указывают на максимально возможное расхождение х и а. Наряду с ними часто употребляются характеристики П., учитывающие характер возникновения П. (см. Погрешности измерений) и частоту различных значений разности х и а. При таком подходе к П. используются методы теории вероятностей (см. Ошибок теория).
При численном решении задачи П. результата обусловливается неточностями, которые присущи формулировке задачи и способам её решения. П., возникающую вследствие неточности математического описания реального процесса (в частности, неточности задания исходных данных), называют неустранимой П.; возникающую вследствие неточности метода решения — П. метода; возникающую вследствие неточности вычислений — вычислительной П. (см. Округление).
В процессе вычислений исходные П. последовательно переходят от операции к операции, накапливаясь и порождая новые П. Возникновение и распространение П. в вычислениях являются предметом специальных исследований
При расчете конструкции, во-первых, из погрешности конечного результата измерения должна быть выделена с возможным приближением часть, зависящая от внешних условий (от степени прозрачности и постоянства плотности атмосферы, колебаний подставки инструмента и т. п.); во-вторых, надо установить связь погрешности конечного результата измерений с погрешностями отдельных непосредственных измерений. Например, если задана погрешность окончательного значения измеренного угла, следует исключить при расчете погрешность за влияние внешних условий, приняв среднее значение этого влияния, и знать число приемов, которым производится измерение углов данным инструментом, чтобы пе-рейти к погрешности измерения одного направления в полуприеме. Аналогично при расчете нивелира надо прийти к погрешности «взгляда», исключив среднее влияние рефракции, а также оседания штатива и башмаков с учетом способа и порядка нивелирования. Сама погрешность конечного результата должна быть получена способом, обеспечивающим полноту охвата влияния частных погрешностей. Способы работы с инструментом. Конструкция инструмента зависит от применяемых способов работы с ним. Весьма существенна также связь современных технологических возможностей изготовления ответственных деталей с методикой измерений, а через нее и с конструкцией инструмента. Это должно в полной мере учитываться при выборе типа конструкции в целом и отдельных ее частей. Совершенствование техники нанесения делений на лимбах и повышение точности отсчетных приспособлений привели к отказу от способа повторений при измерении углов, что в свою очередь упростило конструкцию осевых систем современных угломерных инструментов.