При физических измерениях экспериментатору необходимо выполнить три последовательные операции: установка приборов, наблюдение и отсчет.
Правильная установка приборов во многом определяет успех эксперимента. Безусловно, что установку можно провести только после внимательного ознакомления с характеристиками применяемых приборов (паспорт, инструкция). При этом необходимо учитывать целый ряд условий:
а) горизонтальность или вертикальность прибора;
б) температуру и влажность;
в) экранировка;
г) стабильность и правильный выбор источников питания;
д) проверка нулевой точки или градуировка;
е) проверка исправности прибора и правильности его включения; и так далее.
Наблюдение и отсчет обычно идут друг за другом, но иногда бывают разделены во времени. Например, осциллограмма фотографируется или запись результата производится самописцем.
Поскольку задачей экспериментатора является получение результата с минимальной погрешностью, то возникает вопрос, с какой точностью должны быть произведены отдельные измерения при косвенном определении измеряемой величины.
В большинстве своем формула для определения относительной ошибки является суммой членов вида:
,
где - результат отдельный измерений; - их абсолютные ошибки.
В приведенном выше примере измерения удельного сопротивления было получено следующее выражение для относительной ошибки:
.
Если величины имеют следующие значения:
Ом, ,
В, В, ,
см, см, ,
см, см, ,
см, см, .
Полная относительная ошибка составляет:
Этот пример наглядно показывает, какое из непосредственных измерений оказывает наибольшее влияние на точность окончательного результата. Очевидно, что таким является наименее точное измерение - в данном случае, измерения линейных размеров и, главным образом, толщины.
Если вдвое повысить точность измерения линейных размеров, то суммарная относительная ошибка будет составлять 0,89%.
Подобный предварительный анализ показывает, за счет уточнения каких измерений можно уменьшить общую погрешность результата. С другой стороны, очевидно, что нет необходимости при отдельных измерениях далеко выходить за пределы точности наименее точно измеряемой величины (в данном случае геометрических размеров). Если в рассмотренном примере будет произведено измерение падения напряжения с гораздо меньшей степенью точности (используя другой прибор), например до 0,05 % (вместо 0,005 %), то это очень мало повлияет на результат (вместо 1,77 % будет 1,87 %).
Примечание: Следует обратить внимание на величины, которые входят в расчетную формулу в положительной степени, большей единицы, так как в этом случае происходит умножение ошибки на показатель степени.