Результат измерения при однократном измерении определяется по алгоритму, представленному на рисунке 34 в источнике [1].
Обработка экспериментальных данных зависит от вида используемой априорной информации. Если это информация о классе точности, то пределы, в которых находится значение измеряемой величины без учета поправки, определяются следующим образом:
Q 1 = X – DХ; Q 2 = X + DХ,
где DХ - предел допускаемой абсолютной погрешности средства измерения при его показании X. Значение DХ определяется в зависимости от класса точности и способа его задания по ГОСТ 8.401-80.
Если в качестве априорной используется информация о законе распределения вероятности, то пределы определяются через доверительный интервал:
Q 1 = X – E; Q 2 = X + Е.
Значение Е определяется в зависимости от вида закона распределения вероятности результата измерения. Для нормального закона
Е = t ∙ Sx,
где t для заданной доверительной вероятности Р выбирается из таблиц интегральной функции нормированного нормального распределения Ф (t) (например, табл. 1.1.2.6.2 [2], при этом следует учитывать, что Р = 2 Ф (t)). Таблица распределения также приведена в приложении Б.
Для равномерного закона распределения вероятности результата измерения значение Е (аналог доверительного интервала) можно определить из выражения
Е = a ∙ Sx,
где 
.
При представлении результата измерения необходимо внести поправки и уточнить пределы, в которых находится значение измеряемой величины.
При вычислении следует руководствоваться правилами округления, согласно которым значения среднеквадратических отклонений указываются в окончательном ответе двумя значащими цифрами, если первая из них равна 1 или 2, и одной, если первая равна 3 или более. Все предварительные расчеты выполняются не менее чем с одним или двумя лишними знаками.
В качестве справочных данных могут использоваться аналогичные таблицы из других литературных источников.
| Таблица 1 – Исходные данные | ||||||||||
| Предпоследняя цифра щифра | Последняя цифра шифра | |||||||||
| 0…100 1,0 Qa = 1 | -50…+50 0,02/0,01 Qa = -2 | 0…50 1,0 Qм = 1.1 | 0…50 4,0 Qм = 0.9 | -30…+30 1,5 Qм = 1.2 | 0…50 0,2/0,1 Qа = -0.5 | 0…100 4,0 Qа = 0 | -50…+50 2,5 Qа = 0 | 0…30 6,0 Qа = 1 | -10…+10 1,0 Qм = 1,1 | |
| норм. Sx = 0,1 P = 0,9 Qa = 1 | норм. Sx = 0,5 P = 0,95 Qa = 1,3 | норм. Sx = 1 P = 0,9 Qa = -1 | норм. Sx = 0,6 P = 0,98 Qa = 0,5 | норм. Sx = 0,3 P = 0,9 Qa = 0 | норм. Sx = 0,1 Qa = -1,0 | норм. Sx = 0,3 Qa = 1,1 | норм. Sx = 0,5 P = 0,8 Qa = 0 | норм. Sx = 0,6 Qa = 1,0 | норм. Sx = 0,2 P = 0,8 Qa = -0,8 | |
| -30…+50 2,5 Qa = 1 | -50…+30 2,5 Qa = 1 | 0…150 1,0 Qм = 1,1 | -20…+20 1,5 Qм = 0,9 | 0…50 2,5 Qa = 0 | -10…+20 4,0 Qa = 0,1 | 0…30 4,0 Qм = 1,2 | 0…50 0,03/0,01 Qa = 0 | 0…10 0,02/0,01 Qa = 1,0 | 0…30 1,0 Qa = 1,1 | |
| норм. Sx = 0,2 P = 0,99 Qa = 0 | норм. Sx = 0,3 P = 0,8 Qм = 1,0 | норм. Sx = 0,4 P = 0,95 Qa = 0,8 | равн. Sx = 0,4 Qa = 1,0 | равн. Sx = 0,8 Qм = 0,9 | равн. Sx = 0,6 Qa = 1,0 | норм. Sx = 0,6 P = 0,8 Qa = 0,5 | норм. Sx = 0,7 P = 0,9 Qa = -0,5 | равн. Sx = 0,5 Qa = 0,6 | равн. Sx = 0,6 Qм = 1,2 | |
| 0…100 6,0 Qa = 1,0 | -50…+50 1,5 Qм = 0,9 | 0…30 4,0 Qa = -1,0 | -20…+20 1,0 Qa = 0 | -30…+30 0,04/0,02 Qa = 1,0 | 0…50 4,0 Qa = 0,5 | -100…100 0,1 Qa = 0,2 | 1…100 0,2 Qa = 0 | 0…30 0,5 Qa = 0,9 | 0…50 0,25 Qa = 0,1 | |
| 0…100 4,0 Qa = -0,5 | 0…50 0,4 Qa = -0,2 | -10…+10 0,5 Qa = -1,0 | -30…+50 0,25 Qм = 0,9 | -100…100 0,1 Qa = 0,5 | 0…10 1,0 Qa = 0,2 | 0…50 0,1/0,2 Qм = 1,1 | 0…100 0,2/0,1 Qм = 1,1 | 0…50 6,0 Qa = 0,5 | -20…+20 0,3/0,2 Q = 0 | |
| норм. Sx = 0,5 P = 0,9 Qa = 0,3 | норм. Sx = 0,2 P = 0,95 Qм = 1,1 | норм. Sx = 0,4 P = 0,9 Qм = 1,1 | норм. Sx = 0,6 P = 0,8 Qa = -1,0 | равн. Sx = 0,1 Qa = 0,3 | равн. Sx = 0,2 Qa = -0,1 | равн. Sx = 0,4 Qм = 0,8 | равн. Sx = 0,3 Qa = -0,5 | норм. Sx = 0,1 P = 0,9 Qм = 0,95 | норм. Sx = 0,4 P = 0,95 Qa = -0,1 | |
| 0…15 0,02/0,01 Qa = 1,1 | 0…20 0,1 Qм= 1,01 | -20…+30 0,25 Qa = -0,1 | -30…+20 0,25 Qa = -0,1 | 0…80 0,05 Qa = -0,1 | 0…100 0,1 Qм= 0,9 | 0…50 6,0 Qм= 1,2 | -10…20 4,0 Qм= 0,9 | -20…+20 1,0 Qм= 1,0 | -25…+25 1,5 Qa = -0,5 | |
| 0…50 0,02/0,01 Qм = 1,1 | 0…10 0,1 Qa = 0,1 | -10…20 0,25 Qм = 0,9 | -50…+50 1,5 Qa = 0,1 | 0…50 1,6 Qм = 0,01 | 0…20 1,5 Qм = 1 | 0…50 2,0 Qa = 1 | -10…+10 0,01/0,02 Qм = 1,1 | 0…15 0,5 Qa = 0,1 | 0…10 0,1 Qa = 0,2 | |
| норм. Sx = 0,5 P = 0,9 Qa = 0,1 | норм. Sx = 0,9 P = 0,9 Qa = 0,9 | норм. Sx = 1,5 P = 0,8 Qм = 1,1 | норм. Sx = 0,9 P = 0,8 Qa = 0 | равн. Sx = 0,5 Qa = 1,0 | равн. Sx = 0,8 Qa = 0,8 | норм. Sx = 0,85 P = 0,95 Qa = 0,1 | норм. Sx = 0,9 P = 0,99 Qa = 0 | норм. Sx = 0,1 P = 0,95 Qм = 1,1 | норм. Sx = 0,2 P = 0,9 Qa = 0,2 |
