Пример и порядок обработки неравноточных измерений одной величины
Даны результаты (углы xk и их средние квадратические ошибки 
) неравноточных измерений одного и того же угла.
| n | xk |  =  - 
| 
|  /
| 
| 
|  - 
|  ( - 
| ( - 
| 
| |
| 55 45 20.29 | 1.29 | 0.25 | 0.80 | 0.64 | 0.83 | 0.52 | 0.33 | 0.17 | 1.07 | ||
| 19.39 | 0.39 | 0.27 | 0.74 | 0.55 | 0.21 | -0.38 | -0.21 | 0.08 | 0.08 | ||
| 20.61 | 1.61 | 0.20 | 1.00 | 1.00 | 1.61 | 0.84 | 0.84 | 0.71 | 2.59 | ||
| 20.27 | 1.27 | 0.23 | 0.87 | 0.76 | 0.97 | 0.50 | 0.38 | 0.19 | 1.23 | ||
| 19.81 | 0.81 | 0.19 | 1.05 | 1.10 | 0.89 | 0.04 | 0.04 | 0.00 | 0.72 | ||
| 19.61 | 0.61 | 0.40 | 0.50 | 0.25 | 0.15 | -0.16 | -0.04 | 0.01 | 0.09 | ||
| 19.22 | 0.22 | 0.21 | 0.95 | 0.90 | 0.20 | -0.55 | -0.50 | 0.28 | 0.04 | ||
| 19.08 | 0.08 | 0.18 | 1.11 | 1.23 | 0.10 | -0.69 | -0.85 | 0.59 | 0.01 | ||
| 19.71 | 0.71 | 0.28 | 0.71 | 0.50 | 0.36 | -0.06 | -0.03 | 0.00 | 0.26 | ||
 55 45 19.00
| =0.20
| р =6.93 | 5.32 | -0.04 | 2.03 | 6.09 | |||||
| -0.02 | 1.98 | ||||||||||
Основные формулы и порядок обработки неравноточных измерений определенной величины.
сумма р = 
= 
Вычисление среднего весового значения (среднее взвешенного)
= 
Квадрат средней квадратической ошибки на единицу веса
) = 
Средняя квадратическая ошибка среднего весового значения
Порядок обработки
В колонке 1 располагают номер измерения
В колонке 2 располагаются измеренные величины 
Выбираем 
(общую часть ) записываем в колонку 2 (низ) 55º 45′ 19.00″
Образуем разности - = 
колонка 3
В колонке 4 записываем (они нам даны) колонка 4
Выбираем из «удобное» в нашем случае возьмем =0.20”
Колонка 5 содержит вычисления 
/
Колонка 6 содержит вычисления весов 
Сумма весов р =6.93 записывают внизу колонки 6
В колонке 7 вычисляем произведения 
и внизу записываем сумму 5.32
Находим по формуле 
= 
среднее весовое значение =5.32/6.93 = 0.77”
Образуем разность 
- колонка 8
( - 
колонка 9
Образуем сумму ( - колонка 9 (низ) 0.04
для контроля считаем ( - = 
- 
= 5.32 – 6.93*0.77 = -0.02
колонка 10
Образуем сумму 
колонка 10 (низ) 2.03
для контроля проводим вычисления в колонке 11 и сумму в ней 6.09
далее считаем = 
- 
= 6.09 - 6.93*0.77*0.77 = 1.98, что близко к значению 2.03.
Находим СКО на единицу веса = = 
=0.25 
= 0.50
Находим СКО среднего весового 
) = = 
= 0.19
Записываем в колонку результат 
= 55º 45′ 19″ + 0.77″ = 50º 45′ 19.77″±0.19″
