Унаслідок недосконалості методів і засобів вимірювання, впливу умов вимірювання і недосконалості органів почуттів спостерігача, а також багатьох інших факторів виникають погрішності вимірювань.
Ці погрішності поділяються на два види: випадкові і систематичні. Випадкові погрішності (у тому числі грубі погрішності і промахи) змінюються випадково при повторних вимірах однієї і тієї ж величини. Систематичні погрішності залишаються постійними або закономірно змінюються при повторних вимірах однієї і тієї ж величини.
Випадкова погрішність не може бути виключена з результатів вимірювання, однак її вплив може бути зменшений за рахунок повторних вимірювань однієї і тієї ж величини й обробки експериментальних даних.
Грубі погрішності і промахи з'являються через помилки або неправильні дії виконавця (його психофізичного стану, неправильного відліку, помилок запису або обчислень, неправильного включення приладу й ін.), а також при короткочасних різних змінах при проведенні вимірювання (вібрація, надходження холодного або теплого повітря, поштовх приладу виконавцем і ін.).
Систематичні погрішності – це визначені функції невипадкових факторів, склад яких залежить від фізичних, конструктивних і технологічних особливостей засобів вимірювання, умов їхнього використання, а також індивідуальних якостей спостерігача. Складні закономірності, яким підкоряються систематичні погрішності, визначаються або при створенні засобів вимірювання і комплектації вимірювальної апаратури, або безпосередньо при підготовці вимірювального експерименту й у процесі його проведення.
Обробка результатів вимірювання фізичної величини включає обчислення наступних статистичних характеристик вимірюваної величини – середнього арифметичного (), середнього квадратичного відхилення (), стандартного відхилення середнього (), коефіцієнта варіації ().
, (1)
де xi – значення фізичної величини, обміряне в i – му вимірі;
n – кількість вимірів фізичної величини.
. (2)
. (3)
. (4)
Істинне значення фізичної величини буде лежати в інтервалі
, (5)
де - гранична помилка вимірювання.
Гранична помилка вимірювання з обраною довірчою імовірністю Р (найчастіше приймають рівної 0,95) визначається по формулі
, (6)
де ta - коефіцієнт Стьюдента, що залежить від кількості вимірювань (ступеня волі f = n-1) і значення довірчої імовірності (рівня помилки a = 1-P). Значення коефіцієнта Стьюдента приймається з таблиць.
Відносна погрішність вимірювання визначається за формулою
, %. (7)
Визначення грубих погрішностей (промахів) здійснюється виходячи зі співвідношення: якщо відношення найбільшого (найменшого) відхилення i -го виміру величини від її середньоарифметичного значення до середнього квадратичного відхилення більше (або дорівнює) табличного значення статистики максимального відхилення при заданій довірчій імовірності при даній кількості вимірювань:
. (8)
Після виключення з результатів вимірювання тих вимірювань, що проведені з грубими погрішностями (що є промахами), перераховують.