Значащие цифры и правила округления

 

Принято экспериментальные данные и результаты расчетов выражать только значащими цифрами. Значащими называют все достоверно известные цифры плюс первая из недостоверных, т.е. все результаты следует округлять до первой недостоверной цифры.

Для оценки достоверности результатов определений следует учитывать реальные возможности используемого метода или методики. В качестве статистических критериев при этом может служить, например, стандартное отклонение или доверительный интервал. Если такие сведения отсутствуют, недостоверность принимают равной ±1 в последней значащей цифре.

Если за первой недостоверной цифрой следует цифра 5, округление проводят в сторону ближайшего четного числа (по некоторым рекомендациям в сторону ближайшего большего числа). Например, число 17,465 следует округлить до 17,46, если цифра 6 недостоверна. Рекомендуется округлять конечный результат после выполнения всех арифметических действий.

Нуль в числах может быть значим и незначим. Нули, стоящие в начале числа, всегда незначимы и служат лишь для указания места запятой в десятичной дроби. Например, в числе 0,508 три значащие цифры. Нули, стоящие после запятой в десятичной дроби, считаются значащими. Например, в числе 200,0 четыре значащие цифры. Нули же в конце целого числа могут означать значащую цифру, а могут просто указывать порядок величины. Например, в числе 200 значащих цифр может быть: одна(2), две (2 и 0), три (2,0 и 0). Чтобы избежать неопределенности, рекомендуется в таких случаях представить число в нормальном виде, т.е. в виде произведения числа, содержащего только значащие цифры, на 10ⁿ. Например, если в числе 200 одна значащая цифра, то следует изобразить его как 2^.10², если две значащие цифры – 2,0^.10², если три значащие цифры – 2,00^.10².

Сложение и вычитание. Значимость суммы или разности определяется значимостью числа с наименьшим числом десятичных знаков. Например, при сложении чисел 50,1, 2 и 0,55 значимость определяется недостоверностью числа 2 и, следовательно, сумму чисел 52,65 следует округлить до 53.

Числа, содержащие степени, преобразуют, приводя показатели степеней слагаемых к наибольшему. Например, при сложении чисел 4^.10^-5, 3,00^.10^-2 и 1,5^.10^-4 нужно представить их следующим образом: 0,004^.10^-2, 3,00^.10^-2 и 0,015^.10^-2. пользуясь правилом значимости суммы, получаем 3,02^.10^-2, имеющего наименьшее число десятичных знаков.

Умножение и деление. Для оценки значимости произведения (или частного) часто пользуются следующим правилом: значимость произведения (или частного) определяется значимостью сомножителя с наименьшим числом значащих цифр. Например, перемножение чисел 1,5 и 2,35 дает произведение, содержащее две значащие цифры, т.е. 3,5.

Более строгий подход основан на сравнении относительных недостоверностей сомножителей и произведения (или частного). Относительная недостоверность равна отношению абсолютной недостоверности числа к самому числу. Относительная недостоверность произведения (или частного) равна сумме относительных недостоверностей сомножителей. Например, нужно найти частное 98:87,25. относительные недостоверности составляют 1:98 = 1^.10^-2 и 0,01:87,25 = 1^.10^-4. следовательно, относительная недостоверность частного 0,01 + 0,0001 = 1^.10^-2. при делении чисел с помощью калькулятора получаем число 1,1232…. поскольку недостоверна вторая цифра после запятой, частное следует округлить до 1,12.

Возведение в степень. При возведении числа в степень относительная недостоверность результата увеличивается в число раз, равное степени. Например, при возведении в квадрат она удваивается.

Извлечение квадратного корня. Относительная недостоверность результата извлечения корня вдвое меньше относительной недостоверности подкоренного числа, поэтому в некоторых случаях после извлечения корня число значащих цифр увеличивается. Например, √1,00 = 1,000, т.к. относительная недостоверность числа 1,00 равна 1^.10^-2, а результат извлечения корня 0,005, т.е. неопределенность заключена в третьем знаке после запятой.

 

 

Литература

1. Закон РФ «Об обеспечении единства измерений» от 27.04.93 № 4871-1.

2. МИ 2091-90. Государственнная система обеспечения единств измерений. Измерения физических величин. Общие требования.- М.: ВНИИМС Госстандарта России, 1990.

3. МИ 2630-2000 Государственнная система обеспечения единства измерений. Метрология. Физические величины и их единицы. - М.: ВНИИМС Госстандарта России, 2000.

4. В.Д.Крылова Основы стандартизации, сертификации, метрологии.- М.: ЮНИТИ., 2001.

 

 

Издание учебное

 

ФЕДОРИНА ЛЮДМИЛА ИЛЬИНИЧНА