Правила округления результатов измерений

 

Поскольку погрешности измерений определяют лишь зону неопределенности результатов, их не требуется знать очень точно. В окончательной записи погрешность измерения принято выражать числом с одним или двумя значащими цифрами, Эмпирически были установлены следующие правила округления рассчитанного значения погрешности и полученного результата измерения.

 

1. Погрешность результата измерения указывается одной значащей цифрой,

 

2. Результат измерения округляется до того же десятичного знака, которым оканчивается округленное значение абсолютной погрешности. Если десятичная дробь в числовом значении результата измерений оканчивается нулями, то нули отбрасываются до того разряда, который соответствует разряду числового значения погрешности.

 

3. Если цифра старшего из отбрасываемых разрядов меньше 5, то остальные цифры числа не изменяются. Лишние цифры в целых числах заменяются нулями, а в десятичных дробях отбрасываются.

 

4. Если цифра старшего из отбрасываемых разрядов больше или равна 5, но за ней следуют отличные от нуля цифры, то последнюю оставляемую цифру увеличивают на единицу.

 

5. Если отбрасываемая цифра равна 5, а следующие за ней цифры неизвестны или нули, то последнюю сохраняемую цифру числа не изменяют, если она четкая, и увеличивают на единицу, если она нечетная.

 

6. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним-двумя лишними знаками.

 

Если руководствоваться этими правилами округления, то количество значащих цифр в числовом значении результата измерений дает возможность ориентировочно судить о точности измерения. Это связано с тем, что предельная погрешность, обусловленная округлением, равна половине единицы последнего разряда числового значения результата измерения.

 

Для оценки влияния округления результата измерения Y представим его в виде

(4.4)

 

где А1..., Аs— десятичные цифры и старшая цифра A1 ≠ 0; R, P, S — целые числа, причем R - Р = S - 1.

 

Абсолютная погрешность, обусловленная округлением, D = 0,5×10P. В качестве оценки относительной предельной погрешности округления рекомендуется [4] принять

 

 

поскольку деление абсолютной погрешности лишь на первый член суммы (4.4) ведет к увеличению числового значения оценки погрешности. Поскольку значения A1 могут находиться в пределах от 1 до 9, то при одной значащей цифре (S = 1) предельная погрешность округления может находится в пределах от 6 до 50%. При двух значащих цифрах она составит от 0,6 до 5%, при трех — от 0,06 до 0,5%.

 

Оцененные границы погрешности округления характеризуют влияние округления на точность результата измерения. Кроме того, эти данные позволяют ориентироваться в минимально необходимом для записи результата измерений числе значащих цифр при его заданной точности