Правила округления чисел1. Округление числа представляет собой отбрасывание значащих цифр справа до определенного разряда с возможным изменением цифры этого разряда. 2. В случае если первая из отбрасываемых цифр (считая слева направо) менее 5, то последнюю сохраняемую цифру не меняют. Пример: Округление числа 12,23 до трех значащих цифр дает 12,2. 3. В случае если первая из отбрасываемых цифр (считая слева направо) равна 5, то последнюю сохраняемую цифру увеличивают на единицу. Пример: Округление числа 0,145 до двух цифр дает 0,15. Примечание. В тех случаях, когда следует учитывать результаты предыдущих округлений, поступают следующим образом. 4. Если отбрасываемая цифра получена в результате округления в меньшую сторону, то последнюю оставшуюся цифру увеличивают на единицу (с переходом при необходимости в следующие разряды), иначе – наоборот. Это касается и дробных и целых чисел. Пример: Округление числа 0,25 (полученного в результате предыдущего округления числа 0,252 ) дает 0,3. 4. В случае если первая из отбрасываемых цифр (считая слева направо) более 5, то последнюю сохраняемую цифру увеличивают на единицу. Пример: Округление числа 0,156 до двух значащих цифр дает 0,16. 5. Округление выполняют сразу до желаемого количества значащих цифр, а не по этапам. Пример: Округление числа 565,46 до трех значащих цифр дает 565. 6. Целые числа округляют по тем же правилам, что и дробные. Пример: Округление числа 23456 до двух значащих цифр дает 23×103 Числовое значение результата измерения должно оканчиваться цифрой того же разряда, что и значение погрешности. Пример: Число 235,732 + 0,15 должно быть округлено до 235,73 + 0,15, но не до 235,7 + 0,15. 7. Если первая из отбрасываемых цифр (считая слева направо) меньше пяти, то остающиеся цифры не меняются. Пример:442,749 + 0,4 округляется до 442,7 + 0,4. 8. Если первая из отбрасываемых цифр больше или равна пяти, то последняя сохраняемая цифра увеличивается на единицу. Пример: 37,268 + 0,5 округляется до 37,3 + 0,5; 37,253 + 0,5 должно быть округлено до 37,3 + 0,5. 9. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление может привести к ошибкам. Пример: Поэтапное округление результата измерения 220,46 + 4 дает на первом этапе 220,5 + 4 и на втором 221 + 4, в то время как правильный результат округления 220 + 4. 10. Если погрешность средств измерения указывается всего с одной или двумя значащими цифрами, а рассчетное значение погрешности получают с большим числом знаков, в окончательном значении рассчитанной погрешности должны быть оставлены соответственно только первые одна или две значащие цифры. При этом, если полученное число начинается с цифр 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 30¸50 %), что недопустимо. Если же полученное число начинается с цифры 3 и более, например, с цифры 9, то сохранение второго знака, т.е. указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности. Исходя из этого на практике установилось такое правило: если полученное число начинается со значащей цифры, равной или большей 3, то в нем сохраняется лишь она одна; если же оно начинается со значащих цифр, меньших 3, т.е. с цифр 1 и 2, то в нем сохраняют две значащих цифры. В соответствии с этим правилом установлены и нормируемые значения погрешностей средств измерений: в числах 1,5 и 2,5 % указываются две значащих цифры, но в числах 0,5; 4; 6 % указывается лишь одна значащая цифра. Пример: На вольтметре класса точности 2,5 с пределом измерений хК = 300 В был получен отсчет измеряемого напряжения х = 267,5 В. В каком виде должен быть записан результат измерения в отчете? Расчет погрешности удобнее вести в следующем порядке: вначале необходимо найти абсолютную погрешность, а затем – относительную. Абсолютная погрешность D х = e0× хК /100, для приведенной погрешности вольтметра e0 = 2,5 % и пределов измерения (диапазона измерения) прибора хК = 300 В: D х = 2,5×300/100 = 7,5 В ~ 8 В; относительная погрешность e = D х ×100/ х = 7,5×100/267,5 = 2,81 % ~ 2,8 %. Так как первая значащая цифра значения абсолютной погрешности (7,5 В) больше трех, то это значение должно быть округлено по обычным правилам округления до 8 В, но в значении относительной погрешности (2,81 %) первая значащая цифра меньше 3, поэтому здесь должны быть сохранены в ответе два десятичных разряда и указано e = 2,8 %. Полученное значение х = 267,5 В должно быть округлено до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности, т.е. до целых единиц вольт. Таким образом, в окончательном ответе должно быть сообщено: "Измерение произведено с относительной погрешностью e = 2,8 %. Измеренное напряжение Х = (268 + 8) В". При этом более наглядно указать пределы интервала неопределенности измеренной величины в виде Х = (260¸276) В или 260 В £ X £ 276 В.
|
