Правила округления погрешности и результата измерения

Рассчитывая значения систематической, случайной и суммарной погрешностей, особенно при использовании электронного калькулятора, получают значение с большим числом знаков. Однако исходные данные для этих расчетов всегда указываются с одной или двумя значащими цифрами. Действительно, класс точности прибора на его шкале указывается не более чем с двумя значащими цифрами, а среднее квадратическое отклонение не имеет смысла записывать с более чем двумя значащими цифрами, так как точность этой оценки при 10 измерениях не выше 30 %. Вследствие этого и в окончательном значении расчетной погрешности должны быть оставлены только первые одна - две значащие цифры. При этом необходимо учитывать следующее. Если полученное число начинается с цифры 1 или 2, то отбрасывание второго знака приводит к очень большой ошибке (до 30– 50 %), это недопустимо. Если же полученное число начинается, например, с цифры 9, то сохранение второго знака, то есть указание погрешности, например, 0,94 вместо 0,9, является дезинформацией, так как исходные данные не обеспечивают такой точности.

В итоге можно сформулировать правила округления рассчитанного значения погрешности и полученного экспериментального результата измерения:

1. Абсолютная погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной, – если первая есть 3 и более.

2. Среднее значение измеренной величины округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности.

3. Относительную погрешность, выраженную в процентах, достаточно записать двумя значащими цифрами.

4. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводятся с одним лишним знаком.

Пример:
На вольтметре класса точности 2,5 с пределом измерений 300 В были произведены несколько повторных измерений одного и того же напряжения. При этом оказалось, что все замеры дали одинаковый результат 267,5 В.

Отсутствие различий между знаками говорит о том, что случайная погрешность пренебрежимо мала, поэтому суммарная погрешность совпадает с систематической (см. рис. 1а).

Сначала найдем абсолютную, а затем относительную погрешности. Абсолютная погрешность градуировки прибора равна:

Так как первая значащая цифра абсолютной погрешности больше трех, то это значение должно быть округлено до 8 В. Относительная погрешность:

В значении относительной погрешности должны быть сохранены два значащих разряда: 2,8 %.

Таким образом, в окончательном ответе должно быть сообщено “Измеренное напряжение U=(268+8) В при относительной погрешности d_U=2,8 % ”.