Правила округления при обработке результатов измерений

 

Точность результатов измерений и точность вычислений при обработке результатов измерений должны быть согласованы с требуемой точностью получаемой оценки измеряемой величины.

Как уже было ранее показано, результаты измерения, как правило, записываются в виде некоторой суммы оценки измеряемой величины и её погрешности.

Например, при симметричных доверительных границах погрешности оценку измеряемой величины представляют в форме:

 

<X> ± D, P,

 

где <X> - оценка измеряемой величины, Р- доверительная вероятность.

При

 

Абсолютная погрешность оценки измеряемой величины следует выражать не более чем двумя значащими цифрами.

Две значащие цифры в погрешности оценки измеряемой величины сохраняют:
- при точных измерениях;
- если первая значащая цифра не более трех.

Сохраняемую значащую цифру в погрешности оценки измеряемой величины при округлении увеличивают на единицу, если отбрасываемая цифра неуказываемого младшего разряда больше либо равна пяти, и не изменяют, если она меньше пяти.

 

 

Примеры:

Если погрешность измерения составляет 0,0051, её округляют до величины 0,005.

Если погрешность измерения составляет 0,00116, её округляют до величины 0,0012.

Если погрешность измерения составляет 0,00115, её округляют до величины 0,0012 (При последней значащей цифре в округляемом числе равной 5, предпоследняя при округлении увеличивается на 1!).

 

Результат измерения округляется до того же разряда, в котором стоит последняя значащая цифра в значении погрешности.

 

Примеры:

1. Если получен результат измерения напряжения равный 0,5437, а абсолютная погрешность равна 0,012, то результат измерения должен быть записан в виде - 0,544±0,012.

2. Если получен результат измерения напряжения равный 0,5437, а абсолютная погрешность равна 0,03, то результат измерения должен быть записан в виде - 0,54±0,03.

 

 

Число цифр в промежуточных вычислениях при обработке результатов измерений должно быть на две больше, чем в окончательном результате. При этом погрешность при промежуточных вычислениях должна быть выражена не более чем тремя значащими цифрами.

 

Обработка экспериментальных зависимостей. Графическое представление результатов эксперимента[1]

 

Часто впрактике искомую величину невозможно определить из опытов, проведенных в одних и тех же условиях путем многократных измерений. Искомая величина в процессе эксперимента изменяется. Цель эксперимента в этом случае состоит в нахождении функциональной зависимости, которая наилучшим образом описывает изменение интересующего параметра. Математическая обработка результатов измерений в этом случае сводится к нахождению формулы, наиболее близко описывающей экспериментальную функциональную зависимость.

При построении графиков нужно придерживаться ниже перечисленных правил;

1. На координатных осях должны быть указаны обозначения откладываемых, величин и единицы их измерения.

2. Начало координат, если эти оговорено особо, может не совпадать снулевыми значениями величин. Его выбирают таким образом, чтобы площадь чертежа была использована максимально.

3. Экспериментальные точки изображаются четко и крупно: в виде кружков, крестиков, разноцветных точек и т.п.

4. Масштабные деления на координатных осях следует наносить равномерно.

5. Координаты экспериментальных точек на осях не указывают, а линии, определяющие эти координаты, не проводят.

6. Масштаб выбирают таким образом, чтобы кривая была равномерно растянута вдоль обеих осей (если график представляет собой прямую, то угол ее наклона к осям должен быть близок к 45 ), положение любой точки можно было определить легко и быстро.

Масштаб является удобным для чтения графика, если в одном делении миллиметре или сантиметре), нанесенном на оси графика, содержится одна или две (пять, десять, пятьдесят и т. д.) единиц измеряемой величины.

7. Если наблюдается значительный разброс экспериментальных точек, то кривую (прямую) следует проводить не по точкам, а между ними - так, чтобы количество точек по обе стороны от нее было одинаковым. Кривая должна быть плавной.

8. На графике необходимо отложить погрешность измерения величин (доверительный интервал).

Делается это следующим образом