I. Измерения штангенциркулем
Обозначения:
а, b, с – длины сторон параллелепипеда
| №№ п/п | а, мм | b, мм | с, мм | Da, мм | ea, % | Db, мм | eb, % | Dс, мм | ec, % |
| 40.0 | 30.1 | 7.9 | 0.1 | ||||||
| 40.1 | 30.2 | 7.8 | 0.1 | 0.1 | |||||
| 39.9 | 30.0 | 8.1 | 0.1 | 0.1 | 0.3 | ||||
| 40.2 | 29.9 | 7.7 | 0.2 | 0.2 | 0.1 | ||||
| 39.8 | 30.3 | 7.5 | 0.2 | 0.2 | 0.3 | ||||
| Ср. знач. | 40.0 | 30.1 | 7.8 | 0.12 | 1.05 | 0.12 | 1.4 | 0.14 | 3.9 |
Расчетные формулы:
Среднее значение величины вычисляется по формуле
. (3.1)
Затем рассчитываются отклонения каждого конкретного значения от среднего
. (3.2)
Среднее значение абсолютной погрешности вычисляется по формуле
. (3.3)
Далее определяем среднеквадратичную ошибку среднего арифметического, пользуясь, например, формулой Питерса
. (3.4)
Получается 
m=0.15 мм
Выберем доверительную вероятность результата α=0,95, из таблицы (коэффициентов Стьюдента) при n=5 измерениях, тогда коэффициент Стьюдента будет 
.
Найдем абсолютную погрешность результата
(3.5)
Получается 
a=0.42 мм.
Вычислим относительную погрешность
. (3.6)
Запишем окончательный результат в виде
(3.7)
Вывод: Окончательное значение величины 
мм. Точность определения величины а составляет 1.05%.
Аналогично проводятся измерения и расчеты для остальных размеров.
Примечание: В таблицу записываются величины, определяемые по формулам (3.1), (3.2), (3.3) и (3.6). Подробные расчеты должны быть проведены в рабочей тетради. Окончательный результат включает величины определяемые по формулам (3.1) и (3.5).
Если проведенная серия измерений дала одинаковые результаты, то это означает, что величина случайных отклонений меньше точности прибора. В этом случае за ошибку принимают величину, обусловленную классом точности прибора или половиной цены его наименьшего деления, а в случае, если случайная ошибка и погрешность измерительного прибора сравнимы, то общая ошибка складывается из них. Правила сложения даны ниже.
Суммарная погрешность определяется согласно формуле:
,
где Dхсл – случайная ошибка, d – погрешность измерительного прибора. В случае ее большой малости (доли процента) по сравнению со случайной ошибкой погрешностью измерительного прибора можно пренебречь при окончательных расчетах.
Контрольные вопросы
1. Принцип работы линейного нониуса (штангенциркуля).
2. Принцип работы углового нониуса (оптический угломер).
3. Устройство и принцип действия микрометра.