ПРАВИЛА ЗАПИСИ ЧИСЕЛ
Электронный конспект к групповому занятию 1/3.
Оглавление
1. Формы представления результатов измерений. Правила округления погрешностей и результатов измерений. 1
ПРАВИЛА ЗАПИСИ ЧИСЕЛ.. 1
ПРАВИЛА ОКРУГЛЕНИЯ чисел.. 2
правила округления при обработке результатов измерений.. 3
Обработка экспериментальных зависимостей. Графическое представление результатов эксперимента.. 4
Обработка экспериментальных зависимостей. правила оформления таблиц.. 7
2. Абсолютные и относительные характеристики электрических сигналов при измерении напряжения, тока и мощности. 7
3. Расширение пределов измерения электроизмерительных приборов. 19
Цитируемые труды.. 19
Формы представления результатов измерений. Правила округления погрешностей и результатов измерений.
Для того, чтобы правильно представить (зафиксировать, записать) результаты измерений, необходимо, прежде всего, научиться правильно записывать и округлять числа. Эти правила хорошо знакомы нам ещё из школьного курса математики. Правила правильного записывания и округления чисел описан в математике, но мы будем пользоваться описанием этих правил, которые приводятся в стандарте СЭВ 543-77 «ЧИСЛА. Правила записи и округления»[1].
ПРАВИЛА ЗАПИСИ ЧИСЕЛ
Значащие цифры данного числа - это все цифры от первой слева, не равной нулю, до последней записанной цифры справа. При этом нули, следующие из множителя 10n , не учитываются.
Примеры:
1. Число 12,0 имеет три значащие цифры;
2. Число 30 имеет две значащие цифры;
3. Число 120·103 имеет три значащие цифры;
4. Число 0,514·10 имеет три значащие цифры;
5. Число 0,0056 имеет две значащие цифры.
Когда необходимо указать, что число является точным, после числа должно быть указано слово «точно» или же последняя значащая цифра печатается жирным шрифтом
Пример:
В печатном тексте: 1 кВт·ч = 3 600 000 Дж (точно), или = 3600000Дж
Следует различать записи приближенных чисел по количеству значащих цифр.
Примеры:
1. Следует различать числа 2,4 и 2,40. Запись 2,4 означает, что верны только цифры целых и десятых; истинное значение числа может быть например 2,43 и 2,38. Запись 2,40 означает, что верны и сотые доли числа; истинное число может быть 2,403 и 2,398, но не 2,421 и не 2,382.
2. Запись 382 означает, что все цифры верны; если за последнюю цифру ручаться нельзя, то число должно быть записано 3,8·102.
3. Если в числе 4720 верны лишь две первые цифры оно должно быть записано 47·102 или 4,7·103.
Число, для которого указывается допускаемое отклонение, должно иметь последнюю значащую цифру того же разряда как и последняя значащая цифра отклонения.
Примеры:
1. Правильно: 17,0 ±0,2
Неправильно: 17 ±0,2 или 17.00±0,2
2. Правильно: 12,13 ±0,17
Неправильно: 12,13 ±0,2 или 12.1±0,17
3. Правильно: 46,40 ±0,15
Неправильно: 46,4 ±0,15 или 46,402±0,15
Числовые значения величины и ее погрешности (отклонения) целесообразно записывать с указанием одной и той же единицы физических величин.
Пример: 80,555±0,002 кг
Интервалы между числовыми значениями величин следует записывать:
От 60 до 100 или от 60 до 100.
Свыше 100 до 120 или свыше 100 до 120.
Свыше 120 до 150 или свыше 120 до 150
Числовые значения величин должны указываться в стандартах с одинаковым числом разрядов, которое необходимо для обеспечения требуемых эксплуатационных свойств и качества продукции. Запись числовых значений величин до первого, второго, третьего и т. д. десятичного знака для различных типоразмеров, видов марок продукции одного названия, как правило, должна быть одинаковой. Например, если градация толщины стальной горячекатаной ленты 0,25 мм, то весь ряд толщин ленты должен быть указан с точностью до второго десятичного знака.
Правильно: Неправильно:
1,50; 1,85; 2,00 1,5; 1,75; 2.
В зависимости от технической характеристики и назначения продукции количество десятичных знаков числовых значений величин одного и того же параметра, размера, показателя или нормы может иметь несколько ступеней (групп) и должно быть одинаковым только внутри этой ступени (группы).
Основные правила округления при обработке результатов измерения изложены, в частности, в ГОСТ Р 8.736-2011 ГСИ. Измерения прямые многократные. Методы обработки результатов измерений. Основные положения