Правила округления значения погрешности и записи результата измерений

При расчете величины погрешности, особенно с помощью калькуляторов, значение погрешности получается с большим числом знаков. Это создает впечатление о высокой точности измерений, что не соответствует действительности, так как исходными данными для расчета чаще всего являются нормируемые значения погрешности используемого СИ, которые указываются всего с одной или двумя значащими цифрами. Вследствие этого и в окончательном значении рассчитанной погрешности не следует удерживать более двух значащих цифр. При округлении следует придерживаться следующих правил:

1. Погрешность результата измерения указывается двумя значащими цифрами, если первая из них равна 1 или 2, и одной - если первая цифра есть 3 и более.

Значащими цифрами числа считаются все цифры от первой слева, не равной нулю, до последней справа цифры, при этом нули, записанные в виде множителя 10ⁿ, не учитываются.

2. Результат измерения округляется до того же десятичного разряда, которым оканчивается округленное значение абсолютной погрешности. (Например, результат 85,6342, погрешность ±0,01. Результат округляют до 85,63. Тот же результат при погрешности в пределах ±0,012 следует округлить до 85,634).

3. Округление производится лишь в окончательном ответе, а все предварительные вычисления проводят с одним - двумя лишними знаками.

4. Округление следует выполнять сразу до желаемого числа значащих цифр, поэтапное округление приводит к ошибкам.

При округлении числовых значений погрешности и результата измерений необходимо руководствоваться следующими общими правилами округления.

Лишние цифры в целых числах заменяются нулями, а в десятичных дробях отбрасываются. (Например, число 165245 при сохранении четырех значащих цифр округляется до 165200, а число 165,245 - до 165,2).

Если десятичная дробь оканчивается нулями, они отбрасываются только до разряда, который соответствует разряду погрешности. (Например, результат измерений 235,200, погрешность ±0,05. Результат округляют до 235,20. Тот же результат при погрешности в пределах ±0,015 следует округлить до 235,200).

Если первая (считая слева направо) из заменяемых нулями или отбрасываемых цифр меньше 5, остающиеся цифры не изменяются.

Если первая из этих цифр равна 5, а за ней не следует никаких цифр, или идут нули, то, если последняя цифра в округляемом числе четная или нуль, она остается без изменения, если нечетная - увеличивается на единицу. (Например, число 1234,50 округляют до 1234, а число 8765,50 - до 8766).

Если первая из заменяемых нулями или отбрасываемых цифр больше 5 или равна 5, но за ней следует значащая цифра, то последняя остающаяся цифра увеличивается на единицу. (Например, число 6783,6 при сохранении четырех значащих цифр, округляют до 6784, а число 12,34520 - до 12,35).

Особенно внимательно следует относиться к записи результата измерения без указания погрешности, так как записи результата 2,4∙10³ В и 2400 В не являются тождественными. Первая запись означает, что верны цифры тысяч и сотен вольт и истинное значение может находиться в интервале от 2,351кВ до 2,449 кВ. Запись 2400 означает, что верны и единицы вольт, следовательно истинное значение напряжения может находиться в интервале от 2399,51В до 2400,49 В.

Поэтому запись результата без указания погрешности крайне нежелательна.

Окончательно правила записи результата измерений можно сформулировать следующим образом.

1) При промежуточных вычислениях значения погрешности сохраняют три-четыре значащие цифры.

2) Окончательное значение погрешности и значение результата округляются в соответствии с изложенными выше правилами.

3) При однократных технических измерениях когда учитывается только основная погрешность СИ (СИ используются в нормальных условиях эксплуатации), результат записывается в виде:

или

. (1.11)

Например, результат измерения напряжения В, погрешность В. Результат может быть записан в виде:

Исправленный результат измерения с учетом поправки на систематическую погрешность:

Х = Х _изм + q. (1.12)

2 Выбор средств измерений (СИ)