Обработка результатов вычислений с приближенными числами

Результаты вычислений с приближенными числами обрабатываются с использованием следующих правил.

1. Результаты вычислений должны содержать строго определенное число значащих цифр, причем последняя цифра является сомнительной, а предпоследняя – достоверной. В подавляющем большинстве случаев на практике применяют приближенные числа, имеющие три-четыре значащие цифры.

2. Отбрасывая излишние (неточные) цифры, надо прибавить единицу к последней сохраняемой цифре, если отбрасываемая цифра была равна или больше 5.

3. Необходимо помнить, что точность результата определяется точностью измерительных приборов и метода, а также тщательностью исходных измерений и не может быть повышена в дальнейшем путем различных арифметических действий над результатами наблюдений. Поэтому, если в цепи вычислений имеется какое-либо не очень надежное число, то точность конечного результата не может быть большей, чем точность наименее надежного числа в цепи вычислений.

4. Все цифры, кроме нуля, всегда значащие. Нуль является значащей цифрой, если он стоит между другими значащими цифрами. Например, в числе 0,0105 первые два нуля слева незначащие, а нуль между 1 и 5 - значащий. Нули, написанные в правой части числа (целого или дробного), также нужно рассматривать как значащие, если только они не стоят взамен неизвестных или обращенных цифр. Так, мы можем написать число 5000, если при измерении учитываются не только сотни и десятки, но и единицы. Если же мы учитываем только тысячи, тогда то же число, должно быть изображено в виде 5´10³.

5. При сложении и вычитании приближенных чисел следует сохранять в окончательном результате не больше знаков после запятой, чем их имеется в наименее достоверном числе:

197,0 + 106,37 = 303,4 (правильно);

197,0 + 106,371 = 303,371 (не правильно).

6. При умножении и делении приближенных чисел результат следует округлять до такого числа значащих цифр, сколько их имеет приближенное число с наименьшим числом значащих цифр. При этом надо учитывать изложенное в пункте 4. Например:

а) 12,853 ´ 3,5 = 45

5 зн. цифр 2 зн. цифры 2 зн. цифры

б) 1378: 0,27 = 5,1´10³

4 зн. цифры 2 зн. цифры 2 зн. цифры

в) 94,3: 2,358 = 40,0

3 зн. цифры 4 зн. цифры 3 зн. цифры

7. Если некоторые данные имеют больше десятичных знаков (при сложении и вычитании) или больше значащих цифр (при умножении, делении, возведении в степень и извлечении корня), чем другие, то их предварительно следует округлить, сохраняя лишь одну лишнюю цифру по сравнению с наименее достоверным числом.

8. В промежуточных результатах всех арифметических действий нужно оставлять на одну цифру больше, чем этого требуют правила 5 и 6. Например:

9. Если окончательный результат произведения или частного имеет первой значащей цифрой 1 или 2; 3; 4, то рекомендуется сохранить на одну цифру больше, чем этого требует правило 6.

10. При возведении в квадрат или куб в результате следует сохранить столько значащих цифр, сколько их имеет возводимое в степень приближенное число.

11. При извлечении квадратного и кубического корней в результате следует брать столько значащих цифр, сколько их имеет подкоренное число.