Теоретичні відомості. Нехай – точне значення, – наближене значення величини

Нехай – точне значення, – наближене значення величини. Абсолютною похибкою наближеного значення називається величина . Відносною похибкою значення (при ) називається величина . Так як значення як правило невідомо, частіше оцінюють похибки виду: ; . Величини і називають верхніми границями абсолютної і відносної похибок.

Значущу цифру числа називають вірною, якщо абсолютна похибка числа не перевищує одної другої одиниці розряду, що відповідає цій цифрі.

Введемо функцію . Тоді абсолютну похибкою можна визначити за допомогою функції .