Студопедия.Орг Главная | Случайная страница | Контакты | Мы поможем в написании вашей работы!  
 

Потеря порядка” и “переполнение” при проведении вычислений на ЭВМ



Пусть w - наименьшее положительное число, представимое в ЭВМ; при использовании 4 байт, и при 8-байтовом представлении вещественной переменной. Это означает, что все действительные числа из интервала нельзя представить в ЭВМ в нормализованном виде. В этом случае приближение истинного числа в компьютере равно . Но это означает, что имеет место катастрофическая потеря точности арифметических вычислений:

.

С другой стороны, пусть W - наибольшее положительное число, представимое в ЭВМ. Все действительные числа |x| > W нельзя представить в нормализованной форме. Приближение числа x определяется как . Очевидно, что и в этом случае имеет место потеря точности: .





Дата публикования: 2015-03-26; Прочитано: 377 | Нарушение авторского права страницы | Мы поможем в написании вашей работы!



studopedia.org - Студопедия.Орг - 2014-2024 год. Студопедия не является автором материалов, которые размещены. Но предоставляет возможность бесплатного использования (0.006 с)...