Переполнение
Выход результатов вычислений за границы допустимого диапазона, следовательно результат вычислений неправильный.
Переполнение при вычислениях с целыми числами не вызывает прерывания работы процессора.
Хранение вещественных чисел
32-разрядная ячейка – представление с одинарной точностью,
64-разрядная ячейка – представление с двойной точностью
Порядок (8 разрядов) Мантисса (24 разряда)
Особенности работы компьютера с вещественными числами
Выход за диапазон (переполнение) – аварийная ситуация для процессора, который прерывает свою работу.
Результаты машинных вычислений с вещественными числами содержат погрешность. При использовании двойной точности эта погрешность уменьшается.
© ООО «Знанио»
С вами с 2009 года.