Фиксированная запятая

Оговоримся, что разрядная сетка машины имеет постоянное число разрядов - n.

При представлении чисел с фиксированной запятой считают, что запятая всегда находится перед старшим разрядом, а все числа, которые участвуют в вычислениях, считаются по абсолютной величине меньше единицы:

|X| < 1

Введём две характеристики чисел: диапазон изменения и точность представления.

Диапазон изменения характеризуется теми пределами, в которых могут находиться числа, с которыми оперирует машина.

Отличное от нуля самое малое число:

Таким образом, диапазон чисел, с которыми работает ЭВМ, есть:

|X|_min <= |X| <= |X|_max

2^-n <= |X| <= 1 - 2^-n

Иными словами, числа, которые выходят за диапазон изменения, в ЭВМ не могут быть представлены точно. Если

|X| < |X|_min = 2^-n,

то такое число воспринимается как нуль.

Если:

|X| > |X|_max = 1- 2^-n,

то такое число воспринимается как бесконечно большое. Этим двум случаям соответствуют понятия машинного нуля и машинной бесконечности.

При оптимальном округлении абсолютная ошибка:

Минимальная относительная ошибка:

так как при большом " n "

Максимальная относительная ошибка:

Ошибка представления числа зависит от величины самого числа и способа округления:

Заметим, что для малых чисел ошибка может достигать большой величины.

Дата добавления: 2014-01-05