Числовое кодирование информации

Единицы измерения информации.

Формула Хартли-Шеннона.

Американский инженер Р. Хартли в 1928 г. процесс получения информации рассматривал как выбор одного сообщения из конечного наперёд заданного множества из N равновероятных сообщений, а количество информации I, содержащееся в выбранном сообщении, определял как двоичный логарифм N.

Формула Хартли: I = log₂N

Допустим, нужно угадать одно число из набора чисел от единицы до ста. По формуле Хартли можно вычислить, какое количество информации для этого требуется: I = log₂100 > 6,644. Таким образом, сообщение о верно угаданном числе содержит количество информации, приблизительно равное 6,644 единицы информации.

Для задач такого рода американский учёный Клод Шеннон предложил в 1948 г. другую формулу определения количества информации, учитывающую возможную неодинаковую вероятность сообщений в наборе.

Формула Шеннона: I = — (p₁log₂ p₁ + p₂ log₂ p₂ +... + p_N log₂ p_N), где p _i — вероятность того, что именно i -е сообщение выделено в наборе из N сообщений.

Легко заметить, что если вероятности p₁,..., p_N равны, то каждая из них равна 1 / N, и формула Шеннона превращается в формулу Хартли.

Бит – это минимальная единица измерения информации, соответствующая одной двоичной цифре («0» или «1»).

Байт состоит из восьми бит. Используя один байт, можно закодировать один символ из 256 возможных (256 = 2⁸). Таким образом, один байт равен одному символу, то есть 8 битам:

1 символ = 8 битам = 1 байту.

Изучение компьютерной грамотности предполагает рассмотрение и других, более крупных единиц измерения информации.

Таблица байтов:

1 байт = 8 бит

1 Кб (1 Килобайт) = 2¹⁰ байт = 2*2*2*2*2*2*2*2*2*2 байт =

= 1024 байт (примерно 1 тысяча байт – 10³ байт)

1 Мб (1 Мегабайт) = 2²⁰ байт = 1024 килобайт (примерно 1 миллион байт – 10⁶ байт)

1 Гб (1 Гигабайт) = 2³⁰ байт = 1024 мегабайт (примерно 1 миллиард байт – 10⁹ байт)

1 Тб (1 Терабайт) = 2⁴⁰ байт = 1024 гигабайт (примерно 10¹² байт). Терабайт иногда называют тонна.

1 Пб (1 Петабайт) = 2⁵⁰ байт = 1024 терабайт (примерно 10¹⁵ байт).

1 Эксабайт = 2⁶⁰ байт = 1024 петабайт (примерно 10¹⁸ байт).

1 Зеттабайт = 2⁷⁰ байт = 1024 эксабайт (примерно 10²¹ байт).

1 Йоттабайт = 2⁸⁰ байт = 1024 зеттабайт (примерно 10²⁴ байт).

Кодирование информации — процесс преобразования сигнала из формы, удобной для непосредственного использования информации, в форму, удобную для передачи, хранения или автоматической переработки

Кодирование числовой информации.

Сходство в кодировании числовой и текстовой информации состоит в следующем: чтобы можно было сравнивать данные этого типа, у разных чисел (как и у разных символов) должен быть различный код. Основное отличие числовых данных от символьных заключается в том, что над числами кроме операции сравнения производятся разнообразные математические операции: сложение, умножение, извлечение корня, вычисление логарифма и пр. Правила выполнения этих операций в математике подробно разработаны для чисел, представленных в позиционной системе счисления.

Основной системой счисления для представления чисел в компьютере является двоичная позиционная система счисления.

6. Системы счисления: алфавит, основание. Позиционные и непозиционные системы счисления.

Дата добавления: 2015-04-24