I принимает значения от 1 до N

N - количество возможных событий

Например, определим количество информации, получаемое при реализации одного из событий, если бросают
несимметричную четырехгранную пирамидку;
Вероятность отдельных событий будет такова:
р₁ = 1 / 2,
р₂ = 1 / 4,
р₃ = 1 / 8,
р₄ = 1 / 8,
тогда количество информации, получаемой после реализации одного из этих событий, рассчитывается по формуле:
I = -(1 / 2 log₂ 1/2 + 1 / 4 log₂ 1/4 + 1 / 8 log₂ 1/8 + 1 / 8 log₂ 1/8) = 1 / 2 + 2 / 4 + + 3 / 8 + 3 / 8 = 14/8 = 1,75 (бит).

Формулу Хартли теперь можно рассматривать как частный случай формулы Шеннона. При равновероятных событиях получаемое количество информации максимально.

При передаче и хранении информации с помощью различных технических устройств информацию следует рассматривать как последовательность знаков (цифр, букв, кодов цветов точек изображения), не рассматривая ее содержание.

Считая, что алфавит (набор символов знаковой системы) - это событие, то появление одного из символов в сообщении можно рассматривать как одно из состояний события. Если появление символов равновероятно, то можно рассчитать, сколько бит информации несет каждый символ. Информационная емкость знаков определяется их количеством в алфавите. Чем из большего количества символов состоит алфавит, тем большее количество информации несет один знак. Полное число символов алфавита принято называть мощностью алфавита.

Информационный вес одного символа - это значение i из формулы Хартли.

Рассмотрим алфавит, состоящий из двух знаков 0 и 1. Если считать, что со знаками 0 и 1 в двоичном алфавите связаны одинаковые вероятности их появления (P(0)=P(1)= 0.5), то количество информации на один знак при двоичном кодировании будет равно I = log₂ 2 = 1 бит.

Таким образом, количество информации (в битах), заключенное в двоичном слове, равно числу двоичных знаков в нем.

Отсюда можно сделать вывод, что не существует алфавита, состоящего из одного символа, поскольку тогда информационный вес этого символа был бы равен 0.

Если 256 символьным алфавитом записано сообщение из 5 символов, то объем сообщения - 40 бит.
Мощность алфавита - 256. Это неопределенность. Значит один символ занимает в памяти 8 бит, тогда 5 символов занимают в памяти 40 бит

1.2.4. Единицы измерения количества информации

Компьютерный алфавите», включающем следующие символы: строчные и прописные русские и латинские буквы, цифры, знаки препинания, знаки арифметических операций, скобки и др. Такой алфавит содержит 256 символов. Поскольку 256 = 28, информационный вес каждого символа этого алфавита равен 8 битам. Величина, равная восьми битам, называется байтом.

1 байт — информационный вес символа алфавита мощностью 256.
1 байт= 8 битов
Бит и байт — «мелкие» единицы измерения. На практике для измерения информационных объёмов используются более крупные единицы:
1 килобайт = 1 Кб = 1024 байта = 2¹⁰ байтов
1 мегабайт = 1 Мб = 1024 Кб = 2¹⁰ Кб = 2²⁰ байтов
1 гигабайт = 1 Гб = 1024 Мб = 2¹⁰ Мб = 2²⁰ Кб = 2³⁰ байтов
1 терабайт = 1 Тб = 1024 Гб = 2¹⁰ Гб = 2²⁰ Мб = 2³⁰ Кб = 2⁴⁰ байтов

Дата добавления: 2017-02-01