Вопросы для проверки знаний

Единицы измерения и расчет объема информации

При статистическом подходе к количественной оценке информации в качестве единицы ее измерения принят один бит – величина информации, которая необходима для различения двух равновероятных сообщений (состояний).

На физическом уровне электронная память также состоит из элементарных ячеек, которые могут принимать два состояния, т.е. имеет битовую структуру. Однако для адресации памяти и оценки ее объема в современных компьютерах и алгоритмических языках применяют более крупную единицу измерения двоичной информации – байт, который равен восьми битам.

Выбор такой единицы обусловлен тем, что для представления в двоичной форме для наиболее распространенной текстовой информации вполне достаточно 2⁸=256 различных комбинаций, которые можно поместить в байте.

При оценке памяти больших размеров на практике используют следующие укрупненные производные единицы измерения количества двоичной информации:

1 Килобайт (Кбайт)=1024 байт=2¹⁰ байт,

1 Мегабайт (Мбайт)=1024 Кбайт=2²⁰ байт,

1 Гигабайт (Гбайт)=1024 Мбайт=2³⁰ байт,

1 Терабайт (Тбайт)=1024 Гбайт=2⁴⁰ байт.

Пример 7. Автоматическое устройство осуществило перекоди­ровку информационного сообщения на русском языке, первоначаль­но записанного в 16-битном коде Unicode, в 8-битную кодировку КОИ-8. При этом информационное сообщение уменьшилось на 480 бит. Какова длина сообщения в символах?

Решение. Обозначим искомую длину через n. При перекодировке длина сообщения уменьшилась на 8n бит=480 бит. Следовательно, n=480:8=60.

Ответ. 60.

Пример 8. Сколько мегабайт информации содержит сообщение объемом 2²⁵ бит?

Решение. Так как 1 Мбайт=2²⁰ байт = 2²⁰×8=2²³ бит, то в со­общении содержится 2²⁵:2²³ =2^25-23 = 2² = 4 Мбайт.

Ответ. 4.

1. Почему количество информации в сообщении удобнее оценивать не по степени увеличения знания об объекте, а по степени уменьшения неопределённости наших знаний о нём?

2. Как определяется единица измерения количества информации?

3. Почему в формуле Хартли за основание логарифма взято число 2?

4. При каком условии формула Шеннона переходит в формулу Хартли?

5. Что определяет термин "бит" в теории информации и в вычислительной технике?

6. Приведите примеры сообщений, информативность которых можно однозначно определить.

7. Приведите примеры сообщений, содержащих один (два, три) бит информации.

8. Можно ли применить формулу для информационного веса i =log₂m в том случае, когда символ сообщения может принимать три значения с вероятностями 1/4;1/4 и1/2?

Практические задания

1. Сколько существует различных двоичных последовательностей из 1) одного, 2) трех, 3) четырёх, 4) восьми символов?

2. Какое минимальное число бит необходимо, чтобы закодиро­вать равновероятные оценки: "неудовлетворительно", "удовлетво­рительно", "хорошо" и "отлично"?

3. Поезд с одинаковой вероятностью находится на одном из восьми путей. Сколько бит информации содержит сообщение о том, где находится поезд?

4. В соревновании участвуют 215 атлетов. Какое минимальное количество бит необходимо, чтобы закодировать номер каждого атлета?

5. Для передачи секретного сообщения используется код, состоящий из десятичных цифр. При этом все цифры кодируются одним и тем же (минимально возможным) количеством бит. Найти информационный объем (в битах) сообщения длиной в 150 цифр.

6. В велокроссе участвуют 119 спортсменов. Специальное устройство регистрирует прохождение каждым из участников проме­жуточного финиша, записывая его номер с использованием мини­мально возможного количества бит, одинакового для каждого спортсмена. Каков информационный объем сообщения, записанного устройством, после того как промежуточный финиш прошли 70 велосипедистов?

7. Сколько различных символов, закодированных байтами, содержится в сообщении:

1101001100011100110100110001110001010111?

8. Сообщение может содержать только три знака "-" и два знака "+". Определить количество информации в одном таком сообщении. Ответ дать в виде формулы.

9. Решить уравнение: 8^x (бит)=32 (Кбайт).

10. Решить систему уравнений:

2 ^{х +2}(бит)=8 ^{y -5} (Кбайт),

8^x (бит)=4 (Кбайт).

Дата добавления: 2014-01-20