Свойства информации. Определение и измерение информации

Определение и измерение информации

Информация

Информация – сведения о лицах, предметах, фактах, явлениях и процессах, независимо от формы их представления, причем такие сведения, которые уменьшают степень имеющейся неопределенности или неполноты знаний.

Таким образом, информация - это сведения, расширяющие и углубляющие наши знания.

Формулировка информации как сведений, которые уменьшают неопределенность или неполноту знаний имеет мировоззренческое значение. Однако возникает проблема субъективности измерения информации, т.к. ее величина как бы связана с неким субъектом, у которого надо измерять снижение неопределенности сведений и пополнение знаний.

Эта проблема в точных науках снимается конкретизацией исходной постановки задачи. Например, в теории информации для решения задач анализа пропускной способности канала, разработки способов повышения скорости и помехоустойчивости сообщений в 1946 г. американским ученым К.Шенноном было предложено в качестве меры информации о событии Х, имеющего вероятность Р, принять величину Н(X):

Н(X) = log_a(1/P) = - log_a P(X) 1.1

Величина Н(X) получила название энтропии события Х.

Основание логарифма ‘а’ может быть любым. Чаще всего принимают а = 2. Тогда количество информации выражают в двоичных единицах - битах. А при а = е или а = 10 эти единицы, например, носят название соответственно нит и дит.

Пример. Отгадывание числа из возможного их М количества.

Так как в этом случае Р=1/М, то по формуле (1.1) для отгадывания достаточно задать только

Н = log₂M

вопросов. И, наоборот, с помощью Н вопросов можно отгадать число из возможных их М значений, где М определяется по формуле:

М = е^Н 1.2

Например, чтобы отгадать загаданное положительное число, не превышающее 128, достаточно задать 7 вопросов.

Энтропия как мера информации имеет недостатки. Например, она не характеризует и не измеряет «смысл» принимаемых сигналов. Эту меру иногда называют синтаксической мерой информации.

Имеются и другие подходы к измерению информации.

К базовым свойствам информации относятся

- запоминаемость,

- передаваемость,

- преобразуемость (способность менять форму своего существования).

Реализуются эти свойства посредством материального носителя – чаще всего бумажного или магнитного носителя, электрического или электромагнитного сигнала, - на котором тем или иным способом записываются признаки, которые носят название - данные.

В качестве прагматических свойств информации можно отметить следующие. Она:

- имеет ценность, определяемую ее полезностью для владельца,

- имеет стоимость, определяемую затратами на ее получение,

- может быть предметом собственности,

- может быть предметом защиты от доступа к ней посторонних лиц.

Дата добавления: 2014-01-06