Меры информации

Для измерения информации вводятся два параметра: количество информации I и объем данных V_Д. Эти параметры имеют разные выражения и интерпретацию в зависимости от рассматриваемой формы адекватности.

Синтаксическая мера. Объем данных в сообщении определяется количеством символов (разрядов) в этом сообщении. Количество информации на этом уровне невозможно определить без понятия неопределенности состояния системы (энтропии системы).

Пусть до получения информации потребитель имеет некоторые предварительные (априорные) сведения a о системе. Мерой его неосведомленности является функция Н(a), которая в то же время служит и мерой неопределенности состояния системы. После получения некоторого сообщения b получатель приобрел некоторую дополнительную информацию I_b(a), уменьшившую его априорную неосведомленность. В результате апостериорная (после получения сообщения b) неопределенность состояния системы стала Н_b(a). Тогда количество информации I_b(a) о системе, полученной в сообщении b, определится как I_b(a) = Н(a) – Н_b(a), то есть количество информации измеряется изменением (уменьшением) неопределенности состояния системы. Если Н_b(a) = 0, то первоначальное неполное знание заменится полным знанием. Таким образом, энтропия системы Н(a) может рассматриваться как мера недостающей информации и при N возможных состояний системы, согласно формуле Шеннона,

Н(a) = – ,

где Р_i – вероятность того, что система находится в i-м состоянии.

Коэффициент (степень) информативности (лаконичность) сообщения определяется отношением количества информации к объему данных: Y = I/V_Д, причем 0<Y<1.

Семантическая мера. Наибольшее признание получила тезаурусная мера, связывающая семантические свойства информации со способностью пользователя принимать поступившее сообщение. Тезаурус – это совокупность сведений, которыми располагает пользователь или система.

В зависимости от соотношений между смысловым содержанием информации S и тезаурусом пользователя S_p изменяется количество семантической информации I_C, воспринимаемой пользователем и включаемой им в свой тезаурус. Очевидно, что I_C = 0 в двух случаях:

- при S_p» 0 пользователь не воспринимает, не понимает поступающую информацию;

- при S_p ® ¥ пользователь все знает, и поступающая информация ему не нужна.

I_C = max при согласовании S с S_p, когда поступающая информация понятна пользователю и несет ему ранее неизвестные сведения.

Следовательно, I_C, количество новых знаний, получаемых пользователем, является величиной относительной, зависящей от степени компетентности пользователя. По этой причине мерой I_C может служить коэффициент содержательности С: С = I_C /V_Д.

Прагматическая мера. Также является величиной относительной, поскольку зависит от особенностей использования этой информации в той или иной системе. Ценность информации целесообразно измерять в тех же единицах (или близких к ним), в которых измеряется целевая функция (описание цели использования информации).

Дата добавления: 2014-12-27