Семантическая мера информации

Синтаксическая мера информации.

Информация, рассматриваемая только с синтаксических позиций, часто называется – данными. Объем данных в сообщении измеряется количеством символов (разрядов) принятого алфавита в этом сообщении.

Часто информация кодируется числовым кодом, в той или иной сис­теме счисления, (двоичной -… шестнадцатеричной…). Единица измерения в двоичной системе – бит (двоичный разряд) – минимальная единица данных в современной компьютерной технике. В десятичной – дит (десятичный раз­ряд), укрупненная единица байт = 8 битам.

Например: Сообщение в двоичной системе 10111011 – имеет объем данных V_g = 8 битов или 1байт. Сообщение 275903 – в десятичной системе имеет объем данных V_g = 6 дитов.

Определение количества информации на синтаксическом уровне не воз­можно без рассмотрения понятия «Неопределенности состояния (энтро­пии) системы». Получение информации связано с изменением степени неосведомленно­сти получателя о состоянии системы. До получения информации – получатель мог иметь некоторую информа­цию (предварительную) или вообще ее не иметь. Если предваритель­ные сведения обозначить как a, а меру неосведомленности о сис­теме – Н(a), то после получения некоторого сообщения b получатель приобре­тает дополнительную информацию I_{b (a)}, - уменьшающую его началь­ную неосведомленность. После получения информации неосведомлен­ность станет H(a/b). Тогда количество информации I_{b (a)} о системе a, полученное в сообщении b, можно определить как:

I_{b (a)} = Н(a) - H(a/b)

Если конечная неосведомленность H(a/b) обращается в ноль, то первона­чальное неполное знание заменяется полным и количество информа­ции станет равным

I_{b (a)} = Н(a)

Иными словами энтропия системы (неопределенность состояния сис­темы) может рассматриваться как мера недостающее информации.

Синтаксические меры количества информации не могут быть непосредст­венно использованы для измерения смыслового содержания информа­ции ибо имеют дело с обезличенной информацией, не выражающей смыслового отношения к объекту.

Для измерения смыслового содержания информации используют Тезаурус­ную меру, которая связывает семантические свойства информации со способностью пользователя воспринимать поступившее сообщение.

Тезаурус – часто трактуется как совокупность сведений, которыми распола­гает данная система – пользователь.

В зависимости от соотношений между смысловым содержанием информа­ции – и тезаурусом пользователя – S_n, изменяется количество семантиче­ской информации – I_c – воспринимаемой пользователем и включае­мой им в дальнейшем в свой тезаурус. При S_n ≈ 0 – пользователь не восприни­мает информацию, не понимает ее. При S_n → ∞ - пользователь все знает, поступающая информация ему не нужна.

В обоих случаях I_c ≈ 0, максимальное значение I_c имеет место при согласо­вании S^* с тезаурусом S_n (S^* ≈ > S_n), когда поступающая информация понятна пользователю и несет ему ранее неизвестные сведения (которых нет в его тезаурусе).

Количество соматической информации в сообщении – величина относи­тельная. Одно и то же сообщение может быть содержательным для компе­тентного пользователя и бессмысленным (непонятным) – семантиче­ским шумом – для некомпетентного пользователя. Другой случай - понятная, но известная компетентному пользователю информация тоже для него будет семантическим шумом. Следовательно: при разработке информационного обеспечения СМК следует стремиться к согласованию величин S^* и S_n так, чтобы циркулирующая в системе информация была понятна, доступна для восприятия и обладала наибольшей содержательностью.

Дата добавления: 2014-11-29