Qr \ qe

1) 2) 3)

Qe

Qe qe

1) 2) 3)

X X

где число J (X) = - log p (x), называется количеством собственной информации (или просто собственной информацией) в сообщении x ÎX [ИК 101, с.18-19].

Ясно, что в таком понимании ни собственная информация сообщений ансамбля, ни его энтропия не зависят от реципиента информации, т.е. являются объективными характеристиками сообщения. Понятие информации отождествляется с понятием количества информации и, если следовать логике подхода, информация выступает атрибутом всей материи - несущественно, живой или неживой - как количественная характеристика, например (согласно В.М.Глушкову), неравномерности распределения материи и энергии в пространстве.

Известные натяжки такого подхода (в частности, отождествление информации с ее количеством), однако, не являются препятствиями в исследовании процессов передачи информации (точнее - сигналов) по каналам связи: верно, что картинка на экране телевизора, полученная на основе теории связи, может быть сколь угодно четкой. Но верно также и то, что если говорить о смысле, семантике отображенного на ней сообщения, то нет на земле двух людей, одинаково воспринимающих эту картинку. “Понятия "информация по смыслу" и "ценность информации" являются релятивными и, в отличие от понятия скалярной меры "количество информации", пригодной для любого восприятия, являются до некоторой степени менее универсальными..., так как для последнего не требуется введения каких-либо дополнительных ограничений или функций, кроме вероятностей”[ИК 60, с.247].

Релятивность понятия “информация по смыслу”, т.е. понятия семантической информации означает принципиальную неприменимость понятия собственной информации сообщения (в вышеприведенном смысле) в анализе тех информационных ситуаций, где существенен семантический аспект. Переход от рассмотрения сигналов к рассмотрению информации (в гораздо более полном, нежели шенноновском, смысле), от передачи сигналов - к информационному процессу (коммуникации) делает необходимым учет информационных характеристик как источника сообщения, так и его реципиента, предполагает принципиальную неустранимость семантического аспекта сообщения. Неприменимость понятия собственной информации как объективной характеристики сообщения, очевидно, не может не относиться и к производному от него понятию энтропии. Уже поэтому использование понятия энтропии в шенноновском содержании для характеристики информационных процессов семантической природы следует признать некорректным. (Своеобразной методологической лазейкой - впрочем достаточно широкой - могут служить ситуации, в которых семантический аспект выступает некоторым само собой разумеющимся фоном для теоретико-информационных построений. Например, ответ на вопрос ”на каком из 5 курсов учится студент?” с позиций теории информации снимает существующую неопределенность, но не касается средств описания понятий “учиться на таком-то курсе”, “студент” и т.д., хотя именно они несут конкретную семантическую нагрузку в данной информационной ситуации. Лишить подобные примеры такого “семантического фона” совершенно невозможно - иначе мы будем иметь дело с чистой математикой, не имеющей никакого отношения ни к чему “информационному”).

Логика движения семантической информации, очевидно, отличается от логики изменения количества информации по Шеннону. Так, в познавательной деятельности “информация может не только снимать неопределенность. Чаще оказывается обратное: полученное через информацию знание позволяет адресату увидеть новые возможности в старой ситуации и тем самым увеличить степень неопределенности и бремя лежащего на нем выбора” [ИК 56]. Процесс познания в целом, безусловно, отвечает именно такой схеме. Получение информации не только не уменьшает, но, как это происходит в сфере научного познания, расширяет емкость источника. Нетрудно видеть, что применение понятия энтропии здесь вряд ли может быть конструктивным.

Тем не менее, как будет показано ниже, это понятие может играть в семантической модели информации, вероятно, такую же ключевую роль, как и в теории связи.

Обратимся в этой связи к модели семантической информации, в основе которой лежит понятие тезауруса [ИК 99, ИК 100]. Основы этой модели, как известно, состоят в следующем. Знания предлагается рассматривать в виде совокупности смысловыражающих элементов и смысловых связей между ними - тезауруса. Информация есть то, что воздействуя на тезаурус, изменяет его. Отсутствие изменений в тезаурусе при получении сообщения означает отсутствие информации в сообщении - для данного реципиента. Зависимость информации, воспринимаемой получателем из сообщения, от априорной величины тезауруса имеет примерно такой вид, как представлено на рис.1 [ИК 49, с. 119]:

D cont (a)

1 2 3 cont (a)

Рис.1.

Приведенная зависимость, выражающая ключевую идею “тезаурусной“ модели коммуникации, позволяет отметить важное обстоятельство: предварительное увеличение запаса знаний в тезаурусе (операция расширения тезауруса) может не только уменьшать, но и увеличивать величину информации, извлекаемой из сообщения. Эта особенность модели семантической теории информации существенно отличает ее от классической теории информации, в которой увеличение априорной информации всегда уменьшает количество информации, извлекаемой из данного события. [ИК 60, с. 257].

Понятие тезауруса в приведенной модели семантической информации не определено строго (понятия “смысловыражающий элемент”, “смысл”, “изменение тезауруса” требуют уточнения, интерпретации, что составляет предмет специальных исследований; заметим, в частности, что понятие смысла, возможно, столь же необъятно, как и понятие информации), однако его введение позволяет:

- оперировать с новой единицей информации - понятием (смысловыражающим элементом, отношением) как элементом тезауруса;

- учитывать релятивность семантической информации как функцию объемов тезаурусов источника и реципиента.

Принятие единицы семантической информации - понятия - делает заманчивым повторение, теперь уже в рамках семантической модели информации, рассуждений, приводящих к понятию энтропии. В этой связи обращает на себя внимание внешнее сходство представленной на рис.1 кривой с графиком энтропии для двух зависимых случайных событий. Стоит ли за этой аналогией нечто большее, чем просто случайное совпадение?

Формально эта аналогия может иметь следующее объяснение. В статистической теории информации энтропия определяется для любого количества сигналов и учитывает вероятность их появления в сообщении. В семантической модели информации вероятность появления того или иного понятия в сообщении - достаточно важная характеристика процесса коммуникации, но принципиальное значение имеет другое: известно ли это понятие реципиенту информации, иными словами, содержится оно уже в его тезаурусе, или нет. По этому, основному для тезаурусной модели признаку множество понятий, составляющих сообщение, разбивается на два подмножества - известных и не известных реципиенту до коммуникации, и существенны именно вероятности появления понятий из этих подмножеств. Тогда коммуникация (в рамках семантической ее модели!) может рассматриваться как традиционный для теории информации опыт с двумя возможными исходами (появление известного или не известного реципиенту элемента), причем случайные события, соответствующие этим исходам - зависимы. Это означает, что сумма вероятностей их появления равна единице. Для этих событий может быть построен график их энтропии, внешний вид и содержательная интерпретация которого близки к содержательности графика на рис. 1.

Эту аналогию можно интерпретировать следующим образом. До коммуникации существует некоторое характерное именно для данной пары “источник - реципиент” соотношение известных и не известных реципиенту элементов источника. Математическим ожиданием этой вероятности и является энтропия. Энтропия максимальна при равновероятности появления известных или неизвестных элементов. Заметим, что приведенные выше рассуждения пока оставляют ее лишь формальной характеристикой тезаурусной модели коммуникации

Сопоставим теперь этот результат с зависимостью эффективности коммуникации от соотношения тезаурусов источника и реципиента. На эмпирическом уровне эта зависимость описывается так: “максимальное количество информации извлекается приемником при некоторой средней величине его тезауруса относительно данного сообщения”.

Воспользовавшись тем, что в тезаурусной модели коммуникации фигурирует единица информации (“элемент” тезауруса - понятие), можно сделать шаг к формализации этой зависимости, характеризуя относительную “величину” тезаурусов, их “объем” вероятностями появления в них тех или иных элементов (понятий).

Прежде чем перейти к формальным рассуждениям, сделаем несколько замечаний, касающихся содержательности самого понятия тезауруса. Прежде всего заметим, что полная формализация этого понятия невозможна априори. Поэтому применяя его в рассуждениях приходится согласиться с рядом допущений, в частности:

- понятие тезауруса трактуется в максимально широком смысле (совпадающем с понятием абстрактного тезауруса по Ю.А.Шрейдеру); различия, как например, отмеченные Ю.И.Шемакиным [ИК 102, с. 5-7 ] несовпадения толкований тезауруса в “плане содержания” и в “плане выражения” - не принимаются во внимание;

- нам известно, что такое “понятие” как элемент тезауруса;

- нам известно, как воздействует элемент сообщения на тезаурус реципиента, “воспринимается”, “понимается” им или неизвестность непринципиальна;

- понятия рассматриваются как дискретные “единицы информации”, т.е. они усваиваются “целиком” и “сразу”, их размытость и неоднозначность не принимаются во внимание.

Список подобных допущений может быть существенно расширен. Их количество и серьезность, казалось бы, ставят под сомнение характеристику “семантическая” применительно к тезаурусной модели информации - ее спасает содержательность слова “понятие”, посредством которого человек привязан ко всему миру и своей эволюции, Понятие - семантическая единица - носитель смысла, и если допустить, что смысл уже “упакован” в понятия, то появляется возможность далее выполнять над ними какие-то действия: “доставлять” их реципиенту, который будет их “воспринимать”, “усваивать”, “понимать”, - можно, наконец, применять к ним количественные оценки.

Перейдем теперь к анализу тезаурусной модели коммуникации в ее теоретико-множественной интерпретации. Рассмотрим тезаурусы источника и реципиента как множества вида:

q = {ai}, ai Î D È R,

где D ={d m }, - множество смысловыражающих элементов;

R ={ r n }, - множество смысловых отношений;

Множество ai ={d m }È{ r n } будем называть множеством элементов тезауруса.

В дальнейшем анализе будем исходить из следующих положений:

1. Коммуникация есть процесс взаимодействия двух тезаурусов: источника информации qe и реципиента qr.

2. Результатом коммуникации является изменение тезауруса реципиента qr.

3. Взаимодействие тезаурусов происходит в форме последовательного или одновременного воздействия на тезаурус qr элементов тезауруса источника qe. Появление элемента ai Î qe, ai Î qr (назовем такой элемент "известным" реципиенту), т. е. элемента ai Î {qe}Ç{qr}, не вызывает изменений в qr, следовательно, не несет ему информации. Появление же элемента ai Î qe, ai Ï qr, (т. е. элемента, "неизвестного" реципиенту) наоборот, вызывает в qr определенные изменения, следовательно, несет ему информацию.

4. Неизвестный элемент может быть воспринят тезаурусом реципиента лишь в сочетании с как минимум одним элементом, известным реципиенту. Если предположить, что тезаурус реципиента способен воспринимать неизвестные элементы без "участия" известных, то приходится согласиться с тем, что реципиент способен воспринимать сообщения, состоящие целиком из неизвестных элементов, что, очевидно, не соответствует действительности. До сих пор в исследованиях тезаурусной модели коммуникации этот момент оставался в тени, а именно он является, на наш взгляд, очень важным для понимания модели. Действительно, известная часть сообщения играет в коммуникации отнюдь не пассивную роль, не является балластом: только при ее участии может быть воспринято то новое, что есть в сообщении.

Элемент, появление которого перед qr вызывает в нем изменения, будем в дальнейшем называть элементом, информативным по отношению к qr.

В рассматриваемой модели коммуникации выделяются три возможные исходные ситуации:

1. qe Ç qr = Æ; " ai Î qe ½ ai Ï qr;

2. qe Ç qr ¹ Æ; $ ai Î qe ½ ai Î qr;

3. qe Í qr; " ai Î qe ½ ai Î qr.

В первом случае коммуникация невозможна (источник и реципиент информации не располагают общими для них понятиями), в третьем - бессмысленна (информация источника уже имеется у реципиента). Полезная коммуникация соответствует второй из перечисленных ситуаций, когда тезаурусы источника и реципиента пересекаются (Рис. 2).

qr qr qr

Рис. 2

Возможным способом измерения эффективности коммуникации является степень изменения тезауруса реципиента при получении некоторого сообщения.

Обозначим через событие А появление элемента, известного реципиенту до коммуникации; через событие , соответственно, появление элемента, нового для реципиента. Тогда вероятности появления в процессе коммуникации известных и новых для реципиента элементов определяется соответственно:

½ qe Ç qr ½

P (A) = ¾¾¾¾;

½ qe ½

P ( ) = 1 - P (A).

Заметим теперь, что при 0 < P (A) £ 0,5 и в силу положения 4 результат коммуникации определяется числом известных реципиенту элементов (т.е. тем, с помощью чего можно воспринять новое), поскольку для ввода нового элемента в тезаурус qr требуется появление также по крайней мере одного известного ему элемента, и, следовательно, общее число воспринятых qr новых элементов сообщения не превышает числа содержащихся в нем известных (Рис. 3, 1). При 0,5 £ Р(А) < 1 результат коммуникации определяется уже непосредственно числом не известных реципиенту элементов, т.е, тем новым, что воспринимается (Рис. 3, 3).

Иными словами, при высокой вероятности появления нового элемента в сообщении эффективность коммуникации, т.е. объем новой информации, которая может быть усвоена, определяется тем, что в сообщении уже было известно реципиенту до получения сообщения - пересечением тезаурусов реципиента и сообщения. При высокой вероятности появления известного элемента эффективность коммуникации определяется тем, что есть нового в сообщении, - разностью тезаурусов реципиента и сообщения.

Таким образом, степень изменения тезауруса реципиента (количество воспринятых им новых элементов) может характеризоваться вероятностью появления известных (неизвестных) элементов.

qr qr qr

qe qe qe

qe Ç qr

Рис. 3.

Отсюда можно записать:

ì f (p), 0 < p £ 1/2;

Dqr = í

î f (1-p), 1/2 £ p < 1;

где p = P(А);

Dqr - степень изменения тезауруса реципиента - вероятностная функция, характеризующая априорную эффективность коммуникации.

Для определения этой функции можно воспользоваться уже упомянутым выше аппаратом классической теории информации.

Рассмотрим дискретный ансамбль Х событий А и- появления в сообщении известного и нового для реципиента элемента, соответственно. Количествособственнойинформации этих событий (сообщений) J(А), J( . ) составит соответственно:

J(А) = - log p;

J( ) = - log(1-p), (1.1)

где p = P(A)

Искомой мерой априорной эффективности коммуникации Dqr тогда удобно считать математическое ожидание изменения тезауруса реципиента под воздействием сообщения.

С учетом (1.1) можно записать:

ì H(p) = p log + (1-p)log, 0 < p £ 1/2;

Dqr = H(X) = í

î H(1-p) = (1-p)log + p log, 1/2 £ p < 1.

Обращая внимание на то, что H(p) = H(1-p), получаем:

Dqr = H(X) = H(p) = p log + (1-p)log, (1.2)

где p = P(A)

Функция Dqr, представляющая собой энтропию ансамбля событий А и , является априорной характеристикой эффективности коммуникации. Заметим, что энтропия ансамбля в данном случае является функцией одного переменного, и поэтому эффективность коммуникации зависит только от вероятности появления известных (или неизвестных) элементов в сообщении.

Итак, количество семантической информации может определяться долей “новых” для реципиента элементов тезауруса сообщения, в пределе - вероятностью p (x), с которой встречаются в сообщении эти элементы. Энтропия H(X) представляет собой математическое ожидание изменения тезауруса реципиента под воздействием сообщения - количества потенциально воспринимаемой информации. Именно в таком понимании энтропия характеризует эффективность коммуникации - степень изменения тезауруса под воздействием сообщения - и соответствует как по характеру зависимости, так и по ее содержательной интерпретации графику на рис. 1.

Энтропия H(X) определяется сообщением вероятности события А (или несовместного с ним события ). Тем самым однозначно определяется и ожидаемая при данных условиях степень изменения тезауруса реципиента. Следовательно, определяется и количество семантической информации, извлекаемой реципиентом в этом случае из сообщения.

Действительно, если увеличивается, например, вероятность появления в сообщении новых элементов, одновременно уменьшается вероятность их восприятия (это может произойти только в комбинации с известным, а вероятность их появления становится меньше)

Как известно, в классической теории информации понятие информации связано со снятием неопределенности, которая существовала до сообщения. И чем большая неопределенность была до передачи сообщения, тем большее количество информации содержится в принятом сообщении [ИК 103, с.21]. Заметим, что неопределенность в теории информации касается вероятности того или иного исхода опыта, в рассмотренном случае - одного из двух возможных исходов: появления известного или не известного реципиенту элемента сообщения. Здесь обнаруживаются "точки соприкосновения" семантической концепции информации информации и классической теории информации: коммуникация на содержательном уровне описывается тезаурусной моделью, а средствами теории информации характеризуются условия ее протекания. Например, из того, что энтропия максимальна при Р(A) = 1/2, следует, что наибольшая эффективность коммуникации достигается в случае, если половину элементов сообщения (но не половину наименований элементов) составляют элементы, известные реципиенту. Именно такое сообщение будет с позиций семантической модели информации наиболее информативным. Последнее можно утверждать лишь в рамках рассмотренной идеальной модели, основанной на сильном допущении о возможности восприятия нового элемента при посредстве лишь одного известного. Смысл рассуждений, однако, не меняется с вводом в модель данных о действительном соотношении известных и новых для реципиента элементов в некоторой реальной коммуникации.

Приведенный анализ обобщенной модели коммуникации подтверждает вывод о том, что существует оптимальное с точки зрения эффективности коммуникации соотношение известных и неизвестных реципиенту элементов в сообщении. На наш взгляд, можно принять и следующее: математическим выражением зависимости, на которую указал Ю.А.Шрейдер (рис. 1), может служить энтропия ансамбля из двух событий - появления известных и неизвестных элементов в тезаурусной модели коммуникации.

Принятие этого допущения влечет за собой заманчивые следствия. Так например, в классической теории информации энтропия синонимична неопределенности, существующей до опыта, которая “снимается” этим последующим опытом (сообщением). Тем самым энтропия противопоставляется информации - “негэнтропии”, и информационный процесс приобретает направленность, противоположную энтропии. В рассмотренной модели для такого противопоставления нет оснований - энтропия непосредственно является мерой информативности, негэнтропия здесь просто “не востребована”. Наиболее информативная коммуникация - это именно коммуникация с максимальной энтропией (но не ”устраняющая” максимальную энтропию!). То есть, энтропия в семантической модели коммуникации играет роль, в определенном смысле противоположную ее роли в классической теории информации. Это следствие представляется достаточно важным для понимания процессов, основанных на информационном взаимодействии: самоорганизации, эволюции живой материи, обучении и т.д.

4. Типологія, загальні властивості інформації та закономірності розповсюдження інформації. (2 год.)

1. Понятие научной информации.

Определение понятия "научная информация" как объекта исследования информатики было более двадцати лет назад сформулировано А.И.Михайловым, А.И.Черным и Р.С. Гиляревским и ими же уточнено в дальнейшем:

"Научная информация - это получаемая в процессе познания логическая информация, которая адекватно отображает явления и законы природы, общества и мышления и используется в общественно-исторической практике"

Эта формулировка содержит признаки, необходимые и достаточные для определения понятия научной информации.

Область человеческого познания охватывает практику: и материальное производство, и науку, и деятельность людей по преобразованию общества. Таким образом, источником научной информации служит вся практика, а не только научно-исследовательская деятельность [ИК 83, с.54].

Научной информацией является далеко не всякая информация, полученная в процессе внешнего мира и духовной деятельности людей. Информация становится научной лишь тогда, когда она подвергнута обработке абстрактно-логическим мышлением и облечена в языковую форму. Это отличает ее от эстетической информации, например.

Адекватность отображения научной информацией реального мира означает, что она должна быть пригодной для того, чтобы поднимать выше уровень, достигнутый человеческим знанием. Человек только тогда может создать истинную научную информацию, когда он овладел современным ему уровнем знаний.

Связь научной информации с общественно-исторической практикой означает постоянную проверку ее истинности и препятствует отнесению к научной информации общеизвестных или устаревших положений, с одной стороны, и фактически - с другой.

Формальная структура научной информации имеет иерархический характер, на ее нижних ступенях находятся буквы, предложения и т.д., а на высшей ступени - научная литература, которая является специфическим социальным явлением, входящим в сферу научной коммуникации [ИК 83, с.55].

2. Свойства научной информации.

Научная информация характеризуется рядом следующих свойств, которые прежде всего указывают на ее принадлежность к социальной и семантической информации, а затем и ее специфичность:

- всегда закреплена на каком-либо материальном носителе;

- в целом не обладает свойствами аддитивности, коммутативности и ассоциативности. К элементам научного сообщения нельзя применить простые алгебраические правила;

- обладает ценностью для ее получателя. Эта ценность связана с той целью, которую получатель хочет достичь при помощи информации или которую эта информация заново ставит. Представление о цели информации связывает ее с процессами (например, кибернетическими) в живой природе и означает, что в неживой природе научная информация не существует;

- имеет общественную природу. Об этом свидетельствуют все процессы научной коммуникации - от простого диалога между учеными до взаимодействия отдельного человека со всеми накопленными человечеством знаниями;

- имеет семантический характер, она связана с понятиями, смыслом, значением. Это означает, что научная информация является языковой связью только между людьми;

- имеет языковую природу. Она приобретает смысл, семантическое содержание только в результате абстрактно-логического мышления, которое невозможно вне естественного языка;

- независима в своем содержании от языка, на котором она выражена, и от вида физического носителя, на котором она закреплена. Эта инвариантность научной информации не только является фундаментальной предпосылкой научного обмена в человеческом обществе и многообразия ее материальных воплощений, но и отличает научную информацию от эстетической;

- обладает свойством дискретности, которое происходит от дискретности языковых знаков, при помощи которых она образована, а также от "прерывности" временных моментов, в которые происходит отчуждение "квантов" информации, возникающих в процессе мыслительных актов и их письменного закрепления в научных произведениях;

- обладает свойством кумулятивности. Каждый научный работник может и должен делать приращения к современному зданию науки, построенному усилиями предшествующих поколений;

- независима от ее творцов. В этом она также отлична от информации эстетической;

- стареет специфическим образом, не так, как другие виды информации;

- подвергает рассеянию по научным изданиям и произведениям. Это ее свойство тесно связано с процессами дифференциации и интеграции в науке.

Никак нельзя считать, что это перечисление является полным или что нельзя вывести одни свойства из других. Многие свойства научной информации, например, старение и рассеяние, продолжают до сих пор интенсивно изучаться в информатике. Первые результаты уже применяются в практике научно-информационной деятельности [ИК 83, с.55-56].

ЛИТЕРАТУРА

ИК 83. Бониц М. Научное исследование и научная информация. - М.: Наука, 1987. - 160 с.

5. Поняття інформаційної взаємодії та її типологія. (2 год.)

В последние годы, наряду с традиционными направлениями исследований информационных процессов в технических системах (телекоммуникационные системы, компьютерные сети и т.д.), развиваются исследования информационных процессов в живой природе и обществе. В связи с этим возникает вопрос об уточнении (расширении) традиционных понятий "информация" и "информационное взаимодействие".

Хотя эти понятия сегодня привычно связываются с техническими системами, следует помнить, что такие системы создавались для реализации функций живых организмов и всегда в той или иной мере моделировали их организацию, поведение и т.д.

Значимость подобных исследований постоянно возрастает и накопленный потенциал требует создания целостной системы описания ранее разделенных в научном сознании предметов и процессов, т.е. научного синтеза в этой области знаний.

Результатом этого подхода может быть разработка научных представлений об информационном взаимодействии объектов различной природы, т.е. по существу формирование нового направления науки - информатики взаимодействия [Д116].

...

Дата добавления: 2014-01-07