Измерение информации. Энтропия

Семиотика и ее разделы

Информационное взаимодействие между системами осуществляет­ся посредством сигналов — физических процессов, переносящих ин­формацию, которая чаще всего представлена в виде символов, знаков или звуков. С их помощью одна система воздействует на другую. На­ука о знаках и знаковых системах в природе и обществе называется семиотикой. Она рассматривает различные аспекты информационно­го взаимодействия систем и состоит из трех частей — синтактики, семантики и прагматики.

Синтактика изучает структуру знаков и отношений между ними с точки зрения синтаксиса независимо от того, что они отражают и кам воспринимаются адресатом. Синтактический анализ — обработка текста на естественном языке, цель которой заключается в получении синтактического представления текста, в частности его синтаксической структуры.

Семантика исследует содержательные отношения между знаками и обозначаемыми ими объектами, общие закономерности построения любых знаковых систем, рассматриваемых в синтактике. Различают се­мантику логическую и структурную. Логическая семантика изучает знаковые системы как средства выражения смысла, установление за­висимости между структурой знакосочетаний и их выразительными возможностями. Структурная семантика — раздел структурной линг­вистики, посвященный описанию смысла языковых выражений и опе­раций над ним.

Семантический анализ — это совокупность операций, служащих для представления смысла текста на естественном языке в виде запи­си на некотором формализованном семантическом (смысловом) язы­ке. Такой анализ моделирует процесс понимания текста человеком.

Прагматика изучает восприятие осмысленных выражений знако­вой системы в соответствии с разрешающими способностями воспри­нимающего. Теоретическая прагматика рассматривает некоторые гипо­тезы о свойствах и строении интеллекта, которые формулируются на основе данных нейрофизиологии, экспериментальной психологии, бионики, теории персептронов и т.д. Прикладная прагматика включает в себя исследования, связанные с эмпирическим анализом понимания людьми различных языковых выражений, изучением ритмики и сти­хосложения, а также разработкой информационно-поисковых систем. Таким образом, выделяются три уровня рассмотрения любого инфор­мационного сообщения, т.е. три уровня абстрагирования от особеннос­тей конкретных актов обмена информацией. На прагматическом уровне для выявления полезности информации рассматривают все элемен­ты информационного обмена. На семантическом уровне конечной целью изучения является смысловое значение сообщения, его адекватность описываемым объектам независимо от получателя информации. Наибо­лее узким является синтактический уровень, так как представляет изу­чение только самих знаков и соотношений между ними.

Перечисленные выше характеристики и утверждения об информа­ции носят качественный характер, а для того чтобы перейти на прин­ципиально другой уровень и иметь возможность количественно изме­рять информацию, необходимы строгие математические подходы. За­рождение соответствующей науки, названной теорией информации, относят к 1948 г., когда была опубликована «Математическая теория связи» К. Шеннона, и в последствии она получила свое более широкое развитие.

В обыденной жизни под информацией понимается все, чем могут быть пополнены наши знания, соответственно и в науке за объем ин­формации приняли меру устранения неопределенности знания у полу­чателя сообщения о каком-либо событии. Последним считают, в част­ности, любое изменение состояние системы, а под сообщением пони­мают информационное отображение события, его закодированный эквивалент.

Таким образом, в основе теории информации лежит мера неопреде­ленности событий, которые происходят или будут происходить. Поэто­му изучение свойств неопределенности и нахождение ее количествен­ных характеристик является исходным этапом в теории информации. В то же время можно отметить, что события с неопределенным исхо­дом или случайные события являются предметом изучения теории вероятностей, которая вследствие этого является базой теории инфор­мации.

Дата добавления: 2013-12-11