Информация как характеристика разнообразия системы (подход Уильям Росс Эшби)

Энтропийный (вероятностный) подход.

Три определения понятия информации и методы измерения количества информации

Данный подход является исторически первым и получившим, пожалуй, наиболее широкое распространение, вследствие своей ярко выраженной практической направленности.

В 1948 г. К. Шеннон опубликовал работу «Математическая теория связи», где изложил математические принципы кодирования и передачи информации, а также предложил метод объективного измерения количества информации. Теория, развитая на основе работы Клод Шеннона, получила название энтропийного подхода.

Название «энтропийный подход» является не вполне удачным, поскольку в науке понятие энтропии используется для характеристики степени неупорядоченности некоторой системы или процесса, то есть для обозначения их хаотических свойств.

В то же время информация, наоборот, характеризует степень упорядоченности, организованности сложных систем и процессов, то есть те свойства реальных объектов и процессов, которые являются прямо противоположными понятию энтропии.

Именно поэтому в «энтропийном подходе» количество информации оценивается при помощи отрицательной энтропии. И это обоснованно: чем больше в системе информации, т.е. чем более сложной и организованной она является, тем меньше в ней хаоса.

В настоящее время выдвинута гипотеза о том, что в природе существует достаточно общий закон сохранения неопределенности, который тесным образом связан с противоположными понятиями энтропии (хаоса) и информации (порядка и организованности). Так что исследования в рамках «энтропийного подхода» далеко не закончены.

На основе энтропийного подхода сейчас разработано большинство прикладных теорий информатики: теория кодирования и передачи информации.

Понятие «разнообразие состояния». С ним мы сталкиваемся довольно часто, например, когда мы приходим в магазин и нам предлагают более чем 2 вещи. Разнообразие измеряется в логарифмической шкале, где N – число состояний:

Существует также понятие «необходимое разнообразие в системах». Автор – У. Эшби. Оно звучит так: «Для управляемой системы требуется, чтобы разнообразие управляющей системы было не меньше разнообразия управляемой системы», т.е. например набор наших стратегий поведения или реализация каких-либо задач не должен быть меньше, чем у человека, которым мы управляем, или который нами управляет.

Рассмотрим этот подход поподробнее, поскольку он не получил широкого распространения (вследствие трудности оценки «разнообразия»), и мы к нему больше возвращаться не будем.

Одной из важнейших характеристик систем является степень присущего им разнообразия. Классический пример применения этой характеристики к сфере управления дал У.Эшби в известной формуле: «Только разнообразие может уничтожить разнообразие». Для того чтобы субъект (в рассуждениях У.Эшби – игрок) имел возможность адекватно реагировать на все «ходы» объекта (партнера по игре), направить игру в желаемое для него русло, он должен иметь в своем арсенале не меньший запас вариантов собственного хода. Иными словами, управление может быть эффективным лишь при условии, что управляющая подсистема по степени разнообразия превосходит управляемую.

Принцип необходимого разнообразия не часто используется при анализе и в практике управления общественными системами. Возможно, это связано с недостаточно конструктивным содержанием понятия «разнообразие», заложенного в него самим У.Эшби  как число различимых элементов N (или log₂N).

В этом случае, во-первых, разнообразие предстает как характеристика субъективная. По мере познания объекта число N растет, и возникает парадокс №1: чем больше субъект управления выявляет элементов объекта, тем менее эффективно он может им управлять. Правда, устанавливая законы их поведения, субъект «занимается поисками ограничения разнообразий», так как своими успехами он уменьшает число вариантов ожидаемого поведения объекта.

Во-вторых, такое определение разнообразия не устанавливает различия между однородными и разнородными элементами, чем порождается парадокс №2: однородный газ, N молекул которого хаотически движутся в замкнутом объеме, по степени разнообразия, а значит, и по управляемости, не отличается системы из N различных элементов упорядоченной конструкции. При таком понимании разнообразия его конструктивное применение при анализе управления вряд ли возможно.
Другое дело, если наполнить это понятие более естественным смыслом. Во-первых, рассматривать его как отражение объективной характеристики реальной системы, а во-вторых, принять во внимание не общее количество элементов, а число различных элементов и их взаимосвязей.В такой трактовке понятие разнообразия становится конструктивным инструментом анализа систем управления.

3). Алгоритмический подход к оценке количества информации (Андрей Николаевич Колмогоров)
Данный подход строится на строго математическом определении понятия «алгоритм». Будет рассмотрен позднее, поэтому только упомянем его здесь для полноты.

Дата добавления: 2013-12-13