Лекция №1. Количеством информации называют числовую характеристику сигнала, отражающую ту степень неопределенности (неполноту знаний)

Количеством информации называют числовую характеристику сигнала, отражающую ту степень неопределенности (неполноту знаний), которая исчезает после получения сообщения в виде данного сигнала. Эту меру неопределенности в теории информации называютэнтропией.

Если в результате получения сообщения достигается полная ясность в каком-то вопросе, говорят, что была получена полная или исчерпывающая информация и необходимости в получении дополнительной информации нет. И, наоборот, если после получения сообщения неопределенность осталась прежней, значит, информации получено не было (нулевая информация).

Приведенные рассуждения показывают, что между понятиями информация, неопределенность и возможность выбора существует тесная связь. Так, любая неопределенность предполагает возможность выбора, а любая информация, уменьшая неопределенность, уменьшает и возможность выбора. При полной информации выбора нет. Частичная информация уменьшает число вариантов выбора, сокращая тем самым неопределенность.

Пример. Человек бросает монету и наблюдает, какой стороной она упадет. Обе стороны монеты равноправны, поэтому одинаково вероятно, что выпадет одна или другая сторона. Такой ситуации приписывается начальная неопределенность, характеризуемая двумя возможностями. После того, как монета упадет, достигается полная ясность и неопределенность исчезает (становится равной нулю).

Приведенный пример относится к группе событий, применительно к которым может быть поставлен вопрос типа «да – нет». Количество информации, которое можно получить при ответе на вопрос типа «да – нет», называется битом (англ. bit — сокращенное от binary digit — двоичная единица).

Бит – минимальная единица количества информации, ибо получить информацию меньшую, чем 1 бит, невозможно. При получении информации в 1 бит неопределенность уменьшается в 2 раза. Таким образом, каждое бросание монеты дает нам информацию в 1 бит.

Рассмотрим систему из двух электрических лампочек, которые независимо друг от друга могут быть включены или выключены. Для такой системы возможны следующие состояния:

Лампа А
Лампа В

Чтобы получить полную информацию о состоянии системы, необходимо задать два вопроса типа «да – нет» – по лампочке А и лампочке В соответственно. В этом случае количество информации, содержащейся в данной системе, определяется уже в 2 бита, а число возможных состояний системы – 4. Если взять три лампочки, то необходимо задать уже три вопроса и получить 3 бита информации. Количество состояний такой системы равно 8 и т. д.

Связь между количеством информации и числом состояний системы устанавливается формулой Хартли:

i=log₂N, где i — количество информации в битах; N – число возможных состояний. Ту же формулу можно представить иначе: N =2ⁱ.

Информационная революция

Для того чтобы показать, что это не преувеличение, и мы действительно вступаем в новую информационную эпоху, рассмотрим график, который показывает изменение со временем относительной доли занятых в трех основных секторах общественного производства: сельском хозяйстве, промышленности и нематериальной сфере управлении и обработки информации.

В эпоху средневековья основная часть населения была занята в аграрном секторе, промышленные мануфактуры были неразвиты, а сфера духовной жизни была представлена дворянством, немногочисленным чиновничеством и служителями церкви.

Новое время, отсчет которого традиционно ведется с английской буржуазной революции середины XVII века, характеризуется бурным ростом промышленного производства. Капиталистические преобразования и великие изобретения конца XVIII - начала XIX веков превратили Европу в царство заводов и фабрик, насыщенное железнодорожными линиями, оснащенное телеграфной и быстрой почтовой связью. Число занятых в промышленности стремительно возросло, сравнявшись в передовых странах с числом аграриев.

Точка пересечения соответствующих двух кривых вполне объективно может быть отождествлена с промышленной революцией, в результате которой человечество перешло от аграрной эпохи к индустриальной. Конечно, промышленная революция произошла не мгновенно и не одновременно в разных странах, однако в целом привязка ее к концу XVIII века не вызывает сомнений.

Результатом повсеместной индустриализации было резкое повышение производительности труда в сфере материального производства. Если в аграрную эпоху сельские жители с трудом могли прокормить себя, то к концу XX века в передовых странах 5-10% населения удовлетворяет потребность общества в продуктах питания. То же самое относится к промышленности, где при постоянном увеличении объемов производства количество работающих уменьшается.

С другой стороны, научно-технический прогресс приводит к постоянному увеличению количества информации, циркулирующей в обществе, соответственно увеличивается доля работников, занятых ее сбором, хранением, передачей, переработкой, распространением. Сфера нематериального производства (управление, наука, культура, искусство, образование и т. п.) в большинстве стран развивалась значительно более высокими темпами, к концу XX века доля «белых воротничков» среди всех занятых в общественном производстве стала преобладающей. Этот факт свидетельствует о наступлении «второй промышленной» или, точнее, информационной революции и переходе человечества от индустриальной к постиндустриальной, информационной эпохе.

Однако простым увеличением числа работающих справиться с возрастающим потоком информации невозможно. Дело в том, что количество информации растет со временем не линейно, а экспоненциально. Например, накопленные человечеством знания в области науки и техники удваиваются каждые несколько лет, причем даже скорость этого обновления постоянно возрастает. Еще в XVIII веке один ученый-энциклопедист мог прочитать все научные труды предшественников и удержать в своей памяти все знания, считавшиеся на тот момент научными, сейчас же за 2-3 года создается такой же объем новых знаний, который накапливался за всю предшествующую историю. Это явление названо информационным взрывом. Если бы производительность труда в информационной сфере оставалась неизменной, то все занятое население со временем вынуждено бы было переместиться в нематериальное производство, и некому было бы его кормить и одевать. Человечеству объективно понадобился инструмент, способный резко усилить мыслительные возможности человека, подобно тому, как в эпоху первой промышленной революции были изобретены машины, умножившие его физические возможности. Этим инструментом стала вычислительная машина – компьютер.

Компьютер – необходимый, но не единственный рычаг информационной революции. Он может хранить и обрабатывать информацию, но не способен передавать ее на расстояние.

Связь – тот же транспорт, но для информации. В наступившую информационную эпоху ее значение невозможно переоценить. Не случайно обобщенный показатель развития сети электросвязи – телефонная плотность, то есть количество телефонов на 100 жителей – входит в число шести основных критериев Международного валютного фонда, определяющих экономический уровень развития страны. В промышленно развитых странах он достигает значения 40 и более, в России приближается к 20, однако в последние годы электросвязь в нашей стране развивается очень быстрыми темпами, так что перспективы попасть в информационно развитые страны у России остается.

Компьютер и связь – два ключевых понятия, два равноценных рычага информационной революции. Долгое время они развивались независимо друг от друга, но в 80-х и 90-х годах начался процесс их интенсивного сближения. С одной стороны, электросвязь дала компьютерам возможность объединяться в локальные и глобальные компьютерные сети. С другой стороны, все современные средства связи, будь то телефонная станция или студийный телевизионный комплекс, по сути представляют собой сложные программно-управляемые микропроцессорные системы.

Технические и социальные последствия интеграции коммуникационных и компьютерных технологий столь значительны, что специалисты сравнивают этот процесс со слиянием двух половинок ядерного заряда в атомной бомбе. В результате в последние несколько лет мы наблюдаем информационной взрыв невиданной силы. Сотовые телефоны, Интернет, пластиковые деньги, электронная торговля, дистанционное образование – первые проявления этого необыкновенного явления.

Дата добавления: 2014-01-20