Студопедия

КАТЕГОРИИ:


Архитектура-(3434)Астрономия-(809)Биология-(7483)Биотехнологии-(1457)Военное дело-(14632)Высокие технологии-(1363)География-(913)Геология-(1438)Государство-(451)Демография-(1065)Дом-(47672)Журналистика и СМИ-(912)Изобретательство-(14524)Иностранные языки-(4268)Информатика-(17799)Искусство-(1338)История-(13644)Компьютеры-(11121)Косметика-(55)Кулинария-(373)Культура-(8427)Лингвистика-(374)Литература-(1642)Маркетинг-(23702)Математика-(16968)Машиностроение-(1700)Медицина-(12668)Менеджмент-(24684)Механика-(15423)Науковедение-(506)Образование-(11852)Охрана труда-(3308)Педагогика-(5571)Полиграфия-(1312)Политика-(7869)Право-(5454)Приборостроение-(1369)Программирование-(2801)Производство-(97182)Промышленность-(8706)Психология-(18388)Религия-(3217)Связь-(10668)Сельское хозяйство-(299)Социология-(6455)Спорт-(42831)Строительство-(4793)Торговля-(5050)Транспорт-(2929)Туризм-(1568)Физика-(3942)Философия-(17015)Финансы-(26596)Химия-(22929)Экология-(12095)Экономика-(9961)Электроника-(8441)Электротехника-(4623)Энергетика-(12629)Юриспруденция-(1492)Ядерная техника-(1748)

Мера информации синтаксического уровня

Лекция № 3. Меры и единицы измерения информации

Мера информации синтаксического уровня, меры информации прагматического уровня, меры информации семантического уровня.

 

Сообщения как совокупность знаков с точки зрения семиотики изучается на трех уровнях:

синтаксический уровень, где рассматриваются отношения между знаками;

семантический уровень, где анализируется отношения между знаками и знаковыми системами;

прагматический уровень, где рассматриваются отношения между знаками и получателем сообщений.

 

Количественная мера оценки информации этого уровня не связана со смыслом информации, ее содержанием. Для измерения информации на синтаксическом уровне используют характеристики объема и количества информации.

Рассмотрим понятие объема информации. Пусть задан алфавит, включающий множество символов, каждый из которых занимает в памяти объем которой равен u и пусть информация содержится сообщении, состоящего из N символов. Тогда объем информации сообщения можно определить, используя следующее выражение:

V=N×u (единица объема).

Под количеством информации понимают меру снятия неопределенности ситуации при получении сообщения.

Хартли в 1928 году предложил степень неопределенности ситуации с m исходами характеризовать числом: H(x) = log m. Если в результате получения сообщения y количество исходов ситуации уменьшается до n, то количество информации в полученном сообщении определяется выражением:

I(y) = H(x) ¾ H(y), (1)

где H(x) = log m ¾ неопределенность ситуации x до получения сообщения y, H(y) = log n ¾ неопределенность ситуации x, оставшаяся после получения сообщения y.

Для определения количества информации, содержащегося в сообщении, необходимо выполнить следующие действия:

1. Найти n -количество исходов ситуации до получения сообщения;

2. Найти m - количество исходов ситуации после получения сообщения;

3. Воспользоваться выражением (1) и найти количество информации, содержащиеся в сообщении.

За единицу количества информации принимается один бит, который соответствует сообщению о ситуации, имеющей два исхода до получения сообщения, а при получении сообщения - единственный исход:

I(y) =log 2 ¾ log 1 =1 бит.

Применяемые единицы измерения количества информации приведены в таблице 1.3.

Таблица 3.1.

Название единицы Обозначение единицы Соотношения между единицами измерения количества информации
  байт байт 1 байт = 8 бит
  Килобайт Кбайт 1 Кбайт = 1024 байт = 210 байт
  Мегабайт Мбайт 1 Мбайт = 1024 Кбайт = 220 байт
  Гигабайт Гбайт 1 Гбайт = 1024 Мбайт = 230 байт
  Терабайт Тбайт 1 Тбайт = 1024 Гбайт = 240 байт

 

Рассмотрим пример определения количества информации содержащимся в сообщении.

В княжестве имеются автомобили только черного, серого и белого цвета. Количество информации сообщения «В аварию попал автомобиль не черного цвета» равен 8 - log25 бит. Количество информации сообщения «В аварию попал серый автомобиль» равно 8 бит. Какое количество информации в сообщении о том, что в аварию попал автомобиль белого цвета.

Обозначим через x, y и z количество автомобилей черного, серого и белого цвета. Тогда в княжестве имеется x + y + z автомобилей.

Степень неопределенности при попадании одного автомобиля в аварию равна:

H1 = log2(x + y + z)

Степень неопределенности при попадании в аварию автомобиля не черного цвета (серого и белого автомобиля) равна:

H2 = log2(y + z).

Количество информации, содержащиеся в сообщении «В аварию попал автомобиль не черного цвета», равно:

I = H1 - H2 = log2(x + y + z) - log2(y + z) = 8 - log25 (1).

Степень неопределенности при попадании в аварию серого автомобиля равна:

 

H3 = log2y.

Количество информации, содержащиеся в сообщении «В аварию попал серый автомобиль», равно:

I = H1 - H3 = log2(x + y + z) - log2y = 8 (2).

Предположим, что x + y + z = 8, а y+ z = 5 (3). Тогда из (2) находим y:

log2(x + y + z) - log2y = 8 - log2y = 8;

log2y = 0;

y = 1.

Тогда из (3) можно найти z:

y+ z = 5;

1 + z = 5;

z= 4.

Степень неопределенности при попадании в аварию белого автомобиля равна:

H4 = log2z = log24 = 2.

Количество информации, содержащиеся в сообщении «В аварию попал белый автомобиль», равно:

I = H1 - H4 = log2(x + y + z) - log2z = 8 - 2 =6.

 

<== предыдущая лекция | следующая лекция ==>
История развития информационных процессов | Вопросы. Меры информации прагматического уровня
Поделиться с друзьями:


Дата добавления: 2014-01-06; Просмотров: 826; Нарушение авторских прав?; Мы поможем в написании вашей работы!


Нам важно ваше мнение! Был ли полезен опубликованный материал? Да | Нет



studopedia.su - Студопедия (2013 - 2024) год. Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав! Последнее добавление




Генерация страницы за: 0.008 сек.