Студопедия

КАТЕГОРИИ:


Архитектура-(3434)Астрономия-(809)Биология-(7483)Биотехнологии-(1457)Военное дело-(14632)Высокие технологии-(1363)География-(913)Геология-(1438)Государство-(451)Демография-(1065)Дом-(47672)Журналистика и СМИ-(912)Изобретательство-(14524)Иностранные языки-(4268)Информатика-(17799)Искусство-(1338)История-(13644)Компьютеры-(11121)Косметика-(55)Кулинария-(373)Культура-(8427)Лингвистика-(374)Литература-(1642)Маркетинг-(23702)Математика-(16968)Машиностроение-(1700)Медицина-(12668)Менеджмент-(24684)Механика-(15423)Науковедение-(506)Образование-(11852)Охрана труда-(3308)Педагогика-(5571)Полиграфия-(1312)Политика-(7869)Право-(5454)Приборостроение-(1369)Программирование-(2801)Производство-(97182)Промышленность-(8706)Психология-(18388)Религия-(3217)Связь-(10668)Сельское хозяйство-(299)Социология-(6455)Спорт-(42831)Строительство-(4793)Торговля-(5050)Транспорт-(2929)Туризм-(1568)Физика-(3942)Философия-(17015)Финансы-(26596)Химия-(22929)Экология-(12095)Экономика-(9961)Электроника-(8441)Электротехника-(4623)Энергетика-(12629)Юриспруденция-(1492)Ядерная техника-(1748)

Статистической физики




Связь информационной энтропии с энтропией

Понятие энтропии впервые было введено в термодинамику Клаузисом как соотношение, связывающее элементарное приращение энтропии dS с элементарным количеством теплоты dQ при температуре Т

 

dS = dQ/T (14)

 

Это выражение мало говорит о физической сущности энтропии. В физике неоднократно делались попытки раскрыть содержание этого понятия, руководствуясь модельными представлениями.

Рассмотрим основанное на статистическом подходе известное уравнение Больцмана

 

, (15)

 

где kB – постоянная Больцмана, kB =1,38×10 Дж/К;

W – число микросостояний.

Чтобы понять сущность статистических методов в качестве начального примера рассмотрим газ, как ансамбль большого числа частиц. Первое, что необходимо сделать при построении математической модели поведения частиц, это попытаться записать уравнение движения для каждой из них. Газ представляет собой систему частиц, движущихся по законам механики Ньютона.

Однако при таком подходе число уравнений становится невообразимо велико, не говоря уже о том, что для интегрирования этих уравнений необходимы начальные скорости и координаты каждой молекулы. Такой путь не только сложен, но и бесплоден, поскольку знание траекторий и закона движения отдельных молекул не даёт никакой информации относительно свойств газа в целом. Дело в том, что в системе, состоящей из многих частиц, возникают новые, чисто статистические системные закономерности, которых не было в системе с малым числом частиц.

Проследим на весьма упрощённой модели, как появляются эти новые свойства, связанные с понятием энтропии Больцмана.

Задача

 

Рассмотрим систему из десяти частиц (N =10), распределенных на четырех энергетических уровнях (k =4), имеющих относительные величины энергии: ε1=1, ε2 = 2, ε3 = 3, ε4 = 4. Общая энергия системы равна двадцати относительным единицам (Е =20). Задача заключается в том, чтобы найти то состояние, которое примет система, предоставленная самой себе и как распределятся частицы по уровням энергии.

Для этого выясним, какие энергетические распределения частиц возможны. При этом будем различать изменения микро- и макросостояния системы. Если произошло изменение ч и с л а частиц на каком-либо энергетическом уровне, то будем говорить об изменении макросостояния системы. Если же произошёл только о б м е н частиц между энергетическими уровнями, но число частиц на каждом уровне энергии осталось прежним, будем фиксировать изменение микросостояния системы. Для внешнего наблюдателя, следящего только за макросостояниями системы, изменения микроскопического характера окажутся незамеченными, а микросостояния неразличимы. Одно макросостояние может быть реализовано с помощью очень многих микросостояний.

Одно из возможных макросостояний в рассматриваемой системе из десяти частиц следующее: три частицы располагаются на энергетическом уровне 1 (N 1=3), пять частиц — на энергетическом уровне 2 (N 2=5), и по одной частице — на энергетических уровнях 3 и 4 (N 3=1, N 4=1).

 

 

Общая энергия

Проведем мысленный эксперимент: введем маркировку частиц A,B,C,D,... (табл. 2). Тогда данное макросостояние можно обеспечить через различные микросостояния, осуществляя разные перестановки частиц. Микросостояние 2: частица D перейдет на энергетический уровень 2, а частица С — на энергетический уровень 1. Микросостояние 3: частицы G и С поменяли энергоуровни и т.д.

Число возможных перестановок частиц W на микроуровне рассчитываем по формуле

,

 

где N 1, N 2 , N 3 , N 4 – количество частиц на соответствующем энергетическом уровне.

Для рассматриваемого макросостояния возможно 5040 микросостояний.

Таблица 2

Уровни частиц ε1=1 ε2 = 2 ε3 = 3 ε 4 = 4 Примечание
Макросостояние         N = 10
       
Микросостояние №1 A,B, C D, E, K, L, M N G  
Микросостояние №2 A,B, D C, E, K, L, M N G  
Микросостояние №3 A,B, D C, E, K, L, M G N  

 

 

Найти число микросостояний (микроуровней) для следующего макрораспределения N 1 = 6, N2 = 0, N 3 = 2, N 4 = 2

 

Таблица 3

ei         Примечания
N         å N = 10
Ni e i         å Ni e i = 20
Микросостояние №1 A,B,C,D,E,F - G, M N, K  
Микросостояние №2 A,B,C,D,E,G - F, M N, K  

 

W = N!/(N1! N2! …Nk!) = N!/ (N1! N2! N3! N4!) = 10!/6!0!2!2! = 6!7*8*9*10/6!1*2!2! = 1260

 

На практическом занятии необходимо найти возможное число микросостояний и вероятность каждого макросостояния т.е., . Результаты расчетов представить в виде таблицы, расположив их в порядке возрастания числа микросостояний. Выделить макросостояние системы с наибольшим числом микросостояний. Важно отметить, что только одному макросостоянию будет принадлежать максимальное число микросостояний. Следовательно, если вероятность пребывания системы в любом микросостоянии одинакова, то вероятность пребывания системы в том или ином макросостоянии оказывается различной и тем большей, чем больше способов осуществления данного макросостояния.

 

Таблица 4

Распределение частиц по уровням

 

Номер макросостояния системы j Уровни энергии Число микросостояний Wj Число микросостояний, %
ε1=1 ε2=2 ε3=3 ε4=4
j .. .. ..   .. .. .. .. ..   .. .. .. .. ..   .. .. .. .. ..   .. .. .. .. .. …. …. …. …. …..  
Всего   = 100,0

 

Анализ показывает, что если число частиц станет очень большим и возрастет число энергетических уровней (как это имеет место в реальных системах), то всегда есть одно макросостояние, для которого число микросостояний будет значительно преобладать над остальными. Например, более 99,99% всех возможных микросостояний может принадлежать только одному макросостоянию. Это конкретное макросостояние, которое осуществляется максимальным числом способов, определяет свойства системы и является наиболее вероятным, поэтому всеми другими распределениями можно пренебречь. Далее под числом W будем понимать количество способов осуществления только одного, наиболее вероятного макросостояния. При этом оказывается, что энтропия Больцмана S (15) с точностью до постоянного множителя совпадает с величиной ln W.

Согласно второму началу термодинамики энтропия неравновесной закрытой системы может только повышаться, что означает по Больцману увеличение числа возможных микросостояний.

Если теперь воспользоваться информационной энтропией для оценки неопределённости, связанной с установлением (определением) того микросостояния, в котором находится система в данный момент, то, принимая во внимание, что все микросостояния равновероятны, получаем

. (16)

Сравнивая выражения (15) и (16), нельзя не обнаружить их сходство. Они отличаются лишь на величину постоянного множителя, что для информационной энтропии не имеет принципиального значения. Заметим, что размерность физической энтропии (Дж/К) в известной мере условна, так как связана исключительно с использованием температурной шкалы для оценки степени нагретости тела. Если для этой же цели использовать энергетическую шкалу, как это часто принимается в физике, т.е. под температурой подразумевать произведение kBТ, тогда и физическая энтропия станет безразмерной. По глубокому физическому смыслу энтропия безразмерна [1].

Покажем, что аналогия между энтропией Больцмана и информационной энтропией существует не только для равновероятных событий

, (17)

где p – вероятность исхода опыта, но и для общего случая

(18)

Раскроем значение W, воспользовавшись выражением (15), предварительно прологарифмировав его:

.

Используя формулу Стирлинга , находим . Заметив, что , а , получаем

.

Умножив обе части этого выражения на и полагая, что есть вероятность обнаружить частицу на i -м энергетическом уровне, имеем:

. (19)

Таким образом, получили выражение, аналогичное информационной энтропии (18) [1].

Когда речь идёт о физической энтропии, то всегда имеют в виду неупорядоченность только одного рода, а именно неупорядоченность, связанную с хаотическим тепловым движением молекул. При этом способ оценки неупорядоченности (через логарифм вероятности) в термодинамике и теории информации остаётся одним и тем же.

Поскольку понятие энтропии в теории информации не связывается с каким-либо определённым типом неупорядоченности, то в этом смысле оно является более широким, чем понятие энтропии в статистической физике.

 

Список рекомендуемой литературы

1. Майков В.П. /Введение в системный анализ: учебное пособие для вузов/ Майков В.П. – М.: МГУИЭ, 2005. – 100с.

2. Хармут Х.Ф. /Применение методов теории информации в физике/ Хармут Х.Ф. – М.:Мир, 1989. – 344с.




Поделиться с друзьями:


Дата добавления: 2014-12-27; Просмотров: 464; Нарушение авторских прав?; Мы поможем в написании вашей работы!


Нам важно ваше мнение! Был ли полезен опубликованный материал? Да | Нет



studopedia.su - Студопедия (2013 - 2024) год. Все материалы представленные на сайте исключительно с целью ознакомления читателями и не преследуют коммерческих целей или нарушение авторских прав! Последнее добавление




Генерация страницы за: 0.03 сек.