Энтропия. Вероятностная формула энтропии.

 

Для системы с дискретным набором состояний энтропия определяется в соответствии с формулой[13]

(11)
Структура формулы соответствует среднему значению логарифма вероятности. Энтропия обладает свойством аддитивности. Пусть имеем две невзаимодействующие дискретные системы. Тогда вероятность состояния общей системы определяется произведением вероятностей . Энтропия общей системы запишется формулой

.

После преобразования

.

Энтропия общей системы равна сумме энтропий ее частей.