9/13. Прежде чем двигаться дальше, следует отметить, что введенная Шенноном мера и различные важные теоремы, в которых она используется, основаны на определенных допущениях. Эти допущения обычно выполняются в технике телефонной связи, но их выполнение отнюдь не столь обычно в биологической работе и в областях, рассматриваемых в этой книге. Поэтому эта мера и эти теоремы должны применяться с осторожностью. Основные допущения Шеннона таковы:

1)     Различные дроби, изображающие множество вероятностей, должны в сумме давать 1; энтропия не может быть вычислена для неполного множества возможностей.

2)     Матрица переходных вероятностей, изображающая источник информации с несколькими множествами вероятностей, должна быть марковской; это значит, что вероятность каждого перехода должна зависеть только от состояния, в котором находится система (т. е. от операнда), а не от состояний, в которых она находилась раньше ( 9/7). В случае необходимости надо предварительно переопределить состояния источника, как в  9/8, чтобы матрица стала марковской.

3)     Энтропия различных столбцов усредняется (9/12) с помощью относительных частот при установившемся равновесии ( 9/6). Тем самым в теоремах предполагается, что при любом начальном состоянии система может двигаться достаточно долго, чтобы ее состояния достигли своих равновесных плотностей.

Следовательно, результаты Шеннона должны применяться к биологическому материалу только после тщательной проверки их применимости.

Также следует предостеречь против любой попытки устанавливать слишком свободно и на чисто словесном уровне связь между энтропией Шеннона и энтропией статистической механики. Выводы в этих вопросах требуют большой осторожности, ибо самое незначительное изменение условий или допущений может превратить высказывание из строго истинного в абсурдно ложное. Движение в этих областях напоминает движение в джунглях, полных ловушек. Наиболее знакомые с этим предметом обычно наиболее осторожны в разговорах о нем.

Упр. 1. Определите в уме энтропию матрицы переходных вероятностей

[Указание: Здесь надо не вычислять, а обнаружить скрытую простоту. Что означает 1 на главной диагонали (упр. 9/5/1)? Каково, следовательно, окончательное равновесие системы? Имеют ли значение столбцы n и С? И какова энтропия столбца В (упр. 9/11/6)?]

Упр. 2. (Продолжение.) Объясните следующий парадокс: <Когда система находится в А, имеется разнообразие или неопределенность в ближайшем последующем состоянии; значит, энтропия не может быть равна нулю>.