9/16. Избыточность, В  7/14 было сказано, что из ограничений разнообразия всегда можно извлечь какую-нибудь пользу. Этот тезис можно иллюстрировать случаем непрекращающейся передачи.

Для простоты рассмотрим еще раз огни светофора - красный, зеленый и желтый, - допускающие только четыре комбинации:
1)     красный;
2)     красный и желтый;
3)     зеленый;
4)     желтый.

Каждая составляющая (лампа или цвет) может быть зажжена или не зажжена, так что при независимых составляющих общее возможное разнообразие состояло бы из 8 состояний. В действительности же используется только 4 комбинации, так что данное множество обнаруживает ограничение разнообразия.

Рассмотрим теперь эти факты снова, исходя из того, что нам необходимо множество из четырех следующих сигналов:
1)     стой;
2)     готовься ехать;
3)     можно ехать;
4)     готовься остановиться.

Если у нас имеются составляющие, каждая из которых может принимать два значения (+ или -), то мы можем спросить, сколько таких составляющих необходимо для того, чтобы обеспечить это разнообразие. Ясно, что две;
и. при соответствующем перекодировании, таком, напри мер, как
++ = стой,
+-= готовься ехать,
--=  можно ехать,
-+= готовься остановиться,
это разнообразие может быть получено при помощи вектора только с двумя составляющими. То обстоятельство, что число составляющих может быть сокращено (с трех до двух) без потери разнообразия, можно выразить, сказав, что множество векторов обнаруживает избыточность, в данном случае в одну лампу.

Ясно, что из такого ограничения разнообразия можно извлечь пользу. Например, если бы электрический свет был очень дорог, то расходы на светофоры, перекодированные в новую форму, сократились бы на одну треть 1.

Тот же самый светофор, рассматриваемый как генератор другого множества векторов, может обнаружить совершенно другую избыточность. Предположим, что светофор управляется не уличным движением, а часами, так что он проходит повторяющийся цикл состояний (перечисленных выше)
...3, 4, 1, 2, 3, 4, 1, 2, 3....

1 Если считать, что каждой составляющей соответствует своя лампочка и что + означает ее горение, то сокращение расхода до двух третей получится при способе кодирования, отличном от того, который здесь указан. Руководствуясь цифрами, приведенными в  9/11, находим, что общая сумма времен горения лампочек в течение 60 сек. равна
(25  1 + 5  2 + 25 ' 1 + 5 * 1) сек. = 65 сек.
При указанном в  9/16 способе кодирования сумма будет
(25-2 + 5-1 + 25-0 + 5- 1) сек. = 60 сек.
Чтобы получить, нужный выигрыш в две трети, надо перекодировать сигналы, например, следующим образом:
= стой,
+ + = готовься ехать,
4              можно ехать,
h = готовься остановиться. Тогда сумма будет равна
(25  0 + 5 - 2 + 25  I + 5  1) сек. = 40 сек. - Прим. ред.

Образуемая им последовательность (рассматриваемая как вектор,  9/9) может быть только одним из четырех векторов:
I.      (1,2, 3,4, 1,2...),
II.     (2,3,4, 1,2,3...),
III.    (3,4, 1,2, 3,4...),
IV.    (4, 1,2,3, 4,1...).

Если бы имелось n составляющих и каждый шаг был независимым (что можно получить с помощью четырехгранной кости), то разнообразие было бы 4"; в действительности же оно равно только 4. Чтобы вопрос стал совсем ясен, заметим, что такое же разнообразие может быть образовано векторами только с одной составляющей:
I.      (1).
II.     (2),
III.    (3),
IV.    (4).

Здесь опущены все составляющие, кроме первой. Это значит, что все последующие (после первой) составляющие являются избыточными.

Таким образом, последовательность может обнаруживать избыточность, если на каждом шаге следующее значение не является полностью независимым от предшествующих шагов (ср.  9/10). Если последовательность образует цепь Маркова, избыточность будет проявляться в том, что энтропия цепи будет меньше максимальной.

Тот факт, что одно и то же множество огней светофора образует два существенно различных множества векторов, еще раз показывает, какая осторожность необходима при применении этих понятий к какому-нибудь объекту, ибо объект часто обладает большим количеством множеств, подлежащих рассмотрению. Следовательно, вопрос: <Обнаруживают ли огни светофора избыточность?> - недопустим, ибо он не указывает, какое множество векторов рассматривается; и ответ на него может значительно измениться для разных множеств.

Этот запрет особенно необходим в книге, предназначенной для работников в области биологии, ибо здесь определение множеств векторов часто связано с определенными трудностями, которые преодолеваются, быть может, с некоторой произвольностью (ср.  6/14). Поэтому всегда имеется искушение подменить точное и явное понимание рассматриваемого множества интуитивным и смутным. Читатель, вероятно, часто замечал, что то или иное неподатливое противоречие между двумя рассуждениями можно разрешить, если дать более точное определение рассматриваемому множеству; ибо это противоречие часто вытекает из того, что рассуждения относятся в действительности к двум различным множествам, тесно связанным с одним и тем же объектом или организмом.

Упр. 1. В таблице для опознания бактерий по их способности сбраживать сахары 62 вида отмечены как образующие <кислоту>, <кислоту и газ> или <не образующие ничего> из каждого из 14 сахаров. Таким образом, каждый вид соответствует вектору с 14 составляющими, каждая из которых может принимать одно из трех значений. Избыточно ли это множество? К какому числу составляющих можно свести этот вектор?

Упр. 2. Если цепь Маркова не имеет избыточности, то как с первого взгляда узнать ее матрицу?