7/8. В высшей степени важнььм понятием, которым мы позже будем много заниматься, является понятие ограничения разнообразия. Ограничение разнообразия есть отношение между двумя множествами, которое возникает, когда разнообразие, существующее при одном условии, меньше, чем разнообразие, существующее при другом условии. Например, разнообразие человеческих полов равно 1 биту. Но если в данную школу принимаются только мальчики, то разнообразие полов внутри школы равно нулю; так как 0 меньше 1, налицо ограничение разнообразия.

Другим общеизвестным примером могут служить огни английских светофоров, которые имеют по три лампы и проходят        последовательность состояний  (где <+> означает <горит>, а<0> означает <не горит>)

Здесь используются четыре комбинации. Следует заметить, что в различные моменты времени красный свет может как гореть, так и не гореть; так же и желтый, и зеленый. Следовательно, если три лампы изменяют свои состояния независимо, то может появиться восемь комбинаций. В действительности же используется только четыре; поскольку четыре меньше восьми, налицо ограничение разнообразия.