9/15. Пропускная способность канала. Необходимо различать два способа подсчета <энтропии> по отношению к цепи Маркова, даже после того как выбрана единица измерения (основание логарифмов). Цифра, вычисленная в  9/12 из переходных вероятностей, дает энтропию, или ожидаемое разнообразие, для одного следующего шага цепи. Так, если бросание правильной, нефальшивой монеты дало уже РРГГРГГГГ, то неопределенность следующего исхода равна 1 биту. Символ, который появится затем, также будет иметь неопределенность в 1 бит и т. д. Ввиду этого цепь в целом имеет неопре-деленность, или энтропию, в 1 бит на шаг.

Значит, два шага должны иметь неопределенность, или разнообразие, в 2 бита; и так оно и есть, ибо следующие два шага могут быть ГГ, ГР, РГ или РР с вероятностями  и , что дает Н = 2 бита. Короче говоря, энтропия некоторого участка цепи Маркова пропорциональна его длине (все время предполагается, что цепь достигла равновесия).

Совершенно другой способ измерения энтропии цепи вводится при рассмотрении того, как быстро во времени цепь образуется каким-либо реальным физическим процессом. До сих пор эта сторона дела игнорировалась, и измерение производилось только в терминах шагов самой цепи. Введение новой шкалы требует только про-стого правила пропорций. Например, если (как в  9/12) <единица времени> насекомого для одного шага оавна 20 секундам, то каждые 20 секунд дают 0,84 бита, а 60 секунд дадут бита. Таким образом, каждое насекомое создает разнообразие своего местоположения со скоростью 2,53 бита в минуту.

Такая скорость служит наиболее естественным способом измерения пропускной способности канала. Канал - это просто любая система, которая своим входом может приводиться в каждый момент в одно из некоторого разнообразия состояний и которая может передавать это состояние какому-то получателю. Скорость этой передачи зависит как от скорости, с которой шаги следуют друг за другом, так и от разнообразия, получаемого на каждом шаге.

Заметим, что понятие <канал> определяется в кибернетике исключительно в терминах наличия между двумя точками определенных поведенческих отношений; если между точками имеют место такие отношения, то между ними существует канал - совершенно независимо от того, можно ли усмотреть между ними какую бы то ни было материальную связь. (Рассмотрите, например, упр. 4/15/2, 6/7/1.) В силу этого каналы, которые видит кибернетик, могут значительно отличаться от каналов, которые видит специалист в другой области. В простейших случаях это достаточно очевидно. Никто не отрицает реальности некоторой функциональной связи магнита с магнитом, хотя ни один эксперимент не обнаружил до сих пор между ними никакой промежуточной структуры.

Иногда канал может идти по необычному пути. Так, мозгу требуется информация о том, что происходит после того, как он послал <команду> некоторому органу; обычно от органа к мозгу идет чувствительный нерв, который несет <контрольную> информацию. Так, контроль за голосовыми связками может осуществляться чувствительным нервом, идущим от связок в мозг. Эффективного контроля можно достичь и без помощи какого-либо нерва в шее, а лишь используя звуковые волны, идущие по воздуху и связывающие голосовые связки с мозгом через ухо. Для анатома это не будет каналом, а для инженера- связиста - будет. Здесь мы просто должны понять, что каждый из них прав внутри своей отрасли науки.

Существуют и более сложные применения этого принципа. Предположим, что мы спрашиваем кого-нибудь, будет ли 419X287 равняться 118 213; по-видимому, он ответит: <Я не могу сделать это в уме, дайте мне карандаш и бумагу> . Используя в качестве параметров оба числа 419 и 287 вместе с операцией <умножения> , он затем начнет процесс (переходный процесс, по терминологии  4/5), который породит ряд импульсов, проходящих по нервам его руки, порождая ряд карандашных значков на бумаге; затем эти значки воздействуют на его сетчатку и так далее вплоть до его мозга, где осуществится взаимодействие со следом (что бы это ни было) числа 118 213; затем он даст окончательный ответ. Нам здесь нужно отметить, что этот процесс - от мозга через двигательную область коры, руку, карандаш, значки, световые лучи, сетчатку и зрительную область коры обратно к мозгу - для инженера-связиста есть типичный <канал> , связывающий <передатчик> с <приемником> . Следовательно, для кибернетика белое вещество и прочие волокна не являются единственными каналами связи в мозгу; некоторые связи между частями могут осуществляться через окружающую среду.