Код как борьба. Кратчайшая история IT. 3. Клод Шеннон

[OldCreater]

А что вы скажете о теореме Котельникова?

[rudnyi]

Могу предложить еще одно отличие между фон Нейманом и Шенноном. Фон Нейман боролся за признание информации физической величиной, в этом смысле фон Нейман является одним из отцов информационной физики. Сам Шеннон же относился к этому скептически. В 1955 году Шеннон даже опубликовал короткую статью с предостережением о возможности использования информации в других науках:

К. Шеннон, БАНДВАГОН

Шеннон К. Работы по теории информации и кибернетике (перевод с английского, под редакцией Р.Л. Добрушина и О.В. Лупанова). – М.: Изд. иностр. лит., 1963. – С. 667-668.)

"За последние несколько лет теория информации превратилась в своего рода бандвагон от науки. Появившись на свет в качестве специального метода в теории связи, она заняла выдающееся место как в популярной, так и в научной литературе. Это можно объяснить отчасти ее связью с такими модными областями науки и техники, как кибернетика, теория автоматов, теория вычислительных машин, а отчасти новизной ее тематики. В результате всего этого значение теории информации было, возможно, преувеличено и раздуто до пределов, превышающих ее реальные достижения. Ученые различных специальностей, привлеченные поднятым шумом и перспективами новых направлений исследования, используют идеи теории информации при решении своих частных задач. Так, теория информации нашла применение в биологии, психологии, лингвистике, теоретической физике, экономике, теории организации производства и во многих других областях науки и техники. Короче говоря, сейчас теория информации, как модный опьяняющий напиток, кружит голову всем вокруг."

[phenik]

Первое - Шеннон сознательно исключил из своей теории вопрос о смысле и ценности сообщения, сосредоточившись только на статистической неопределённости. Насколько это упрощение было необходимым инженерным компромиссом, позволившим построить строгую математическую теорию? И что теряется при таком подходе, если применять его, скажем, к вопросу о том, что вообще значит “значимая” информация в более широком, философском смысле?

Для этого нужно было сформулировать концепцию значимости информации. К. Ровелли предложил для этого использовать понятие взаимной корреляции. Классическая теория информации Шеннона это предельный случай более общей теории информации в которой учитывается ее значимость, как классическая механика предельный случай КМ и СТО. Но пока нет ясности какой гипотетический параметр такой теории считать критическим хотя кандидатов на эту роль предложено уже немало. См. некоторые предположения на эту тему.

[Exzer]

После прочтении статьи появился интерес глубже изучить. Салимову привет!