Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 11
Шарики улетят вместе с ниточками, что же тут непонятного.
Доброго времени суток . Для начала С Новым 2026 годом !
А теперь подробнее:
Шарики улетят — так и должно быть. А ниточки в наших руках останутся. Весь смысл — в этих ниточках. В том, как мы их отпустили, и в том, что теперь мы держим пустоту, из которой можно сплести новое. Непонятного тут ничего нет. Только тихая математика отпускания и шёпот будущего в пустых ладонях.
Да, LLM-ки умудряются из любой скучной фигни сделать конфетку, но иногда все-же слишком сладко это тоже плохо.
По-моему происходит всё наоборот.
до нейросетей, генерирующих текст, — это бесконечная, асимптотическая гонка к этой границе H+1.
Нейросети как раз вовлекают нас в гонку к другому значению:
А тут не только знак попутан, но и смысл:
Всего 0.003 бита на символ. Практически ничто. Но — не ноль. Это тот самый гарантированный зазор
, о котором говорит теорема.
Сами же написали до этого: L-H>=0, зазор между нулём не гарантирован.
Мне одному кажется, что интересную тему так разбавили "LLM водой", что читать крайне трудно, продираясь сквозь пафосные фразы не несущие смысловой нагрузки?
Автор не просто фантазирует — он формулирует срочное предостережение. В погоне за эффективностью, идеальными алгоритмами и тотальным пониманием через данные мы рискуем объявить врагом тот самый «бит свободы», который является источником инноваций, искусства и самой жизни. Пророчество о 2026 годе здесь работает не как буквальный прогноз, а как художественный приём, обостряющий чувство близости этой философской дилеммы.
Это важный текст, который стоит прочесть не как технический анализ, а как манифест в защиту несовершенства. Он напоминает нам, что высшая ценность может скрываться не в идеально упакованных данных, а в том неустранимом шуме, том единственном бите избыточности, который машине никогда не понять и не присвоить. Тревога автора — наша общая тревога, а его защита «битика свободы» — необходимое интеллектуальное сопротивление эпохи.
"В мире, где все стремится к порядку, где энтропия физических систем растет" - ???
Тоже здесь споткнулся. Необходимо разъяснение автора всего предложения.
P.S. И "обратное правило" в этом предложении соотносится к какому из двух вышеперечисленных правил? Или это подводка для стимула читать дальше и расшифровывать?
Доброго времени суток . Для начала С Новым 2026 год .
А теперь ближе к вопросу и расшифровке предложения .Также благодарю за внимательное чтение. Здесь важное терминологическое различие.
В классической термодинамике энтропия действительно мера беспорядка и растёт (второй закон). Это про энергию.
В теории информации (Шеннон) энтропия — мера неопределённости, информационного хаоса в источнике данных. Она не растёт сама по себе — это константа для источника. А вот наша задача — уменьшить эту неопределённость, «упорядочить» данные, упаковав их в код. И теорема Мучника говорит о пределе этого «упорядочивания»: насколько можно сжать информацию, победив её энтропию.
Именно поэтому в статье звучит «мир можно описать почти идеально» (порядок) — это победа над информационной энтропией. А «бит свободы» — это и есть та самая оставшаяся, несжимаемая неопределённость, которая и делает систему живой.
По другому это можно записать так :
Теорема же Мучника звучит так (напоминаю):
Бит свободы: 
, где 
.Это остаток неопределённости, который невозможно устранить.
И все же мы ограничены технологиями своего времени. Мы все еще не можем ни записывать ни считывать информацию меньше одного бита на наши носители информации)
Случайность — источник непредсказуемых открытий.
Творческая ошибка — мутация, порождающая новое.
Помеха — шум, из которого рождается смысл.
Свобода воли — тот самый «квантовый выбор» в детерминированной схеме.
2026 год будет годом массового осознания простой и потрясающей истины: когда всё сжато почти до предела, ценностью становится именно то, что сжать нельзя.
С этим как раз не беспокойтесь.. процессы в природе и обществе далеки от стационарности и эргодичности. Стоит больше опасаться как раз непредсказуемости от решений в той же геополитике, в экономике, возникновения техногенных и природных катастроф, типа случайного астероида погубившего динозавров) С НГ!
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
2026: Битик Свободы. Как теорема Мучника предсказывает точку сингулярности данных