Comments 10
Если удаление накопленной информации выделяет тепло - открываются занятные перспективы по зарядке аккумуляторов. И вообще, самом устройстве аккумуляторов.
E_min = kT · ln2
Ну, значит систему охлаждения нужно будет помощнее ЕВПОЧЯ. Маск со своей идеей космических компьютеров похоже о чём-то догадался.
Вообще есть нюанс - предел Ландауэра вычислен в предположении, что система хранения информации основана на различении двух близких состояний электрона. Впрочем, пока мы нейтринные вычислительные системы не построим, он нас будет угнетать - даже фотонные схемы должны как-то взаимодействовать с веществом, а там опять тот же чёртов электрон...
Кстати, недавно прочитал "Яйцо дракона" Форварда и теперь сочувствую возможным строителям компьютера на нейтронной звезде - при температуре в миллионы градусов ландауэровский предел будет реальной проблемой.
Cognovi naturam rerum. Lord’s countdown made the world. Truly yours Donda.
Одна коллоидная частица в воде. Два лазерных пятна создают двухъямный оптический потенциал - буквально два соседних кармана, в одном из которых сидит частица. Это и есть один бит памяти: левая яма - 0, правая яма - 1.
буквально два соседних кармана - левая яма и правая яма.
Стирание - операция, которая загоняет частицу в одну яму независимо от начального положения.
Все равно в какую, главное что в одну?
Результат - при достаточно медленном стирании среднее тепло насыщалось точно на уровне kT · ln2
Чем насыщалось тепло?
Если у вас есть бит, который может быть 0 или 1, и вы сбрасываете его в 0 - вы уничтожаете информацию. Два возможных состояния сжались в одно. Ну, и это нельзя отмотать назад. Логично, все понимают
, что статья сгенерирована ИИ. Но плюсы все равно ставят. В полном соответствии с необратимостью логики.
к которому добавляются неизбежные накладные расходы из-за шума, требований надежности и необратимости современной логики.
Предел Ландауэра устанавливает дно. Мы все еще очень далеки от него, но впервые за историю вычислительной техники уже можем различить его на горизонте.
Дно достигнуто.
Проблема с принципом Ландауэра следующая. Мы смотрим на физическую систему со стороны и в ней протекают физические процессы. Вопрос такой. Как узнать, было бы вычисление в этот момент или нет? Если говорить про эксперименты с броуновскими частицами, то вопрос становится таким. Как узнать, произошло ли в этом эксперименте инициализация ячейки памяти или нет?
На эту тему см., например, обсуждение этот вопроса (доступно онлайн):
Gualtiero Piccinini and Corey Maley, Computation in Physical Systems, The Stanford Encyclopedia of Philosophy, 2021.
Автору Спасибо (и лайк) за статью!
Кстати, пару недель назад на ютубе вышло видео с подобной тематикой: «Принцип Ландауэра и предел развития искусственного интеллекта. Объяснение» (про ИИ видимо для кликабельности добавлено, мол кто будет читать, если не упомянута эта хайповая тема).
Там есть мой коммент (@vadimn6393) и автор почему-то даже закрепил его в топе, ответив на него. На что в тот же день написал свой ответ (проведя некоторые изыскания), однако, автор, непонятно почему, запретил любые комментарии к своему видео (что было несколько разочаровывающе — писал ответ, потратил время и облом).
Приведу хотя бы здесь этот ответ. Это в тему статьи. Возможно, будет кому-то интересно, кому-то дискуссионно (ну а кому-то не интересно — дополнительный «выход гейта», чтобы температура не повышалась, ЕВПОЧЯ ) ) :
Скрытый текст
Что такое фазовое пространство в курсе. И, кстати, по отношению к биту говорить, что его фазовое пространство это {0, 1} не совсем корректно, скорее следует говорить о конфигурационном пространстве или пространстве состояний.
Конфигурационное пространство — это пространство всех возможных состояний, в которых может находится система.
Фазовое пространство — это пространство состояний + структура, которая позволяет эволюции быть детерминированной из любой точки этого пространства. Зная точку в этом пространстве, можно предсказать следующий шаг. В классической механике это координата + импульс.
И если с поршнем все понятно, хотя тут скорее следует применить уравнение Клапейрона-Менделеева P⋅ V / T = N⋅ k_B (= const). Однако же, аналогии мало что доказывают. Бит это своя система, обычно там нет поршней (хотя наверное и можно предложить реализацию на поршнях), сейчас это кремневая электроника, где ничего не деформируется.
Что мне не хватило?
Привели формулу, так сказать, «с неба». Вроде наукообразно, но по сути ничего не объясняет — логическая лакуна. Хочется не формулу «с потолка», а принципы, понимание сути.
Апелляция ко 2-му началу термодинамики на 4:28, уже лучше. Похоже здесь зарыта суть. И вот здесь бы, не парой слов, а более углубится.
2-е начала термодинамики, по сути очевидно: в замкнутой системе энтропия (логарифм стат.веса) может только расти, т.е. эволюция системы происходит в сторону более вероятного состояния. Очевидное следствие теории вероятности.
Стирание информации это логический вентиль с таблицей истинности: 0 -> 0, 1 -> 0.
Очень простая система и эволюция. Для таких систем, где уже проще некуда, по идее должно быть особое упрощенное понимание и вывод результата, чем для общего случая. Вот его бы и разжевать до самой сути.
Попробую без формулы Ландауэра (но строго):
Пусть исходно бит находится в равновесии, т.е. в состоянии с равной (1/2) вероятностью 0 или 1.
Энтропия по Шеннону (она же эквивалентна информации) для бита с вероятностями (простая математика, не Ландауэр, а база, определение понятия):
S = -p0⋅log(p0) - p1⋅log(p1) = 1/2 + 1/2 = 1 здесь log двоичный)
После стирания состояние всегда 0 (вероятность 1 и log(1) = 0) => энтропия:
S = 0
Но энтропия системы не может просто исчезнуть. Согласно 2-му началу, энтропия замкнутой системы не убывает. Наш бит — Не Замкнутая система (!) и общая энтропия "бит" + "окружение" не должна уменьшаться. Если энтропия бита упала на 1, то энтропия окружения должна вырасти как минимум на 1.
Определение энтропии в стат. физике:
S = k_B ⋅ ln(2)
W - статистический вес, т.е. число различных микросостояний, т.е. в нашем случае:
S = k_B ⋅ ln(2)
Как растет энтропия окружения? Только через тепло (Q). В термодинамике, 2-е начало можно так записать:
dS >= δQ / T
(но выводится из стат. физики, т.е. по сути упомянутое следствие теории вероятности, просто переформулированное в терминах термодинамики)
Вот тут и возникает формула Ландауэра (ибо dQ это и есть E что у вас в видео).
Удивительно — вывелась, даже не ожидал, начиная рассуждать. Не так уж и страшен этот Ландауэр — на школьном уровне :) Но, наверное, можно еще проще (все таки бит).
В общем суть/база в том, что система (бит + окружение) эволюционирует в статистически более вероятное состояние (2-е начало) — очевидно. Остальное разговор о терминах, где лишь Переформулируем (!) из статистических терминов в термины термодинамики. Термодинамика феноменологическая теория, ее термины условны. Суть же — теория вероятности, остальное манипуляция терминами.
Почему-то сразу вспомнился лемовский профессор Донда.Видимо Лем был в курсе этих научных работ.
И вот здесь - привет, термодинамика. Второе начало говорит - в замкнутой системе энтропия не убывает. Но вы только что уменьшили энтропию носителя информации - убрали неопределенность. Значит, где-то в другом месте энтропия обязана вырасти. Это другое место, собственно, окружающая среда. Тепло
Предположим имеется секретный ключ длиной 2к бит. Вы уничтожаете информацию, записывая вместо ключа последовательность двоичных нулей. Но вы только что уменьшили энтропию носителя информации. И вот здесь - привет, термодинамика.
Но есть другой вариант. Вы уничтожаете информацию, записывая вместо ключа случайную последовательность нулей и единиц. Но что это? Энтропия носителя информации практически не изменилась. И термодинамика машет ручкой...
Как быть?
Принцип Ландауэра — сколько весит один бит информации и почему стирание памяти греет Вселенную