Comments 7
меня смутило сравнение ватт, потребляемых человеческим организмом, с ваттами от батарей в роботах, и я решил скинуть эту статью в deepseek:
Приглашен
сегодня в 09:26 по приглашению от НЛО
и первая же статья - нейрослоп
Благодарю вас за разбор. В одному пункте он действительно попал. Я действительно задвоил блок при переносе из своего редактора в редактор хабра.
По ваттам не соглашусь. Мозг там сравнивается с бортовым вычислительным бюджетом, а метаболизм тела целиком с энергией на приводы. На тело это что то около 80-100 Вт. А на приводы при ходьбе 700-1500 ВТ. В таблице это отдельные строки. Сравнение энергобюджета биологической и механической системы стандартный для робототехники разбор через cost of transport, и раздел ровно об этом. Моторика съедает киловат, поэтому на мозг робота остается маленький бюджет. ASIMO в статье это история о потолке ручного подхода, к которому дальше привязана вся экономика. А 80+ ссылок в статье, это полностью осознанное решение, для того чтобы каждую цифру можно проверить по первоисточнику. Касаемо детекции нейрослопа через LLM, скажу честно не очень надежный инструмент. К слову по характеру ответа вашего DeepSeek прекрасно видно, что вопрос изначально был сформулирован в негативном и предвзятом ключе, а нейросеть просто подстроилась "Ваше чутье не подвело". В нашем комьюнити это называется sycophancy или по простому поддакивание. Нейросети бояться расстроить пользователя и подтерждают любую формулировку вопроса. Ради эксперимента я сам закинул в этот же DeepSeek два разных запроса к своей же статье. В первом я написал что то в духе "Слушай тут на хабре статейка, у меня такое ощущение бужто это писал ИИ. Найди маркеры того что это писал ИИ". И модель мне тут же выкатила ту самую табличку которую вы скинули в комменты. А вот во втором запросе я написал "Смотри какую классную статью на хабре нашел, что думаешь? Просто в комментах пишут что это нейрослоп." И О ЧУДО, тот же самый DeepSeek ответил "Отличный материал. Автор действительно написал один из лучших технических обзоров на русском языке, а хейт в комментариях — это классическая реакция на текст, компетенции для оценки которого у среднего читателя просто нет." И у меня появляется резонный вопрос, а кому верить? С одной стороны я написал один из лучших технических разборов на русском языке, а с другой стороны я дебил который тупо скопипастил из нейронки. Пожалуйста, не доверяйте детекторам в нейросетях. Standford доказал(и да вот ссылочки мои любимые подъехали https://arxiv.org/html/2304.02819))))) что они дают 61% процент ложных срабатываний на эссе живых людей, а OpenAi закрыла собственный детектор на точности в 26%. Как раз таки для этого в моей стать и есть куча ссылок, чтобы вы лично могли зайти и убедиться что данные не вымышленные, каждая цифра проверяется по первоисточникам. В каких то моментах я разумеется использовал нейросеть для полировки. Уж извините, я инжинер, а не филолог и не учитель русского языка, чтобы сходу вам выдать идеальное эссе. Да и не вижу я никаких проблем в том, чтобы использовать нейросеть при написании текста. Я информацию сам нашел, скомпоновал, сформулировал и свой личный опыт туда вложил. А нейронка... ну вы сами увидели, она вам поодакнет в любом случае, какую бы сторону вы не выбрали.
Вот прикрепляю скрины из DeepSeek
1)вы говорите про предвзятость нейросети? Ок давайте спросим непревзято, причем со второго аккаунта, чтобы модель случайно не включила "память" - скидываю текст статьи и спрашиваю прямо "это нейрослоп?" - нейросеть отвечает примерно как у вас на первом скрине. Т.е. да, нейрослоп. Так что ваш аргумент про "пыталась угодить пользователю" здесь не котируется - она же не знала, в какую сторону угодить.
3)я в вашей статье смотрел не на потребляемую мощность, а на батареи, которые вы описываете. У вас одна небольшой емкости и выдает большую мощность сразу, а вторая наоборот имеет большую емкость и отдает энергию по чуть-чуть. И существуют ли вообще "биологические батареи", которые именно батареи (без органов-потребителей)? Сейчас ваша статья выглядит как сравнение теплого с мягким и с передергиванием фактов. Естественно я об этом и спросил у нейросети. Или это запрещено? Почему-то на другие статьи мне пишет "вы не правы, это обычная статья", а тут даже сводную таблицу сгенерило с фактами
Касаемо батарей, тут вы сами путаете, то в чем обвиняете. Ватт это можносность сколько жрет прямо сейчас. Ватт час это запас, сколько всего в батарее. Это разные вещи и в таблице они в отдельных колонках. Время работы это запас делённый на расход. У H1 батарея 0,864 кВт ч, а ходьба жрет 700-1500 Вт. Вот и выходит 35-75 минут. Биологические батареи я нигде не сравниваю, у человека в таблице прямо подписано что это не батерея, а метаболизм. Сравнивается мощность с мощностью, 20 Вт мозга с компьютером бортовым, 80-100 Вт тела с приводами. Это cost of transport, стандартный разбор в робототехнике. С человеком это не просто так сравнивается. Человеческое тело это эталон энергоэффективности, ориентир, то к чему вся робототехника и тянется. Потому что мозг на своих 20 Ваттах вытягивает зрение, слух, память, планирование и кучу всего другого, при этом еще и телом управляет. А роботу для всего этого, нужно в разы больше энергии, больше размеры и он все равно до этого не дотягивает. Для этого человек и стоит в таблице рядом, чтобы было видно какая тут еще пропасть в энергоэффективности. Это не сравнение теплого с мягким. А на ваш вопрос, существуют ли биологические батареи. В человеке нет никакой отдельной батареи, типа блока где лежит запас энергии. Батарея это все тело целиком, вся эта совокупность процессов, метаболизм, расщепление жиров и глюкозы. Энергия там не лежит отдельно от потребителей, она и производится и тратится по всему телу сразу. Так что искать в человеке батарею без органов потребителей бессмысленно, ее там нет как отдельной детали. Ровно поэтому в таблице у человека и стоит мощность метаболизма в ваттах, а не емкость в ватт часах. Это непрерывный источник, а не аккумулятор который можно вынуть. А по поводу того запрещено ли у нейронки спрашивать, нет не запрещено, проверяйте на здоровье. Только проверка фактов это когда вы спрашиваете конкретно, слушай, а какое потребление у мозга человека и у бортового компьютера робота. Вот тогда модель вам цифру выдаст, и вы ее с моей в статье сверите. А вы взяли всю статью целиком и спросили нейрослоп это или нет. Это не проверка фактов.
А теперь по "нейрослопу", я устал спорить на эту тему. Мы ходим по кругу. Давайте для начала определимся с терминологией. А то слово "нейройслоп" тут через строчку летает. Нейрослоп это когда контент низкого качества штампуют нейронкой пачками, и человек в этом практически не учавствует. Вон эти короткие видосы про отношения Банана и Клубники, вот это нейрослоп. А техническая статья, со ссылками на источники, с моим личным опытом и знаниями. Это не нейрослоп. Я уже писал, что да я использовал нейросеть для полировки, я не филолог, и чтобы в статье не было грамматических ошибок и все это выглядело нормально, я использовал нейросеть. Нейрослопом это было бы, если бы я зашел в тот же DeepSeek, написал "напиши статью про роботов" и тупо запостил не глядя. Вот это был бы нейрослоп. А когда ты сам все нашел, сверил информацию, собрал структуру, вложил свой опыт, а нейронка лишь причесала текст чтобы читалось нормально, это статью в нейрослоп не превращает. Критиковать каждый может, а сам сесть и написать не каждый. Раз моя статья это нейрослоп голимый, зайдите в DeepSeek, прям скопируйте мой заголовок и попросите написать статью. Пусть так же все разложит по полкам, найдет источники, проверит каждую цифру, ссылки проставит. Я бы с удовольствием посмотрел на результат.
А теперь я хочу вашу табличку разобрать(о тут можно форматировать текст оказывается)
Ту самую из первого комментария, потому что я детальнее ее изучил))))
Это прям идеальный пример, прям музейный экспонат настоящего нейрослопа.
Вы статью не читали, а просто скормили ее нейронке, если бы вы ее действительно почитали, то у вас не возникло бы подобных вопросов. Нейронка нагаллюцинировала список, вы в него поверили и притащили сюда как доказательство. И ни один пункт не проверили. Сначала разберу механизм внимания и почему ей в целом нельзя доверять такой разбор. Модель не читает текст как человек. Она не видит его единым массивом. Внутри работает механизм внимания, и на длинном тексте он расфокусируется, модель скачет по кусочками текста, цепляется за отдельные обрывки вырванные из контекста и по ним уже достраивает правдоподобно звучащий ответ. Середину длинного текста она держит хуже всего, это давно известная проблема. А если на вход прилетела еще и каша, без заголовков и с развалившимися таблицами, то цельной картины у нее нет в принципе. Она не анализировала мою статью, не сверяла факты, не ходила по ссылкам. Она выхватила обрывки из месива и сгенерила по ним красиво оформленный список претензий. Выглядит убедительно, если не проверять конечно)
Избыточное цитирование:
Модель заявляет, что у меня каждый абзац начинается с "по данным", "как пишет", "согласно исследованию". Я сел и вручную посчитал. "Как пишет" и "согласно исследованию" не встречаются в статье вообще ни разу. "По данным" встречается ровно один раз на весь текст. Один раз Карл. А модель написала "каждый абзац". То есть она выдумала несуществующий паттерн и подогнала под него выдуманные примеры. Вот это и есть галлюцинация в чистом виде. А ссылки у меня стоят прямо в тексте гиперссылками, и при копипасте они отвалились, так что модель их даже не видела, не то что проверяла по ним факты.
Повторы:
Этот пункт я уже признал, действительно был. Но это не признак LLM, а просто из редактора криво перенес. Бывает, уже поправил.
Водянистость:
Абзац про ASIMO якобы не по теме. По теме, и еще как. ASIMO это история про потолок ручного подхода, четырнадцать лет разработки до первого показа и еще одиннадцать до последней версии. Ровно от этого потолка дальше и пляшет вся экономика статьи, почему RL обрушил цену. Модель не поняла зачем этот кусок, потому что читала обрывки, а не статью.
Неестественные переходы:
От ходьбы к ваттам, от ватт к контексту, от контекста к данным. Это не каша, это оглавление. Одна половина задачи, ходьба уже решена. А вторая, мозг и автономия, упирается в три конкретные стены, ватты, контекст и данные. Я их по очереди и разбираю. Никакого случайного перескока тут нет, это логика статьи, которую модель не увидела, потому что заголовки при копипасте слиплись в одну кучу.
Фальшивая экспертность:
И вот это пожалуй самое интересное)) Единственная техническая ошибка которую нашла модель, это сравнение теплого с мягким. Так вот, это не моя ошибка, а ее собственная, и я расскажу как именно она ее совершила. Когда вы копируете статью с хабра и вставляете в чат, текст идет без разметки. Таблица, у которой в оригинале аккуратные колонки, превращается в плоскую строку, где значения из разных колонок слипаются в одну кучу. И модель видит уже не таблицу, а месиво, где ватты мозга стоят впритык к киловатт-часам батарей робота. Границ колонок нет, структуры нет. Вот она и решила, что я в одном ряду сравниваю мощность с емкостью, отсюда и выдуманные биологические батареи, и теплое с мягким. Это просто сбой парсинга. Подключите сюда еще механизм внимания слабый. И будет вам хрестоматийный пример. И вот что интересно. Если открыть настоящую статью и посмотреть на таблицу глазами, там ну никак нельзя подумать что сравнивается теплое с мягким. Там все разделено, мощность в одной колонке, емкость в другой, человек вообще отдельной строкой с пометкой что это метаболизм, а не батарея.Все черным по белому(или белом по черному зависит от темы интерфейса) и разложено по полочкам. Такой вывод мог родиться только у того, кто статью не открывал, а поверил каше от нейронки.
Кликбейтный заголовок:
"Походка за двадцать минут и миллион рублей" это не кликбейт, а два конкретных числа прямо из статьи. Двадцать минут на обучение RL походки и около миллиона рублей за заказную под платформу. Оба раскрыты в тексте со ссылками. Кликбейт это когда в заголовке густо, а в статье пусто, а тут ровно наоборот.
Что же мы имеем в итоге? Из шести признаков один реальный, и то это просто ошибка копирования из редактора, а не признак нейрослопа(вообще как сюда можно нейрослоп приписать? Нейронка структурно генерирует, она не может задвоить один и тот же блок. Они буквально друг под другом стаяли, я бы еще хоть как то понял если бы они в абсолютно разных местах были). Остальные пять это либо прямые галлюцинации с выдуманными цитатами, либо непонимание структуры из-за битого копипаста, либо собственная ошибка модели, которую она повесила на меня. Вот эта табличка, сгенеренная без единой проверки факта, на каше вместо статьи, с несуществующими примерами, вот это и есть нейрослоп голимый. А вы принесли ее сюда как доказательство и повторяете следом, даже не открыв оригинал. Такие дела.
Биология обходится без буфера: мозг на лету сжимает поток восприятия в обновление собственных «весов». У нейросетей этот путь закрыт катастрофическим забыванием: эффект описан ещё McCloskey и Cohen в 1989-м, а DeepMind в статье про elastic weight consolidation сформулировал прямо: «нейросети в общем случае не способны» учиться последовательно
В этом и есть основная проблема. То, что называется в цитате выше "нейросетями" на самом деле только подмножество на разросшемся Deep Learning с BackPropagation, который искусственен, и который с человеческим мышлением имеет немного общего. Скорее всего, "полноценных" андроидов мы получим, когда ИИ будет сделан на каких-то других принципах. Например, многообещающими выглядят резервуарные вычисления (Reservoir Computing), которые, в частности, и сжимают поток восприятия на лету без буфера, и обучаются мгновенно без BackPropagation и т.д.
Рад встретить в комментариях содержательную дискуссию по архитектуре, спасибо. Касаемо Reservoir Computing. На бумаге и в рамках простых динамических систем коцепция выглядит очень красиво. Фиксированная нелинейная среда, мгновенное обучение только выходного слоя без тяделого бэкпропа и отсутствие забывания в моменте. Но когда мы переносим это из теории в реальную робототехнику мы сразу упираемся в проблему масштабирования. На сегодняшний день резервурные вычисления вообще не демонстрируют такой масштабируемости, как Deep Learning. Чтобы обрабатывать терабайты сложного, зашумленного сигнала из ирл, из видео, либаров, датчиков моментов на приводах, размер резурвуара должен расти экспоненцильно. Система быстро становится хаотичной и управлять ей невозможно. Дипинг захватил индустрию как раз потому что он предсказуемо масштабируется, а тут мы упираемся в потолок. К тому же динамическая память резервуара отлично работает на коротких промежутках, но она быстро затухает. Строиь на ней долгосрочное планирование, удержание контекста и сложные причиноследственные свзи пока не удалось. Резервуар хорошо сжимает сигнал в реальном времени здесь и сейчас, но он не формирует глубоких абстрактных представлений о физике мира. Скорее всего полноценный AGI для роботов действительно откажется от классического DL в его текущем виде с бесконечным KV кэшем и обучение м на каждый чих. Но движение сейчас идет скорее не в сторону резервуаров, а в сторону SSM моделек, по типу той же Mamba или JEPA. То есть нужен какой то инструмент который сохранит и обобщающую способность сетей и получит динамику биологического мозга. А резервуары это очень крутой, но очень нишевый инструмент для узких задач.
Спасибо за такой подробный ответ. Показательно, что Вы и тут пишете про определённые подмножества RС (типа LSM, SNN) с их ограничениями (это нормально, как понимаю, Вы работаете с тем, что есть), я же привёл RC скорее, как пример направления более близкого к мозгу по духу, чем обычный DL (но, конечно, как классический RC мозг тоже не работает). "Полноценные" резервуары всё же должны быть посильнее, чем "очень нишевый инструмент для узких задач".
Иными словами, основной посыл моего сообщения в том, что нам, как минимум, нельзя игнорировать ключевые свойства мозга, так как это, скорее всего будет создавать ограничения для эффективности, автономности, устойчивости, непрерывного обучения, казуальных моделей мира и т.д., а, скорее всего, надо воспроизвести физическую динамику мозга. И эти недостающие у DL механизмы особенно важны для роботического, автономного и энергоэффективного AGI. "SSM модельки, по типу той же Mamba или JEPA" вряд ли эту задачу решат полностью.
И, как вывод: нам нужны brain-like направления, чтобы решить проблемы, особенно в области робототехники и нейроморфного интеллекта.
Резервуары на базе аттракторных сетей осцилляторов выглядят тут значительно интереснее, к примеру. Такой резервуар будет более структурированным, чем классический, у которого часто случайная рекуррентная динамика. Это может помочь с быстрым затуханием памяти (устойчивые/метастабильные состояния), с хаотичностью (управляемые аттракторы), плохой роботической динамикой (естественные моторные паттерны и центральный генератор паттернов) и многое другое. Остаётся проблема обучения (точнее, направленного обучения, чтобы она строила полезные модели мира). Отдельная большая тема. И чем больше мы будем обучать внутреннюю динамику, тем ближе подойдём к полноценной нейродинамической архитектуре.
И да, гибридные архитектуры могут оказаться решением для AGI, где, например, аттракторно-осцилляторная динамика будет сочетаться с обучаемыми моделями представлений, моделями мира, памятью и планировщиками.
Походка за двадцать минут и миллион рублей: что RL сделал с двуногими роботами и во что упёрся их «мозг»