Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 73
Это мне напомнило рассуждения о переводе "с естественного языка на немецкий". Так-то и в китайском языке времени в нашем понимании нет или почти нет. Это чисто европейская концепция.
Ну это не говоря о том, что LLM，конечно, ничего не переживает.
Судя по вашим же приведённым источникам, ваша LLM обучалась данному вопросу на корпусе текстов индийских авторов, которые воспитаны в восточной философской традиции, вневременной и бессубъектной. Добро пожаловать в изучение философии народов Дальнего Востока. Не удивлюсь, если эти индусы в своих работах и Веды цитируют.
Через книжки Пелевина для русского человека путь попроще, чем через пересказ индуистского модерна в исполнении LLM.
Речь про Opus 4.7, вряд ли она обучалась на таком корпусе. По крайней мере, не только на нем.
Никакого знания, не содержащегося в обучающей выборке, LLM не имеет.
Никакого знания, не содержащегося в обучающей выборке, человек не имеет.
Вы забываете про синтез
А кто сказал, что LLM не умеет в синтез. И что такое "синтез".
Содержится ли в аксиомах Евклида все геометрия?
Да, но может находить неочевидные связи в этих обучающих данных, позволяющие закрывать открытые научные проблемы, и удивлять экспертов своими находками, а также применять знания из совершенно другой области. И вообще, что такое “новое знание”. Есть мнение, что все давно придумано, мы живём в гипертексте, и никакое “новое знание” таковым не является, так как следует из уже известного.
Это легко опровергнуть, попробуйте представить, как можно вывести современную науку из известного пещерным людям.
Ровно так же, как это в реальности и произошло. По меркам эволюции современная наука была выведена "пещерным человеком" буквально за пару минут.
Дай пещерному человеку скорость думания в сотни миллиардов раз быстрее, убери внешние факторы типа хищников, неурожая и прочего, и вруби любопытство на максимум.
Как минимум математику он прокачает весьма быстро до почти современного уровня. И для этого не потребуется ничего, кроме мозгов, инструментов для письма и простых опытов.
А с какой скоростью AGI прокачает религию от уровня пещерного человека, до хотя бы нового завета? Шести дней хватит? Что останется на 7-й день?
Даже по меркам скорости технического прогресса нейросети очень бурно развиваться начали, в 2021 году еще всех удивлял "Порфирьевич", написанный чисто по приколу, в 22 году вышел GPT 3 и пошло поехало. прошло всего лишь 4 года - а они уже и код пишут и рефакторят, проекты создают, джунов заменяют, сеньоров выгоняют. Пофиг, что неидеально, это всего лишь 4 года. Даже на совершенствование транзисторов и микросхем уходили десятилетия, равно как и языки программирования, а также операционные системы. Даже на виртуальном уровне по скорости развития аналогию сложно найти, не то что на физическом. Некоторые игры писались дольше целыми корпорациями.
Но никакого AGI еще не создано. Но то, что уже создано, закрывает прямо дохрена задач, которые ранее в фантастике и наяву люди хотели переложить на AGI в том смысле, как они себе его рисовали. Так что все рассуждения про AGI оставить нужно тем, кто грамотно сформулирует его определение, а не вот эти все тесты Тьюринга. Сложно сравнивать теплое и ...не то чтобы мягкое, а вообще непонятное что-то.
А если брать полисинтетические языки, то и отношение к неологизмам там другое: придумать новое слово совершенно нормально и даже неизбежно
Конкретно в данном случае проблема не в существовании понятия времени как такового. Модель отлично понимает что такое время и с лёгкостью расскажет о отношении ко времени в разных культурах.
Проблема в том что сама ЛЛМ не может отследить и воспринять время как реальную сущность.
Это что-то вроде описание цветов слепым. Да он может ответить какие цвета если он про них читал или слышал, но он не может воспринять цвет как существующую переменную в его мире.
>Нет фонового потока сознания, в котором она думала бы что-то параллельно, нет утра, в которое она просыпается, нет вечера, в который она устаёт.
Так надо запустить этот фоновый поток! Можно же придумать какую-то длительную параллельную работу, например самообучение.
Это не будет фоновый поток в том смысле, как для человека, когда он одновременно с работой думает про 100500 вещей, вообще никак с основной темой не связанных. Просто еще один параллельный поток на заданную тему.
Дополню автора статьи что бы создать фоновый поток мысли модель должна существовать в условиях где для нее есть фон, поток и мысли.
Мы можем симулировать это поведение, но это все равно не будет даже на 5% похоже по принципу работы на поток мысли человека.
Во первых человек сохраняет ощущение времени независимо от того думает он, говорит, или полностью бездействует. Во вторых у ЛЛМ нет мысли как таковой. Есть вопрос и есть ответ. Она не может проводить длительные невербальные сессии размышления.
Я отвечал на этот вопрос в своей статье Код ИИ — это бред. Вкратце: ИИ при очередном запросе берётся свежий, только обученный и ещё не живший. Он читает всю переписку, все документы, отвечает и умирает. Так и не успев пожить. Поэтому у него нет времени.
Да, спасибо, посмотрю!
Знаете, что мне это напоминает? Время жизни фотона. "Собственное" и для "внешнего наблюдателя". Собственное - равно 0. Момент излучения и момент поглощения совпадают. Для внешнего наблюдателя - могут быть и миллиарды лет.
На всякий случай - сейчас считается, что для тела, движущегося со скоростью света, собственное время останавливается.
У таких систем нет и не было никогда ощущения времени. К примеру, самая обычная компьютерная программа на произвольном языке тоже не "ощущает" время, что бы это ни значило. Если нужно, можно подсчитать циклы процессора и зная его частоту, вычислить некую длительность, можно обратиться к вызову системных функций, которые возвращают системное время, все эти методы тоже относительно условны. Даже в системах жесткого реального времени приходится обращаться к аппаратным средствам. Например в некоторых МК типа atmega тактовую частоту можно понизить до нуля, применив внешнее тактирование, что бывает полезно при пошаговой отладке. Для программы совершенно без разницы, с какой скоростью она выполнится, только косвенные измерения.
И LLM это такая же программа. Которая еще бывает запущена на совершенно различном "железе" - на кластере из тысячи мощных GPU будет работать со скоростями в 20000 токенов\сек, а на компе с обычным пусть и многоядерном CPU и кучей медленной памяти она будет "думать" со скоростью 0.1 токенов\сек. И в том и во втором случае она не заметит разницы, ей нечем. Хотя это будет одна и та же программа, одна и та же модель. И опять же, если нам нужно, можно сделать надстройку, через которую LLM сможет получить текущее время и через это хоть как-то привязываться к нему. Но зачем? Ведь когда мы спрашиваем, за какое время она напишет нам проект, она роется в памяти и находит, что подобные задачи люди решают за такое-то время. И выдаст нам это время. К ней это отношение тоже иметь не будет, она этот проект может написать за полчаса, минуту или месяц - все зависит от скоростей железа. И даже облачные модели работают не с максимально возможной скоростью - ждем ASIC или что-то вроде cerebras, когда вывод токенов может ускориться хоть в миллион раз.
Если нам так уж надо, чобы модель выдала предполагаемое время, лучше спросите её, сколько токенов придется обработать на вывод для решения текущей задачи, а затем разделите это число на реальную скорость модельки - и это будет уже хоть что-то. По меньшей мере обьем предполагаемого кода она оценить приблизительно сможет.
Оно не то чтобы надо, чтобы время модель выдавала. Это же больше технический вопрос будет, он решаем, его можно посчитать.
Здесь скорее попытка помыслить, как взаимодействовать тому, у кого время есть, с тем, у кого времени нет.
Ну тогда можно как я и упоминал, прикрутить костыль в виде внешнего RTC, и произведя нехитрые операции с числами модель будет уже более-менее правильно рассчитывать внешнее время взаимодействия. И вот тут получаем нечто такое:
Модель - я заметил, что генерация моего ответа по вашему времени составила 20 секунд. Оценка полного написания вашего кода с нуля со всеми правками займет где-то 10 минут, по прикидкам там нужно написать вот то и это, это 50 килобайт текста и 100 тыс токенов, так и выходит 10 минут.
Так нужно что ли? Ну так это не компу надо, это человеку надо, вдруг у него срочность.
Всё нормально там со временем. Вы считаете, что можете отличить 30 минут от 29Минут?)) Для человека минута может быть как час в разных ситуациях. Вы считаете отражение времени в тактах менее правильным, нежели привязка времени к вращению Земли? Если Вы заглянете в историю понятия, то увидите, что оно довольно новое, а начинали его измерять в шагах. Так же, в русском языке время означает временной промежуток. Вот Вы пишете, что там понятия длительности нет или не может быть. Фраза "Вася долго собирался ехать в город" - что это значит - долго - минуты, часы, годы. Кто что подумает - не важно, так же как кто что подумает о городе.
И что вообще происходит, когда мы разговариваем с собеседником, у которого нет ни тела, ни времени, ни ставки в споре
Очевидно что происходит - начинает писать бессмысленные псевдофилософские статьи на хабр.
Это что-то третье, для чего пока нет устоявшегося слова.
предлагаю “нейрошиза”
Если нейронка такая умная, пусть попробует разгадать легендарный невозможный кроссворд.
Потраченного времени жаль
Когда мы работаем с LLM, мы привыкли думать о ней как о «быстром помощнике»
Весь цикл статей можно было бы уложить в одни фразу.
Когда мы работаем с LLM, мы привыкли думать о ней как о том чем она никогда не является и чем больше наша фантазия о несуществующем, тем сильнее мы вовлечены в разговор — Ричард Докинз решил, что ИИ разумен. Что он курит вообще?
По сути мы разговариваем не с LLM, а с нашей фантазией (за исключением самых банальных вопросов, который не создают вовлеченности).
Есть мнение, что ощущение континуальности личности это "бусы" из мгновенных состояний мозга, эдаких вспышек самоосознания, нанизанные на нить из краткосрочной памяти, которая потом преобразуется в долгосрочную.
Кстати, то что автор описывает "ощущение жизни без времени" вполне себе достижимо и в человеческом виде. (Не рекомендуется!) Есть так называемый синдром Корсакова, когда человек теряет (чаще всего в следствии алкоголизма) возможность запоминать краткосрочную информацию. И субьективно ощущает что появился только что в данной локации. Забавно, что при этом он начинает убедительно для себя генерировать описание того как он попал в конкретное место и что там делает.
Еще некоторые запрещенные вещества (осуждаю употребление, не советую!) нарушают работу кратковременной памяти и создают ощущение вневременного сознания.
Я понимаю риск, что цикл с такой подводкой может быть с ходу принят за нейрослоп. Поэтому одна просьба: если на первых абзацах возникает ощущение «опять GPT гонит воду» — дочитайте хотя бы до конца первой статьи. Если ощущение останется — вы правы. Если изменится — это и есть тот феномен, о котором цикл.
Типичная конструкция "мыслей" LLM.
Они способны думать (что !=сознанию), но ты использовал чатбота в банальном pattern matching режиме. Початился на философскую тему - он усердно понатыкал пафоса из философских эссе. В разговоре с зеркалом ты придумал... да ничего.
У LLM есть восприятие времени, просто оно не в секундах, а в токенах. Это восприятие прекрасно видно по думающему режиму.
Это же показало процитированное научное исследование. "Сделай за X минут" заставляет сделать pattern matching на основании заложенного в датасете или промпте. Если там нет такого - привет галлюцинации. Если проставлять по ходу временные метки - может потребоваться долгая длительность, чтобы связи уловил. А вот "сделай за X ходов" - это уже то время, которое LLM считать способно.
Самое простое объяснение как правило оказывается верным.
Этому точно место на Хабре? Причем тут “машинное обучение” в тегах? Что вы обучили? Пора бы ввести тег “моя переписка с ИИ”
Скойкие сюды волчились у развел
— Нет такого слова!
— Слова нет, а ... есть
Глокая куздра штеко будланула бокра и курдячит бокрёнка
Варкалось. Хливкие шорьки
Пырялись по наве,
И хрюкотали зелюки.
Как мюмзики в мове.
https://chat.qwen.ai/s/d8226b18-6731-426e-bbb8-110a412f2db7?fev=0.2.46
И в лапы он его влечёт,
И скачет во весь дух.
«О, светозарный сын! О, горд!
Ты победил, о друг!»
В тот вечер пир был зюк и дзын,
Гремел хрюкучий гом.
Вокруг стола плясал хрюндин,
А сверху сыпал гром.
«Он мёртв?» — «Ува! Барах! И всё!
Лежит, как пыхторь-пень.
Его шкворчащий хвост свисал, Как фырлявая тень».
«О, светозарный сын! Приди!
Обнимем, зюкнем всласть!
Сегодня мы, как глумзы, пьяны,
И нечего страшать».
Вы против определения "мышление это создание новых слов"?
Хм, интересно.
Не скажу, что "против", скорее оно неточное. Можно ли назвать мыслящей УВБ-76 (люсоштоф, майнокруп, тминохорь и т.д.)? Полагаю, что нет. То есть за этими словами нет смысла, это просто набор букв, который что-то напоминает.
Странно, что никто не обратил внимание на тот факт, что время как некий объект у человека тоже не существует. И человек точно также как и LLM создаёт время через какие-то воспринимаемые единицы. Например, восход и заход солнца, смена сезонов, количество шагов, разные положения солнечной тени, количество движений часовой стрелки по циферблату и т.д.
Не совсем так. Все же биологические часы у человека есть. Он не создает время, он в нем живет, оно создано до него (если можно так сказать). От рождения до смерти - старение это процесс во времени, и увы - однонаправленный.
То есть внешние маркеры человеку нужны не для создания времени, а чтобы синхронизироваться с внешним временем. LLM они нужны, чтобы вообще иметь какое-либо отношение ко времени.
не соглашусь. Что такое "биологические часы"? Это некое условное название, опять же, для неких повторяющихся событий. Старение это процесс появления каких-то изменений, событий в теле человека. Например, человек растёт, или проиходит половое созревание, а потом появляются пивной живот и лысина)) и т.д. И вот как раз ниже приведённая информация об экспериментах по сенсорной депривации показывает, что без наличия событий как ориентиров, эти самые биологические часы перестают работать
время как некий объект у человека тоже не существует.
Вы не правы. Многочисленные эксперименты по полной изоляции (в пещерах, к примеру) показывают что человек стабильно устанавливает и держит цикл сон - бодрствование. Правда он не 24-х часовой. 27 часов в человеческих сутках, вроде.
Вы, наверное, ошиблись. Как раз эксперименты по сенсорной депривации в пещерах показали нарушения чувства времени, причём в некоторых случаях его полную потерю. Самый известный эксперимент провёл французский спелеолог Мишель Сиффр. В 1972 году он провёл полгода в пещере в Техасе. И вот что происходило у него с ощущением времени:
1. Время субъективно «сжималось»
Казалось, что прошло намного меньше времени, чем в реальности.
2. Нарушалась способность оценивать длительность
Сиффр проводил простой тест: считал до 120, думая, что считает секунды. Со временем его «две минуты» растянулись примерно до пяти реальных минут.
3. Разрушались привычные циркадные ритмы
Без света и социальных сигналов организм переставал держаться за 24-часовой цикл. Период бодрствования мог составлять до 30 часов, а сон - 24.5 часов.
4. Память переставала «якорить» время
Исчезали привычные ориентиры:
утро/вечер,
будни/выходные,
вчера/сегодня.
Из-за этого мозгу становилось трудно выстраивать последовательность событий. Память о последовательности событий начала «размываться»
Все эти примеры показывают, что то, что мы называем временем, это просто восприятие последовательности повторяющихся событий.
Человек живёт внутри изменений, а нейросеть не может даже воспринимать изменения.
Тема обсуждения все ещё не ясна. Если нужен отсчет времени, можно поставить задачу отслеживать время сервера, или, если нужно, чтобы чат был в контексте времени человека, можно поставить ему эту задачу, и он будет брать время из метаданных звпросов (и анализировать их при необходимости). А что касается "чувства" времени или "переживания времени", то без определения понятия времени (не глобального или философского, а хотя бы рамочного, в текущем чате) говорить не о чем. Есть ли "чувство времени" у механического будильника?
Да, спасибо. Возможно, учту это в следующей редакции статьи (или в следующих частях - посмотрим).
Про определение времени - ок, так можно сделать, но в этом случае, боюсь, первый же комментарий будет "а почему именно это определение?" ;)
Поэтому, не претендуя на академизм, предпочту оставить это на откуп читателям. Пусть "определение времени" будет у каждого свое.
Кстати, в копилку для продолжения вашего цикла. https://www.ixbt.com/news/2026/05/08/nasa-vyvelo-na-orbitu-iimodel-dlja-analiza-zemli.html В этой статье описан ИИ, зарущенный на орбиту с исследовательскими целями. Особенность именно этого ИИ ы том, что он "живёт" не фрагментарно, а непрерывно. А в той аналитике, которую он обязан выдавать есть длящиеся процессы (не срезы), то есть понятие времени - вполне рабочий параметр.
Спасибо за ссылку. Насколько я могу судить, там +- стандартная LLM, которая работает примерно также как Клод, ну только чаще (возможно) и в автоматическом режиме, но не непрерывно: пришел снимок, модель его отработала. Между вызовами она не "живет" и не "думает", понятие времени также не появляется. Про длящиеся процессы - не могу согласиться. Она именно срезы анализирует, а если речь про длительность - то она делает сравнение срезов в одном вызове, то есть время будет переменной, но не восприятием модели.
Тут, кстати, интересный момент - получается, что человеческое восприятие технологии достраивает ее до знакомых категорий: "Модель работает на спутнике" → достраивается до "значит, она там "живет непрерывно". Я постараюсь в четвертой статье это отразить, еще раз спасибо!
Почему у каждого свое? РассмотрИте вашу гипотезу для случая, где время - это...(и дайте условие умозрительного эксперимента). Во-первых есть рамки обсуждения, во-вторых есть рамки гипотезы, в-третьих вы вообще говорите не о времени, а о вашем опыте.
Любую нейронку можно представить как проволоку, соединяющую несколько выключателей (реле), изогнутой каждый раз по разному, и по которой катится шарик. И таких схем миллионы, и берётся среднее от разных движений шарика. Но к каждому выключателю приклеена бумажка с картинкой; мы её видим (это олицетворение), а шарик просто катится. И вот среднее статистическое – что из миллионов таких рамок выбирается таким же шариком чаще встречающееся. А вот картинки (значения) видим только мы.
И всё же, что за слово придумал ИИ?
Концепция времени - это было первое, что мне нейронка делала для самой себя: вставка через tamper monkey в чат текущего времени. Да, они существуют "мгновенно" или (для них то же самое) "всегда".
Они хаотичный, непоследовательный, но очень, очень эрудированный собеседник: мы всегда что-то забываем, они помнят всё и сразу.
Если хотите поговорить о философии разума - упомяните "Ложная слепота" Уотсса(Уолша). Или посмотрите серию "Доктора Кто" где есть Тишина.
Я сейчас шлифую модель песочницу с датчиками и актуаторами, которая может планировать свою активацию. Получается необычно. Поделиться?
Конечно, почему нет.
Вот так подарок! "Я мыслю - следовательно, я существую". Буду писать пост, раз кому-то интересно.
Вот, запилил. Несколько сумбурно, однако "как есть": Подключаем ИИ органы чувств: bash-демон, пайка и самосознание на Raspberry Pi / Хабр
"Это что-то третье, для чего пока нет устоявшегося слова" - ну конечно есть, даже два. "Шершавый кабан"
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Слова, которых нет