Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 19
Очень интересно. Еще интереснее будет прочитать продолжение этого обзора года через три :)
Отличная статья, к тому же написанная хорошим языком.
Подскажу еще один разворот: есть такой "системно-исторический метод": чтобы понять явление, разглядывать его не только "здесь и сейчас", но вглядеться в его историю.
Так вот, наше мышление зарождалась в головах длинной цепи животных, включая в конце цепочки высших - теплокровных млекопитающих. Со всеми механизмами, кроме языка.
То есть, распознавание, классификация, память, ориентация, координация, ориентация (карты) и т.д. возникло уже там, а язык наложился поверх этого.
Уже у этих животных были динамические модели реальности и объектов, сделанные без помощи слов, "аналоговые". Кстати, нейрон ведь штука где-то аналоговая?
Поэтому волк распознает зайца (у него нет слова "заяц", у него есть образ зайца и физическая модель зайца, позволяющая предсказывать его движение) и гонится за ним, предугадывая траекторию.
Имея, кстати, хорошую физическую модель себя самого, которая позволяет управлять своим телом, рассчитывать усилия мышц для бега и прыжков. Он не знает слов "лапа", "хвост", "зубы", но знает, что они у него есть и как ими пользоваться.
Когда стал оформляться человек, возник язык (или человек возник как продукт языка).
Язык сильно вмешался в когнитивные процессы: все получило свои этикетки. Образ "зайца" (идея) получил этикетку - слово "заяц". Действие "бежит" (вполне понятное собаке) получило этикетку "бежит". И так далее.
Вот этих физических моделей не хватает современному ИИ.
Имея, кстати, хорошую физическую модель себя самого, которая позволяет управлять своим телом, рассчитывать усилия мышц для бега и прыжков. Он не знает слов "лапа", "хвост", "зубы", но знает, что они у него есть и как ими пользоваться.
Это происходит потому, что он их чувствует, а не просто "знает" о них. Каждая мышца и ткань очень хорошо иннервируется, сигналы идут прямо в мозг без промежуточной обработки и команд (хотя нервные узлы/сплетения присутствуют). Мозг хоть и является аналогом MoE, делясь на отделы (по человеческой модели), однако вместе с тем и распределённый, таким образом он частично MoE и вместе с тем Dense модель (если сравнивать с современными LLM). Очень много переназначений, когда при повреждениях нейроны начинают выполнять смежные функции, пока не сработает частичное восстановление. При фатальном повреждении каких-либо органов, высвободившиеся мощности мозга перенаправляются на улучшенную обработку других сигналов (например при слепоте улучшается слух, так как необходимо ориентирование уже не по зрительному пути, а при глухоте развивают навык чтения по губам).
Физическая модель просто необходима для фактологического ИИ с минимумом галлюцинаций, иначе он навсегда останется мозгом в вакууме, а для этого ему нужно тело, то есть взаимодействие с окружающей средой - реальным миром, обратная связь. Ну и то, что описано в этой статье - 4 типа (взаимодействующих между собой) памяти, возможность менять самого себя без переобучения извне. Ещё я бы добавил эмоции - регуляторы силы воздействия сенсорной нагрузки, которые непосредственно влияют на память.
Тут дело сложнее. Сначала были неязыковые вообще модели. Сейчас есть такое направление в психологии, которое изучает мышление неязыковых существ (см. например José Luis Bermúdez: Thinking without Words. Oxford: Oxford University Press. 2003. 242 pp.). К которым относятся высшие животные и ... дети, которые еще не научились говорить. Люди тоже иногда думают без слов. Особенно если эти слова еще не изобретены.
Вот вам сильнейшее подтверждение:
По словам Эйнштейна: «Слова или язык в том виде, в каком они написаны или произнесены, по-видимому, не играют никакой роли в механизме моего мышления. Психические сущности, которые, по-видимому, служат элементами мышления, - это определенные знаки и более или менее четкие образы, которые можно “произвольно” воспроизводить и комбинировать. Конечно, существует определенная связь между этими элементами и соответствующими логическими понятиями. Также очевидно, что эмоциональной основой этой довольно неопределенной игры с вышеупомянутыми элементами является желание в конечном итоге прийти к логически связанным понятиям. Но с психологической точки зрения эта комбинаторная игра, по-видимому, является существенной чертой продуктивного мышления еще до того, как возникает какая-либо связь с логическими построениями в словах или других знаках, которые могут быть переданы другим».
То есть, даже (или именно) у людей высочайшего уровня развития аналоговые ментальные модели новых теорий, конструкций и т.д. предшествуют созданию текста. Да и как иначе, если эти инновации еще нигде не описаны лингвистически? Даже термины и слова еще только предстоит придумать. Скорее всего, такие модели создаются из нейронных сетей и у высших животных, «доязыковых существ». Только от способности доязыковых существ иметь такие модели и оперировать ими эволюция смогла двинуться в направлении «лингвистических существ», то есть, людей.
(см. Brewster Ghiselin. The creative process. A Symposium University of California Press: Berkeley and Los Angeles: 1954. 282 p. Pp. 32 – 33. )
Всё верно, то что вы расписали кратко называется - образное мышление. У человека оно постоянно в течение всей жизни. Мы тратим приличное количество энергии на "кодирование" образов в текст и ещё больше для абстрактного мышления. Язык, это способ внешней коммуникации, но не единственный - есть сигналы жестов, язык тела, даже особый взгляд и моргание - всё это визуальная информация, образы. Да и текст мы распознаём как образы изначально, потом складывая их в слова. Нам не нужно учиться образному мышлению - оно у нас врождённое, by design.
Так вот, что интересно. По-видимому (доказательств не найти, следов не осталось) язык как раз и начал создаваться для синхронизации этих "аналоговых" ментальных моделей в головах разных людей. Вот, например, на охоте. Вероятно, показывали рукой, а чтобы привлечь внимание издавали какие-то звуки. И постепенно вышло так, что на волка стали использовать один звук, на зайца - другой; бежать налево - третий, направо - четвертый. А потом придумали слова и для элементов этих моделей: голова, глаза, зубы, лапы и так далее. Слова для действий: бежать, стоять, бить.
Изначально нейронки были "мощной функцией/инструментом", поэтому могли симулировать интеллект. Теперь начинают понимать, что этого недостаточно и этот инструмент должен быть конченым звеном настоящей архитектуры интеллекта. Только вот никто(ну кроме одного человека (•‿•) ) не знает как работает реальный интеллект. По сути бесполезный шум вокруг нейронок, как были далеко от реального ИИ, так и остались.
Теперь начинают понимать, что этого недостаточно и этот инструмент должен быть конченым звеном настоящей архитектуры интеллекта.
Я в раздумьях - это опечатка или специально так написано? :) Аргументы есть за оба варианта.
Спасибо. Есть моменты, которые очень помогут в работе с ИИ ребенком.
Спасибо! "Схоронил", конкретика ценна. Купил недавно Выгодского книжку, но с полки взял не ту. Теперь у меня есть "Психология искусства". Читаю...
Спасибо за интересную и глубокую статью.
Действительно, так и идет (точнее, в сравнении с эволюцией Природы, молниеностно летит) переход от LLM к след. шагу развития ИИ, во-многом уже повтояющий функции человеческого мозга о которых вы написали в статье.
И уже делают для ИИ “тело”, а там и до со-знания всего ничего.
Да, об этом интересно узнать, но ведь можно не только лишь читать про открытия, но и самостоятельно сделать следующий шаг в познании (ИИ и себя) - и для этого лишь задать вопрос на “шаг дальше”: "Хорошо, сейчас для ИИ изучают как идет мышление в человеческом мозге. А как оно шло без мозга и памяти (которые на базе нейронов)? Ведь, согласитесь, до их появления (~800 млн. лет назад) Природа не была “белым шумом”, а так же выживала и развивалась, а значит имела и некое “мышление” (и причем тут чувства, и нужны ли они ИИ). Может глянуть глубже? Может даже к основам?
Правда тут уже удобнее и быстрее смотреть не с т.з. антропоцентризма, а лучше подойдет космоцентризм.
Возможно, в этой связи вас заинтересует статья “Естественный интеллект”, где рассматриваются проблемы понимания (т.е. “что” это) интеллекта, ума, разума, сознания, чувств… именно с т.з. космоцентризма.
https://samlib.ru/j/jurewich_d_p/ei.shtml
Канеман не был первым, кто заметил это разделение — у него были предшественники, Стэнович и Уэст в 1990-х. Но именно его формулировка стала языком, на котором всё человечество стало обсуждать собственное мышление
Стэнович и Уэст тоже были далеко не первыми.
Первыми "Систему 1" (Манас) и "Ситему 2" (Буддхи) описали древнеиндийские философы (Вьяса, Патанджали, Шанкара) примерно за 2,5 тыс. лет до Стэновича, Уэста и Канемана.
Если ты украл у кого-то идею, заменил термины и выдал за свою - это называют "плагиатом". Но если идеи 2,5 тыс лет и ее авторы давно умерли - то тогда это не плагиат, тогда можно ))
Но в некоторый момент одна из них — та, чьё содержание прямо сейчас наиболее значимо — «выигрывает право» транслировать свой текущий результат в главный поток сознания.
Как выигрывается это право? Что в мозге человека является тем самым арбитром, который это определяет?
В 2025 году на главной мировой конференции по машинному обучению (ICML) была опубликована программная статья с однозначным выводом: чтобы ИИ-агенты по-настоящему могли улучшаться сами, без человеческого надзора, им нужна метакогниция как встроенный компонент
Не могли бы вы дасть ссылку на эту статью? Или хотя бы ее название?
Нашел такую статью: https://icml.cc/virtual/2025/poster/40177
Глубокий и системный материал! Важность этой статьи в том, что она фиксирует фундаментальный переход: индустрия ИИ перестала гнаться за размером моделей и начала переоткрывать «архитектуру мышления». Согласен с автором — мы действительно строим зеркало, которое подсвечивает пробелы в нашем понимании собственного разума.
В дополнение к предложенным архитектурным решениям, эту модель можно расширить, если взглянуть на ИИ не как на замену разуму, а как на Систему поддержки принятия управленческих решений (СППУР). Многие проблемы, о которых пишет Ян Лекун, находят решение в плоскости управления смыслами.
Современные модели часто остаются «плоскими», так как перемалывают терабайты данных без понимания их веса в реальности. Для их гармоничной работы необходима объемная Информационная модель мироздания, строящаяся на трех векторах:
Сущности — исследование внутренних свойств и функций объектов.
Явления — динамика процессов и алгоритмов взаимодействия.
Материи — физические ресурсы и базы данных.
Краткое пояснение к схеме: На схеме представлена объёмная модель любой системы. Три оси — Материи, Явления и Сущности — формируют тело системы в виде шара. Мера здесь выступает не просто параметром, а граничным потенциалом (размером этого шара, длиной его окружности), который контролирует соразмерность всех осей и обеспечивает гармонию всей системы.
Именно понимания «Сущностей» и «Меры» не хватает современным ИИ. Наглядный пример — галлюцинации. Это результат нарушения гармонии: гипертрофия вектора «Материи» (массива токенов) при полном отсутствии «Меры» и «Сущности» (цели). Без смысловых границ, заданных человеком, шар деформируется, и система выдает статистический шум вместо достоверных данных.
В этой связке именно человек выступает тем самым Конфигуратором, который задает Меру. ИИ становится «экзоскелетом для разума», автоматизируя рутину нижних этажей Пирамиды знаний, чтобы человек мог высвободить когнитивную энергию для восхождения к уровню Мудрости.
Статья — мощный триггер для дискуссии о том, как не стать «биологическим приложением к серверу», а научиться использовать ИИ для проектирования будущего. Ответственность за результат — это единственный рубеж, который отделяет живой разум от самой совершенной машины.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Машина, которая учится думать