Information
- Rating
- 1,141-st
- Location
- Москва, Москва и Московская обл., Россия
- Date of birth
- Registered
- Activity
Specialization
Разработчик игр, Real AI Developer
Ведущий
From 150,000 ₽
C#
.NET
Проектирование архитектуры приложений
Создание архитектуры проектов
Разработка программного обеспечения
Visual Studio
C++
C
Assembler
Rust
Ну почему сразу обманывали-то? Ну разве можно так про бабушку? Нет, они все просто очень, очень, очень, очень, очень, очень сильно приукрашивали
Коллега, чтобы Вы не думали, что я фантазирую, вот Вам матчасть. Понятие субъектности и оперирования смыслами - это не мои мысли, это Тьюринговская лекция Ньюэлла и Саймона (1976), PRS-архитектура Джорджеффа (1987) и другие работы (отсортировал по годам):
"Programs with Common Sense" (McCarthy, J., 1959);
"Computer Science as Empirical Inquiry: Symbols and Search" (Newell, A., & Simon, H. A., 1976);
"Reactive Reasoning and Planning" (Georgeff, M. P., & Lansky, A. L., 1987);
"Intelligent Agents: Theory and Practice" (Wooldridge, M., & Jennings, N. R., 1994-1995)
Лично для меня, произошла дикая, почти тотальная подмена понятий: мы называем интеллектом "статистическое эхо", а "агентами" - простые программные циклы, напрочь забыв о том, что эти термины имели под собой строгую инженерную и философскую базу.
Читаем официальную документацию таких систем как Soar, ACT-R и т.д.
А так, я сегодня потрудился и посмотрел в исторические документы и... в период 1956–1990 годов терминология была несравнимо более строгой и единой, чем в 2026 году. Путаницы в базовых понятиях, что такое "агент", "знания", "вывод", практически не существовало, так как оба лагеря (коннеционисты и симолисты) опирались на общую математическую и философскую базу.
Когнитивно-символьные системы
Коллега, подскажите пожалуйста, какую машину лучше купить - дорогую, которая очень часто ломается, или дешевую, которая никогда не ломается?
Вечный холивар - коннекционисты vs символисты - чьи термины "правильней" и лучше отражают реальность
Вы не можете сделать LLM агентными, так как ядро не является агентом. А у КСС ядро само по себе агент. Я даже уже для себя такое придумал: в КСС - "король выбирает себе свиту", а у LLM - "свита делает короля"
Это не создание экспертной системы (ЭС), а проектирование нейро-символьной системы, где когнитивно-символьные системы (КСС) являются ядром, а LLM выступают в роли "глаз" (интерпретаторов лидаров, текста и датчиков) и "мышц". Такое разделение труда сейчас становится мейнстримом в серьезных разработках. Важно понимать отличия:
КСС - это не ЭС. Классические экспертные системы 80-х на жёстких правилах "если-то" плохо масштабировались. Современные когнитивные архитектуры - это динамические системы управления знаниями и планирования. В нейро-символьном подходе именно КСС обеспечивает логическую целостность и соблюдение протоколов, чего нейросеть сделать не может в силу своей вероятностной природы;
LLM - это периферия. Использовать нейросеть как "базу знаний" (как вы предлагаете) - рискованно, так как она не владеет логическим выводом, а лишь предсказывает токены. В правильной архитектуре база знаний и логика лежат в КСС, а LLM лишь переводит неструктурированный ввод в символы для ядра и генерирует понятные ответы на выходе и под вниманием отдельного КСС прувера;
ЭС почти "ушли в прошлое". Если кто-то и делает сегодня классические ЭС, то разве что для игр, где не нужна мощь и точность КСС, а LLM просто сожрет все ресурсы, необходимые для рендеринга. Из "классических" систем, по сегодняшний день, активно используется DXplain в медицине и то благодаря колоссальной базе клинических данных, накопленной за десятилетия.
Для символистов нет разделения на ИИ, AGI или ASI - есть просто термин ИИ, который по определению подразумевает систему, обладающую субъектностью, логическим выводом и способностью оперировать смыслами.
Все эти "новые" термины (вроде AGI) возникли только потому, что современные методы (LLM) на самом деле ИИ не являются. Это статистические калькуляторы, которые имитируют результат интеллектуальной деятельности, не обладая самим механизмом мышления
LLM не является агентом по своей сути;
Если ядро системы генерирует ошибки, то все остальные инструменты, работающие с ядром - они просто пытаются латать эти ошибки, но только на момент результата. Сами то ошибки появятся и в будущем, и придётся их латать - следовательно на них будут впустую тратится вычислительные ресурсы
Поставил Вашу фразу в закладки
Давайте вспомним о Вашей фразе в декабре этого года, когда LLM станет - системой для богатых
Вот только у когнитивно-символьных систем есть оба вида памяти (STM и LTM) еще с 1983+ годов, а у LLM только одна - STM
Что объединяет КСС и JEPA:
"ненавидят" "чистые" LLM за их болтливость и ошибки (галлюцинации);
пытаются дать ИИ Здравый Смысл (Common Sense).
В чём противостояние:
борются за одну и ту же вакансию - "управляющее ядро";
конкуренция в области физического взаимодействия;
Логика vs Интуиция;
P.S.: А если все таки полетим на Марс, то я буду одним из первых, кто захочет организовать MCRN ("Expanse")
А где тренды-то? Я вижу только "хвалебную оду" ЛЛМ. Вот что точно станет трендом, так это нейро-символьные архитектуры (гибриды) и вместе с ними будут больше говорить о когнитивно-символьных системах (Soar, ACT-R, CLARION и др.), т.к. являются ядром в некоторых нейро-символьных системах;, будут говорить и о JEPA Яна ЛеКуна; о "чистых" ЛЛМ будут постепенно забывать
Когда народ подсядет на "наркотик" под названием когнитивно-символьная архитектура, то к ЛЛМ вряд ли захочется возвращаться - к хорошему быстро привыкаешь, да и рост цен железа этому поспособствует
Уважаемый, вы заблуждаетесь. Нейро-символьные технологии, где символьная часть - это ядро, а LLM - лишь "глаза" (лидары и т.д.) и "мышцы", уже давно и успешно внедряются в критических отраслях:
Neuro-Symbolic Concept Learner (NS-CL) - разработка MIT (лаборатория Джошуа Тененбаума) и IBM;
Safe Autonomy - проект NASA и SoarGroup (КСС Soar);
ACE-TRUST - проект DARPA и SoarGroup (КСС Soar);
IBM Neuro-Symbolic AI (проект в области комплаенса и аудита);
IBM Watson Health / Mayo Clinic - медицина: клинические рекомендации и фармакология;
и т.д. и т.д. и т.д.
Символисты не упираются в том, что даже у нас есть конкуренты и некоторые технологии, в отношении "разума", действительно "наступают нам на пятки". Но наши конкуренты - это другие архитектуры интеллекта, такие как JEPA (Ян ЛеКун), а не "статистические попугаи", которые "сжигают все ресурсы планеты" и не могут гарантировать точность.
Есть один маааленький, но важный нюанс. У КСС дорогая только разработка самого ядра, а стоимость разработки модулей, интеграция, обслуживание и наполнение знаниями, в 5–10 раз ниже, чем у LLM. 99% разработчиков модулей для КСС никогда не лезли в ядро - это и не требуется. Для КСС не требуются топовые видеокарты и GPU, что значительно снижает, до 20 раз (!!!), стоимость покупного оборудования или аренды оборудования. Ну и безопасность - систему нельзя "сломать" промтами (промт-инъекция), есть проактивный этический корпус
Я про него почти и забыл. Действительно, данная работа считается важным вкладом в области когнитивного ИИ и робототехники, предлагая альтернативу традиционным символьным подходам и жестко запрограммированным системам знаний. Но почему его идеи не стали мейнстримом, даже в альтернативных направлениях? Ему не хватало мощного управляющего движка, который мог бы масштабировать эти схемы до уровня сложного поведения.
Частично его идеи были реализованы в архитектурах Soar и ACT-R. Там "схемы Дрешера" превращаются в продукции и чанки, которые работают внутри строго структурированного Цикла Принятия Решений (Decision Cycle). Если хотите понять, как "обработка знаний внутри" работает без галлюцинаций, как у "некоторых", советую посмотреть именно на Decision Cycle и механизм Subgoaling (автоматической постановки подцелей) в Soar.
Чтобы понять разницу между "базой правил" и "архитектурой познания", нужно идти к истокам:
Аллен Ньюэлл (Allen Newell), "Unified Theories of Cognition" - это "библия" символистов. Именно здесь заложены принципы того, как разум управляет символами для решения задач;
Джон Лэрд (John E. Laird), "The Soar Cognitive Architecture" - подробное описание самой мощной КСС. Лэрд - прямой последователь Ньюэлла, и его книга объясняет, как работает "ядро" Soar;
Гарри Маркус (Gary Marcus) - его работы (например, "Rebooting AI") и статьи в 2020-2025 годах стали главным рупором критики "чистого коннекционизма". Он активно продвигает идею гибридных систем, где символы отвечают за здравый смысл (Common Sense).
Ваш пример со связкой LLM и Lean имеет крайне мало отношения к настоящему символизму. Если LLM просто генерирует варианты, а Lean их проверяет, то мы получаем классическую задачу о "печатающей обезьяне". Lean - это узкоспециализированная разработка для верификации, она не подходит на роль управляющего ядра нейро-символьной системы и всегда будет оставаться лишь пассивным прувером.
Давайте рассмотрим архитектуру Soar. Она существует в военной версии (проекты DARPA) и в гражданской (публичной). Принципиально они не отличаются: у них один "движок", одна логика поиска в пространстве задач, они полностью совместимы и одинаково "умны" в своей основе - это пример универсальной архитектуры.
А вот LLM с каждой новой итерацией, особенно в виде специализированных "олимпиадных" моделей, уходят всё дальше и дальше от того, чтобы называться настоящим ИИ. Они превращаются в набор дорогостоящих узких костылей.
Настоящий интеллект требует единого универсального управляющего ядра, которое эффективно решает задачи любой сложности через структуру знаний, а не через перебор. Такое ядро должно определять стратегию мышления и иметь возможность гибкого расширения функций при помощи модулей, а не просто надеяться на случайное попадание нейросети в правильный ответ.
Вы меня не слышите? Давно уже нет никаких if else. Есть пространство состояний (пример: AtomSpace в OpenCog Hyperion) и динамический вывод - это не статичное дерево решений, а гибкая модель рассуждения.
В Therac-25 не использовалась экспертная система, она была построена на устаревшем коде, который к экспертным системам не имел никакого отношения.
Список экспертных систем в медицине 70x-80x (США): MYCIN, INTERNIST, PUFF, DXplain