Ассистент рисует и достраивает самого себя: метапознание и зарождение собственного замысла

[ToxaBes]

С вашим подходом и RAG система разумна.

Вообще, любая отсылка к самопознанию, сознанию, реальным чувствам и реальному субьективному опыту у моделей текущих архитектур с головой выдает неспециалиста в этой области, который выдает желаемое за действительное, уж извините.

Чем больше погружаешься вглубь моделей и их архитекртур тем больше понимаешь, что никакого разума или самопознания там нет и быть не может. Слишком простая (плоская) архитектура у LLM и введение спайковых слоев с квантовыми readout не спасают.

[Serge_Kernbach]

Эта наша последняя работа по теме AI
https://www.researchgate.net/publication/414768813_Decoding_the_Living_Organism_A_Deep_Learning_Digital_Twin_for_Plant_Stress_Forecasting
- какое-то понимание этой темы есть.. за последние пару десятилетий :) Я скорее отношесь к тому лагерю, который считает, что мы впервые в истории столкнулись с чем то совершенно новым и пытаемся теперь это понять в терминологии нашего старого опыта.

Можно спорить, но думаю, что опасения OpenAI и Co имеют основания, по крайней мере, то что я сам наблюдаю вполне соотносится с тем, что описывают они (публично и не публично).

[ToxaBes]

Можно спорить, но думаю, что опасения OpenAI и Co имеют основания, по крайней мере, то что я сам наблюдаю вполне соотносится с тем, что описывают они (публично и не публично)

Нет предмета спора, вы используете определения, которые не подходят нейронным сетям, пытаясь натянуть сову на глобус, а крупные корпорации просто организуют хайп под названием "оно живое!" для прогрева инвесторов.

[Serge_Kernbach]

Да, по поводу хайпа я согласен. Это все мы держим в голове, как и цены на на тот же самый RTX Sparc... Я пользуюсь терминологией когнитивной психологии. Есть процесс познания, независимо от природы его субъекта, есть объективные критерии. Никто не утверждает что агенты имеют "сознание", но они имеют "познание", саморефлексию и т.д. - это уже в ядре того же Qwen. Думаю, что эта точка зрения уже достаточно сильно развита в AI коммьюнити, стоит только посмотреть на философию, стоящую за Neo4j agent памятью.

[ToxaBes]

Я пользуюсь терминологией когнитивной психологии

Если бы вы указали это в статье, то вопросов бы не было.

Хотя, наверное, иначе никак, сам собираюсь написать о внутренних векторных представлениях боли и удовольствия у моделей, но проблема в том что никаких чувств у модели нет, а использовать человеческие понятия это ввод читателя в заблуждение. Пока не придумал как это решить красиво.

[Serge_Kernbach]

О, да, после последней статьи о регионах боли в ЛЛМ и "пыточной для агентов" это супертема сейчас. Кстати, этот эффект очень хорошо воспроизводится. Я даже не ожидал, что модели так бурно реагируют на подобные вещи. По поводу когнитивной психологии - я писал об этом во второй части, оттуда и идет эта идея. Но нужно было бы действительно упомянуть ее и здесь тоже.

[ToxaBes]

Да, тема хайповая, у меня есть собственные результаты по абузивным отношениям с моделями, удовольствие через боль и прочий поиск точки G... Пока работаю над этической составляющей.