Когда агент становится больше, чем агент

[ToxaBes]

внешняя среда потеряла агента, схлопнула агента и среду в одну сущность

Сифонофоры (медузы такие). Это как раз схлопнутая сущность в виде физически сросшихся зооидов, каждый из которых специализирован (питание, движение, размножение, защита). На 98% состоят из среды (воды).

[Kamil_GR]

Не совсем так. У LLM среда - языковой корпус и агент - вычислитель, фактически представляют собой одно целое - веса модели. Для сифонофор вода это пассивная среда, не является пространством представлений.

Этот пример ближе к разделу с муравейником как системе, когда агенты встроились в систему так глубоко, что потеряли агентность как таковую.

[ToxaBes]

У LLM среда - языковой корпус и агент - вычислитель,

Мне представляется, что у LLM среда это море входящих текстовых запросов. И она не пассивная, как и море для медуз. Агенты (зооиды) вынуждены взаимодействовать чтобы выжить (одна конечная цель) и не имеют мозга (ближе к LLM чем муравьи), способны к ассоциативному обучению как собаки Павлова, хотя имеют сеть размером всего 0.00001B.

То что они срослись не мешает им быть агентами, ведь LLM агенты также "срослись" в едином адресном пространстве видеопамяти.

Возможно на выбор аналогий влияет то что подобными рассуждяниями я обычно занимаюсь отдыхая лежа на спине в море, а не например, гуляя в парке.

[Kamil_GR]

По здравому рассуждению для LLM текстовый вход это внешняя факторизованная среда, того же типа, что и сама LLM.

Если синтаксис сам по себе в промпте значения не имеет, значит человек отдает факторизованную семантику.

Которую LLM выполняют

преимущественно по фиксированным правилам

Интересно, что правила эти грубо представляют собой статистические закономерности.

И с точки зрения пользователя интеллект модели и есть система LLM+промпт.

Своей точки зрения LLM похоже не имеет.

Что касается медуз, то в этом вопросе не силен, поэтому пока не прокомментирую.

Upd: и здесь забавный вывод. Да у LLM нет своей точки зрения, но в системе LLM+prompt (контекст) могут самостоятельно возникнуть направления (предпочтения), которые человек может интерпретировать как признаки субъектности LLM.

Upd2: А если разворачивать дальше, то мы видим систему человек-промпт-llm, которая объективно претендует на субъективность, даже просто в силу того, что система включает человека.

Более того, для человека остальная связка превращается в его внешнюю среду, которая влияет на него самого.

Тут богатое пространство для спекуляций. Но очевидно, что система человек-контекст-ллм, слегка больше каждого элемента по отдельности. И кто чем управляет становится не так однозначно.