Нужно учитывать кроме э.э еще и обслуживание, устаревание, поддержку производителем, а то получится как с мобильниками, одноразовый как презерватив по стоимости самосвала.
Мне кажется он имеет ввиду принцип работы как голосовой режим, то есть как джарвис у тони старка, чтобы она сама могла найти себе применение не ждать команды и при этом как бы всегда понимать что происходит что она делает
Эммм.... ну как бы у меня агент так и работает, тут нечего такого необычного. Он всегда понимает что делает, и если нужно не ждет пока его пнут, а ставит себе задания сам, все зависит только от контекста и ситуации. К примеру, у меня у агента есть наблюдение за компьютером, то-есть код собирает данные, сетевую активность, работу железа, еще там всякое разное, и отдельный контур в дальнейшем анализирует эти данные, далее агент получает этот отчет и дальше действует сам, я не пишу ему инструкции и не пинаю, он сам принимает решение что с этим делать, и если есть угроза какие действия релевантные и что надо предпринять. Это, как я говорил в предыдущем своем ответе, порождается именно потребностями, а они выражены в простых казалось бы действиях, получить отчет, разобрать его, отреагировать или просто заниматься дальше остальными задачами.
Думаю что начинать такие статьи надо так, я решил поделиться своим семейным архивом с остальным миром, для этого я использовал агентов такой то конторы...... иначе наивные читатели могут пойти по тому же пути и слить то что они не хотели бы, а потом удивляться когда очередной GPT чат по их фамилии выдаст всю подноготную
Ну во первых вы говорите всего лишь о скорости железа, это будет решено в ближайшие 5 лет, к тому же. Человек тоже не имеет непрерывного цикла, частота мозга примерно 40 герц, а если учитывать сколько фронтир модели обслуживают запросов в дата-центрах, то они выглядят живее чем человеческий мозг =) А на счет роботов, то вы опять же не правы, там используются сразу несколько нейросетей которые управляют каждый своим узлом, с частотой превышающей человеческую, и только большая нейронка которая управляет остальными думает медленнее ей и не нужно иметь быструю реакцию, она работает стратегом.
Суть в том что непрерывность не гарантирует интеллекта, непрерывность в мозге человека связанна с потребностями и целями, убери их и будет тот же эффект, нет цели и внешних стимулов, зачем думать ?
Ну тут уже чисто инженерия, сделать несколько уровней доверия к получаемой информации где первый, не доверяю не кому кроме своей памяти. Это уже уровень не самой модели а больше к внешней обвязке. И кстати возможно что не нужно обучать модель с нуля, может быть такое поведение можно дообучить через ту же Lora. Это уже экспериментально нужно выяснять.... На счет гуглить, да, получение первичных данных модель должна будет откуда-то взять, далее она сохраняет эти знания у себя в обвязке и пользуется ими по мере необходимости, как раз это и дает то что вы ищите, как обучать модель, так как знания не в весах а во внешнем контуре они легко могут быть скорректированы по мере обучения. Смотрите текущие модели, в чем имеют промах ? в том что у них в весах заранее к примеру уже лежит знание что есть команда rf-rm и что бы вы не делали, но модель всегда будет в своих весах получать первыми токины с этой командой на выходе, это потом уже через промт ее можно скорректировать. К примеру сказать что бы не пользоваться этой командой, и это не всегда будет удачно так как веса могут перевешивать промт. НО если модель не знает этой команды заранее но знает какой то общий принцип по которому она знает как узнать о существовании доступных команд, это фактически получается эмерджентность, то-есть из одного правила вырастает многие, одно обобщение дает огромное количество вариантов. Модель сможет использовать по этому принципу любое количество команд
Кстати на счет вашей идеи, я думаю вы немного пошли не туда, нужно научить веса пользоваться внешними знаниями, то-есть представьте что сами веса не знают весь интернет как сейчас фронтир модели, но они знают что у них есть внешний источник знаний к примеру агентский контур, в котором могут содержаться нужные знания, и модель должна уметь правильно ими воспользоваться То-есть задача стоит не в том что бы постоянно учить сами веса модели, а один раз их научить правильно пользоваться внешним контуром, который в свою очередь может накапливать знания, это уже как мне кажется более реалистичная идея, чем пытаться поменять архитектуру трансформеров
Я понял вас, но вы путаете теплое с мягким, что бы нейросети что то там думать постоянно ей нужны цели, то что вы называете костылями, только от части верно, потому что цели задаются из вне, агентским контуром, но это не столь принципиально, если перенести это в векторное пространство нечего не поменяет, так как цели от этого у нее не появятся, а если и появятся то тоже самое можно задать и внешним инструментом сейчас, а если нет разницы то зачем извращаться когда сейчас это и так работает ? Да и к тому же нейросеть это инструмент, а вы хотите из инструмента превратить ее в биологический обьект, а зачем ? какой смысл получить еще один не предсказуемый кожаный мешок с слабостями, своими проблемами и капризами из инструмента ?
Хмм, а зачем машине биоритмы ? ей не нужно спать и есть, такова ее сущность, зачем натягивать сову на глобус ? В зависимости от того каким агентским контуром вы пользуетесь, если в нем реализован механизм планирования, нейросеть успешно им пользуется и в нужное время сама выполняет задания, если хотите можете сами ей прикрутить "биоритм" какой посчитаете нужным, это фактически одно и тоже. Онлайн обучение, тут да реальный временный затык, а чувство времени отлично работает и сейчас в агенте.
Ну хорошо что это вы понимаете правильно =) А вообще вам выше дали правильный совет, каждая нейронка знает практически все что уже проверено из идей и какие статьи написаны, так что не ленитесь ее спрашивать, что бы оценивала как критик с учетом того что уже есть.
Понятно, это ваш концепт, тут вы решаете, я просто думал в том ключе если это будет не единственный экземпляр, и кроме вас им будет пользоваться кто то еще, рыться в маленьком дисплее с кучей настроек, такое себе удовольствие.... к тому же идет жостокая привязка к железяке, если кто то захочет использовать другой концепт с двумя круглыми дисплеями, то придётся сильно вмешиваться в код... короче не универсально, с сильными зависимостями...
Мне кажется что тут вы перебрали с настройками через монитор, теоретически, глубокие настройки должны производится с компьютера, а легкие задаваться просто в беседе, вроде не делай Х а делай Y, а монитор как информационный дисплей, показывает состояние...
Либо вы не поняли меня, либо вы не понимаете о чем речь, локально у вас есть одна модель, к примеру она работает через LM studio окно выставляемое в студии имеет размер, к примеру 128к, далее ваш харнес с этим работает, так вот, окно заданное в студии не изменено, сколько бы субагентов вы там у себя не запускали, если они работают не последовательно а параллельно то 128/количество субагентов, если к примеру 4 то каждый получает примерно 32к если разделить поровну, либо они должны конкурировать с вытеснением, иначе вы получите ошибку переполнения окна.
Тут есть разница, между агентским контуром и веб, смотрите, когда вы даете задание агенту, он взаимодействует напрямую с файлами, кодом, и получает ответ, то-есть он видит свои ошибки, видит реакцию того над чем он работает, это значительно повышает качество, когда вы работаете в веб, модель всегда вынуждена придумывать и догадываться что там у вас происходит, отсюда ее эффективность падает, по этому даже небольшая локальная модель может справляться с сложными задачами, в тоже время облачная в веб может выдавать вам бред
Зависит от того что вы понимаете под словом большой проект, бесплатный чат бот это вайбкодинг, когда вы пихаете в веб окно ему свои хотелки он вам отдает код, копируете и вставляете в свой проект, таким макаром работают с проектом когда сами пишут код целиком, а чат-бот только для подсказок, размер окна тут почти не важен, всегда можно начать новую сессию. Если рассматривать агентскую разработку, то тут агент сам пишет вам код, и халявы тут либо нет вообще, либо ее крайне мало, и хватит на написание половины тетриса. Так что сравнение бесплатного VS локальная видеокарта тут не корректно
Ок, а если использовать локальную модель, как вы разруливаете между ними кому сколько отдать ресурса контекстного окна ? Или ваш харнес только для облаков ?
Тут важны не бенчмарки, а реальное поведение модели в реальных задачах, скажу так, на своем опыте я проверял что 3.8 превосходит 3.6, в агенте, в достижении поставленной цели, она умеет многократно перебирать варианты и не останавливаться ожидая очередных инструкций от пользователя, даже если по дороге ловит разные препятствия, 3.6 отрабатывает предсказуемо.
Нужно учитывать кроме э.э еще и обслуживание, устаревание, поддержку производителем, а то получится как с мобильниками, одноразовый как презерватив по стоимости самосвала.
Эммм.... ну как бы у меня агент так и работает, тут нечего такого необычного.
Он всегда понимает что делает, и если нужно не ждет пока его пнут, а ставит себе задания сам, все зависит только от контекста и ситуации.
К примеру, у меня у агента есть наблюдение за компьютером, то-есть код собирает данные, сетевую активность, работу железа, еще там всякое разное, и отдельный контур в дальнейшем анализирует эти данные, далее агент получает этот отчет и дальше действует сам, я не пишу ему инструкции и не пинаю, он сам принимает решение что с этим делать, и если есть угроза какие действия релевантные и что надо предпринять.
Это, как я говорил в предыдущем своем ответе, порождается именно потребностями, а они выражены в простых казалось бы действиях, получить отчет, разобрать его, отреагировать или просто заниматься дальше остальными задачами.
Думаю что начинать такие статьи надо так, я решил поделиться своим семейным архивом с остальным миром, для этого я использовал агентов такой то конторы...... иначе наивные читатели могут пойти по тому же пути и слить то что они не хотели бы, а потом удивляться когда очередной GPT чат по их фамилии выдаст всю подноготную
Ну во первых вы говорите всего лишь о скорости железа, это будет решено в ближайшие 5 лет, к тому же.
Человек тоже не имеет непрерывного цикла, частота мозга примерно 40 герц, а если учитывать сколько фронтир модели обслуживают запросов в дата-центрах, то они выглядят живее чем человеческий мозг =)
А на счет роботов, то вы опять же не правы, там используются сразу несколько нейросетей которые управляют каждый своим узлом, с частотой превышающей человеческую, и только большая нейронка которая управляет остальными думает медленнее ей и не нужно иметь быструю реакцию, она работает стратегом.
Суть в том что непрерывность не гарантирует интеллекта, непрерывность в мозге человека связанна с потребностями и целями, убери их и будет тот же эффект, нет цели и внешних стимулов, зачем думать ?
Ну тут уже чисто инженерия, сделать несколько уровней доверия к получаемой информации где первый, не доверяю не кому кроме своей памяти.
Это уже уровень не самой модели а больше к внешней обвязке.
И кстати возможно что не нужно обучать модель с нуля, может быть такое поведение можно дообучить через ту же Lora. Это уже экспериментально нужно выяснять....
На счет гуглить, да, получение первичных данных модель должна будет откуда-то взять, далее она сохраняет эти знания у себя в обвязке и пользуется ими по мере необходимости, как раз это и дает то что вы ищите, как обучать модель, так как знания не в весах а во внешнем контуре они легко могут быть скорректированы по мере обучения.
Смотрите текущие модели, в чем имеют промах ? в том что у них в весах заранее к примеру уже лежит знание что есть команда rf-rm и что бы вы не делали, но модель всегда будет в своих весах получать первыми токины с этой командой на выходе, это потом уже через промт ее можно скорректировать.
К примеру сказать что бы не пользоваться этой командой, и это не всегда будет удачно так как веса могут перевешивать промт.
НО если модель не знает этой команды заранее но знает какой то общий принцип по которому она знает как узнать о существовании доступных команд, это фактически получается эмерджентность, то-есть из одного правила вырастает многие, одно обобщение дает огромное количество вариантов.
Модель сможет использовать по этому принципу любое количество команд
Да, особенно забавно что можно было-бы попробовать запустить через strata qwen 3.8 flash next, а тут какой то хлам раскапывают 🤣
Кстати на счет вашей идеи, я думаю вы немного пошли не туда, нужно научить веса пользоваться внешними знаниями, то-есть представьте что сами веса не знают весь интернет как сейчас фронтир модели, но они знают что у них есть внешний источник знаний к примеру агентский контур, в котором могут содержаться нужные знания, и модель должна уметь правильно ими воспользоваться
То-есть задача стоит не в том что бы постоянно учить сами веса модели, а один раз их научить правильно пользоваться внешним контуром, который в свою очередь может накапливать знания, это уже как мне кажется более реалистичная идея, чем пытаться поменять архитектуру трансформеров
Я понял вас, но вы путаете теплое с мягким, что бы нейросети что то там думать постоянно ей нужны цели, то что вы называете костылями, только от части верно, потому что цели задаются из вне, агентским контуром, но это не столь принципиально, если перенести это в векторное пространство нечего не поменяет, так как цели от этого у нее не появятся, а если и появятся то тоже самое можно задать и внешним инструментом сейчас, а если нет разницы то зачем извращаться когда сейчас это и так работает ?
Да и к тому же нейросеть это инструмент, а вы хотите из инструмента превратить ее в биологический обьект, а зачем ? какой смысл получить еще один не предсказуемый кожаный мешок с слабостями, своими проблемами и капризами из инструмента ?
Хмм, а зачем машине биоритмы ? ей не нужно спать и есть, такова ее сущность, зачем натягивать сову на глобус ?
В зависимости от того каким агентским контуром вы пользуетесь, если в нем реализован механизм планирования, нейросеть успешно им пользуется и в нужное время сама выполняет задания, если хотите можете сами ей прикрутить "биоритм" какой посчитаете нужным, это фактически одно и тоже.
Онлайн обучение, тут да реальный временный затык, а чувство времени отлично работает и сейчас в агенте.
Ну хорошо что это вы понимаете правильно =)
А вообще вам выше дали правильный совет, каждая нейронка знает практически все что уже проверено из идей и какие статьи написаны, так что не ленитесь ее спрашивать, что бы оценивала как критик с учетом того что уже есть.
Да, а сам GPT не прикидывался случайно локальной моделью и не рассказывал что вся ваша писанина случайно не уходит на сервера Open AI ?🤣
Понятно, это ваш концепт, тут вы решаете, я просто думал в том ключе если это будет не единственный экземпляр, и кроме вас им будет пользоваться кто то еще, рыться в маленьком дисплее с кучей настроек, такое себе удовольствие.... к тому же идет жостокая привязка к железяке, если кто то захочет использовать другой концепт с двумя круглыми дисплеями, то придётся сильно вмешиваться в код... короче не универсально, с сильными зависимостями...
Мне кажется что тут вы перебрали с настройками через монитор, теоретически, глубокие настройки должны производится с компьютера, а легкие задаваться просто в беседе, вроде не делай Х а делай Y, а монитор как информационный дисплей, показывает состояние...
Либо вы не поняли меня, либо вы не понимаете о чем речь, локально у вас есть одна модель, к примеру она работает через LM studio окно выставляемое в студии имеет размер, к примеру 128к, далее ваш харнес с этим работает, так вот, окно заданное в студии не изменено, сколько бы субагентов вы там у себя не запускали, если они работают не последовательно а параллельно то 128/количество субагентов, если к примеру 4 то каждый получает примерно 32к если разделить поровну, либо они должны конкурировать с вытеснением, иначе вы получите ошибку переполнения окна.
Тут есть разница, между агентским контуром и веб, смотрите, когда вы даете задание агенту, он взаимодействует напрямую с файлами, кодом, и получает ответ, то-есть он видит свои ошибки, видит реакцию того над чем он работает, это значительно повышает качество, когда вы работаете в веб, модель всегда вынуждена придумывать и догадываться что там у вас происходит, отсюда ее эффективность падает, по этому даже небольшая локальная модель может справляться с сложными задачами, в тоже время облачная в веб может выдавать вам бред
Зависит от того что вы понимаете под словом большой проект, бесплатный чат бот это вайбкодинг, когда вы пихаете в веб окно ему свои хотелки он вам отдает код, копируете и вставляете в свой проект, таким макаром работают с проектом когда сами пишут код целиком, а чат-бот только для подсказок, размер окна тут почти не важен, всегда можно начать новую сессию.
Если рассматривать агентскую разработку, то тут агент сам пишет вам код, и халявы тут либо нет вообще, либо ее крайне мало, и хватит на написание половины тетриса.
Так что сравнение бесплатного VS локальная видеокарта тут не корректно
Ок, а если использовать локальную модель, как вы разруливаете между ними кому сколько отдать ресурса контекстного окна ?
Или ваш харнес только для облаков ?
Это не проблема моделей, а вашего агентского контура раз даже старшие модели у вас вязнут в таких задачах.
Тут важны не бенчмарки, а реальное поведение модели в реальных задачах, скажу так, на своем опыте я проверял что 3.8 превосходит 3.6, в агенте, в достижении поставленной цели, она умеет многократно перебирать варианты и не останавливаться ожидая очередных инструкций от пользователя, даже если по дороге ловит разные препятствия, 3.6 отрабатывает предсказуемо.
Из статьи стало ясно, что гигачад и прочие алисы, не то что не могут в агентскую работу, но даже составлять таблички им порой не одолеть...