Логика - бинарна. Мне кажется, что попытка добавить значение "Может быть" в логическую цепочку полностью ее рушит. Это становится что-то между описанием "логического алгоритма" и "вероятностного хаоса".
При этом, я думаю, что троичная система исчисления подходит под задачи другого типа, Расчет нагрузки / напряжения имеет троичную основу по природе: 1) нагрузка извне (+) 2) нагрузка изнутри (-) 3) нагрузки нет, но есть компонента (0) - баланс
И вот если мы начнем моделировать системы и распределение нагрузки по системам, то троичная система отлично может подойти.
использовать модели для выравивания примеров. да модели можно даже чередой промптов конкретных натравить на репо и нагенерировать примеры нужного качества и размера.... ну то есть у нас есть вайб-кодинг 1.0, он может помочь сделать датасет для вайб-кодинга 2.0
1) То, что модели сейчас не обучены таким образом я вывожу эмпирически. По тому, как они работают и разрабатывают.
2) То, что так учить можно, это точно. Я привел статьи. Проводили прям схожие эксперименты, и это давало результат
Тут, в моем понимании, только времязатратно собрать датасет. Ну или этим еще всерьез никто не озаботился... Авторы статей прогоняли такую дрессировку на обучающих выборках (таймлайнах) программных модулей. А всерьез выбрать из гитхаба существенно большую выборку ошибка-разбор-патч (не пару тыс, и даже не пару млн, а прям сотни млн и млрд примеров)... Нужно немного его прошерстить, прочекать хотя бы слабенькой моделью и где-то выправить текст и его дополнить... А в идеале еще чекнуть человеку потом.
И я уверен, что этим займутся. Не сейчас, так в этом-следующем году максимум. Первый, кто сделает это и обгонит конкурентов, создаст прецедент, и остальные нагонят в течении года. Китайцы так вообще вручную могут перебрать весь гитхаб или создать новые, качественно описанные репозитории. Просто скинувшись заметками -)
Кроме того... Сейчас репозиториев с детальным описанием ошибок и трека решений очень много. Это все наполняется клодами и т.п. Возьми репозиторий OpenClaw или IronClaw, там уже несколько тыс Issue в готовом виде лежит.
Обучение процедурам, как таковым, я полагаю, приведет лишь к тому, что ЛЛМ выучится форме разбора ошибок но не более
Она выучится процессу. (1) взять ошибку (2) посмотреть на исходный модуль (3) обсудить ее и уточнить (4) сделать патч в нотации патчинга. Это главное в моей мысли.
там сейчас три протокола re!think - базовый алгоритм для чатбота, помогает бороться с незнанием модели и улучшать ее фантазию re!align - помогает бороться с Aligment tax, ее полезностью и подхалимством re!solve - мои текущие наработки, я проектирую сейчас алгоритм для прохождения бенчмарка HLE. То есть алгоритм размышления для решения задач уровня доктора наук. ЛЛМ-адаптированный алгорим
ну могу лишь сказать, что у нас абсолютно разные подходы
я формализую алгоритмы размышления и рассуждения и описываю их на языке, понятно ЛЛМ, с учетом особенностей и проблем ЛЛМ. Моя цель - обуздать и понять черный ящик. И у меня есть некоторые фундаментальные причины считать, что этот путь один из единственно рабочих.
я не понимаю, как ты хочешь собирать эти таблицы, Под каждый задаваемый вопрос.
то есть если это "теоретическая система принятия решения", то, вероятно, да. Можно включить режим зануды и с той или иной степенью качества разложить любой вопрос на те самые 7 составляющих решения.
Но как это применимо на практике? Я занимаюсь автоматизацией бизнес, и в нем такой подход неприменим...
1) Бизнес постоянно работает в режиме "половина неопределена"
2) Бизнес требует принятия решения сейчас. Вопрос выживания не обладает далеким дедлайном, чтобы дать время его разложить и проанализировать все варианты
3) Бизнес живет в состоянии "хаос снаружи - адаптируйся". Каждый день внешние условия меняются, нужно подстраивать выстроенные системы принятия решений, нужно калибровать их
ох... боюсь ты играешь не с огнем... а с неограниченностью...
Я точно не понял, как ты нарезаешь это на уровни L1-L7, по какой методике... Но, как я вижу, ты добавляешь на каждый уровень столько вершин, какой уровень по номеру... А если составляющих решения больше?
И как ты работаешь с нерациональными решениями? Например с "нравится / красивый"? или где у тебя место покупке ради социального статуса, как с айфоном?
мне кажется, что в твоем подходе проблема ключевая в том... Что любая попытка "достаточно полно описать пространство решения" приводит к описанию этого пространства исключительно субъективно. И как такое же пространство решения построить для другого субъекта, для меня загадка... А как заставить ЛЛМ строить такое пространство решения для нового вопроса, вообще не понимаю. зависимости и приоритеты у каждого свои
я все таки все сильнее плыву в попытке понять... а где же облако задач, к которыи применим твой подход? только то, что расписано так детально, что ты сможешь разложить на все потенциальные состояния? так таким задачам не решатель нужен, а надзиратель (чтобы просто не ленились)
в общем приведи хоть пару примеров задачи и декомпазиции на таблицу и состояния
1) сорри, я хотел ответить Автору статьи, а тегнул твой комментарий
2) Я не представляю себе, чтобы ЛЛМ выдавала такую таблицу ВМЕСТО токенов, так как тут прийдется не только архитектуру платформеров изменить, но и механику обучения и, что самое трудоемкое, разработать дата-сеты под такое обучение
3) предлагаю пытаться добыть информацию из головы Автора, а не гадать между собой. Мы так очень далеко от темы уйдем -)
1) где эти таблица в отношении выводимиого ЛЛМ токена? или внутри архитектуры трансформеров или снаружи?
2) Как они вообще будут заполняться? как будет определяться состав колонок/строк в этих шахматках? (мне для себя проще их так называть)
З.Ы. Я тоже занимаются разработкой алгоритмов мышления, хотя я пошел совсем иным способом и путем (см статью, в ней есть ссылка на репозиторий, как раз последние несколько дней выкладываю новые версии протоколов туда)
уже ближе к пониманию. Хотя все еще остается разрпыв между "ЛЛМ - которая выдает по одному токену за раз, при этом каждый раз перед выдачей всего одного токена, она прогоняет полный цикл предсказания" и "таблица, которая поможет все проследить"...
как это у тебя стыкуется? У тебя ЛЛМ должна будет заполнять таблицу по ячейкам, это рамки ее размышления? - Вероятно это в чем-то поможет - Это никак не уберет тот самый черный ящик предсказания, ты лишь поставишь границы, куда вписать следующий токен - Эта механика будет сильно сбоить с дрессировкой RLHF. Если там не было такой механики, то модель постоянно будет скатываться в привычки
а если у тебя наоборот, эти таблицы будут внутри размышления о каждом следующем токене... То мы говорим о чем-то сильно глубже, фундаментально ином алгоритме и архитектуре трансформе ЛЛМ, уже даже не трансформере...
есть конечная таблица, есть ячейка, есть результат, есть контрпример
Что-то я пропустил момент, когда и главное "для чего" они появились. Как ниже писал другой комментатор, сначала нужно сделать статью с индексом ноль. Объяснить, что за задачу ты решаешь, какие подходы отвергаешь, какие используешь. Как задачу декомпазируешь и как проверяешь результат. И оттуда уже вести к таблицам и ячейкам.
Для того, кто просто общается с ЛЛМ, наличие таблицы, ячейки и результата в обыченом диалоге - это что-то из ряда вон выходящее, а не вводная и самодостаточная мысль
А ниже по тексту твоего комментария ты плывешь между умозаключениями: - как все сложно - ссылаешься на другие мысли и статьи, сразу поясняя что все сложнее и не так тривально - какие наблюдения ты уже делаешь
резюмирую и предлагаю тебе перейти к комментарию ниже, про фазу "ноль"
Абстрагируйся от идей и опиши фундамент, Задачу / проблемы / базовые гипотезы и аксиомы / подходы и отвергнутые идеи / оставь читателя с вопросами, которые вытекают из предыдущего, но которые еще далеки от самих идей. Только тогда ты получишь того, кто готов к таблицам и уже сможет придумать им применение в голове
Проблема в том, что чтобы выдать тебе "Критику по существу", нужно сначала до того самого "существа" добраться...
Но сразу честно: я не собираюсь раскрывать здесь внутреннюю кухню "GALO AI"
Ты сначала в шапке статьи сказал, что детально ключевого не расскажешь...
А потом с места в карьер, сразу к формулам. Даже не потрудившись написать, для каких задач это применимо, в чем смысл и логика этих формул...
Больше того скажу, даже скормив твой текст статьи в ЛЛМ, я лишь с третьего промпта добился от нее интерпретации на человеческом языке в виде примера, и все еще не понял, как эти самые решения в таблицу попадают. То есть поле применимости этой идеи так же непонятно, как и сама идея, если не сильнее.
Попробуй мысли описать обычными словами, с метафорами и аналогиями. Только после этого можно рассчитывать на конструктивную критику...
проблема в том, что эти ученые все никак не поставят между ними знак равенства. А само неравенство обосновать и описать не могут...
вполне может быть. хотя статьи, которые я нашел, от 24-25 годов. Так что если бы всерьез взялись, то давно собрали бы такой датасет.
Логика - бинарна. Мне кажется, что попытка добавить значение "Может быть" в логическую цепочку полностью ее рушит. Это становится что-то между описанием "логического алгоритма" и "вероятностного хаоса".
При этом, я думаю, что троичная система исчисления подходит под задачи другого типа, Расчет нагрузки / напряжения имеет троичную основу по природе:
1) нагрузка извне (+)
2) нагрузка изнутри (-)
3) нагрузки нет, но есть компонента (0) - баланс
И вот если мы начнем моделировать системы и распределение нагрузки по системам, то троичная система отлично может подойти.
нипонял... С моей статьей пересекается только слово LLM
использовать модели для выравивания примеров. да модели можно даже чередой промптов конкретных натравить на репо и нагенерировать примеры нужного качества и размера.... ну то есть у нас есть вайб-кодинг 1.0, он может помочь сделать датасет для вайб-кодинга 2.0
1) То, что модели сейчас не обучены таким образом я вывожу эмпирически. По тому, как они работают и разрабатывают.
2) То, что так учить можно, это точно. Я привел статьи. Проводили прям схожие эксперименты, и это давало результат
Тут, в моем понимании, только времязатратно собрать датасет. Ну или этим еще всерьез никто не озаботился... Авторы статей прогоняли такую дрессировку на обучающих выборках (таймлайнах) программных модулей. А всерьез выбрать из гитхаба существенно большую выборку ошибка-разбор-патч (не пару тыс, и даже не пару млн, а прям сотни млн и млрд примеров)... Нужно немного его прошерстить, прочекать хотя бы слабенькой моделью и где-то выправить текст и его дополнить... А в идеале еще чекнуть человеку потом.
И я уверен, что этим займутся. Не сейчас, так в этом-следующем году максимум. Первый, кто сделает это и обгонит конкурентов, создаст прецедент, и остальные нагонят в течении года. Китайцы так вообще вручную могут перебрать весь гитхаб или создать новые, качественно описанные репозитории. Просто скинувшись заметками -)
Кроме того... Сейчас репозиториев с детальным описанием ошибок и трека решений очень много. Это все наполняется клодами и т.п. Возьми репозиторий OpenClaw или IronClaw, там уже несколько тыс Issue в готовом виде лежит.
Она выучится процессу. (1) взять ошибку (2) посмотреть на исходный модуль (3) обсудить ее и уточнить (4) сделать патч в нотации патчинга. Это главное в моей мысли.
https://github.com/RealEgor/re-protocol
там сейчас три протокола
re!think - базовый алгоритм для чатбота, помогает бороться с незнанием модели и улучшать ее фантазию
re!align - помогает бороться с Aligment tax, ее полезностью и подхалимством
re!solve - мои текущие наработки, я проектирую сейчас алгоритм для прохождения бенчмарка HLE. То есть алгоритм размышления для решения задач уровня доктора наук. ЛЛМ-адаптированный алгорим
ну могу лишь сказать, что у нас абсолютно разные подходы
я формализую алгоритмы размышления и рассуждения и описываю их на языке, понятно ЛЛМ, с учетом особенностей и проблем ЛЛМ. Моя цель - обуздать и понять черный ящик. И у меня есть некоторые фундаментальные причины считать, что этот путь один из единственно рабочих.
я не понимаю, как ты хочешь собирать эти таблицы, Под каждый задаваемый вопрос.
то есть если это "теоретическая система принятия решения", то, вероятно, да. Можно включить режим зануды и с той или иной степенью качества разложить любой вопрос на те самые 7 составляющих решения.
Но как это применимо на практике? Я занимаюсь автоматизацией бизнес, и в нем такой подход неприменим...
1) Бизнес постоянно работает в режиме "половина неопределена"
2) Бизнес требует принятия решения сейчас. Вопрос выживания не обладает далеким дедлайном, чтобы дать время его разложить и проанализировать все варианты
3) Бизнес живет в состоянии "хаос снаружи - адаптируйся". Каждый день внешние условия меняются, нужно подстраивать выстроенные системы принятия решений, нужно калибровать их
ох... боюсь ты играешь не с огнем... а с неограниченностью...
Я точно не понял, как ты нарезаешь это на уровни L1-L7, по какой методике... Но, как я вижу, ты добавляешь на каждый уровень столько вершин, какой уровень по номеру... А если составляющих решения больше?
И как ты работаешь с нерациональными решениями? Например с "нравится / красивый"? или где у тебя место покупке ради социального статуса, как с айфоном?
мне кажется, что в твоем подходе проблема ключевая в том... Что любая попытка "достаточно полно описать пространство решения" приводит к описанию этого пространства исключительно субъективно. И как такое же пространство решения построить для другого субъекта, для меня загадка... А как заставить ЛЛМ строить такое пространство решения для нового вопроса, вообще не понимаю. зависимости и приоритеты у каждого свои
я все таки все сильнее плыву в попытке понять... а где же облако задач, к которыи применим твой подход? только то, что расписано так детально, что ты сможешь разложить на все потенциальные состояния? так таким задачам не решатель нужен, а надзиратель (чтобы просто не ленились)
в общем приведи хоть пару примеров задачи и декомпазиции на таблицу и состояния
1) сорри, я хотел ответить Автору статьи, а тегнул твой комментарий
2) Я не представляю себе, чтобы ЛЛМ выдавала такую таблицу ВМЕСТО токенов, так как тут прийдется не только архитектуру платформеров изменить, но и механику обучения и, что самое трудоемкое, разработать дата-сеты под такое обучение
3) предлагаю пытаться добыть информацию из головы Автора, а не гадать между собой. Мы так очень далеко от темы уйдем -)
так, ты опять запутал только ))
попробуй спозиционировать
1) где эти таблица в отношении выводимиого ЛЛМ токена? или внутри архитектуры трансформеров или снаружи?
2) Как они вообще будут заполняться? как будет определяться состав колонок/строк в этих шахматках? (мне для себя проще их так называть)
З.Ы. Я тоже занимаются разработкой алгоритмов мышления, хотя я пошел совсем иным способом и путем (см статью, в ней есть ссылка на репозиторий, как раз последние несколько дней выкладываю новые версии протоколов туда)
уже ближе к пониманию. Хотя все еще остается разрпыв между "ЛЛМ - которая выдает по одному токену за раз, при этом каждый раз перед выдачей всего одного токена, она прогоняет полный цикл предсказания" и "таблица, которая поможет все проследить"...
как это у тебя стыкуется? У тебя ЛЛМ должна будет заполнять таблицу по ячейкам, это рамки ее размышления?
- Вероятно это в чем-то поможет
- Это никак не уберет тот самый черный ящик предсказания, ты лишь поставишь границы, куда вписать следующий токен
- Эта механика будет сильно сбоить с дрессировкой RLHF. Если там не было такой механики, то модель постоянно будет скатываться в привычки
а если у тебя наоборот, эти таблицы будут внутри размышления о каждом следующем токене... То мы говорим о чем-то сильно глубже, фундаментально ином алгоритме и архитектуре трансформе ЛЛМ, уже даже не трансформере...
Что-то я пропустил момент, когда и главное "для чего" они появились. Как ниже писал другой комментатор, сначала нужно сделать статью с индексом ноль. Объяснить, что за задачу ты решаешь, какие подходы отвергаешь, какие используешь. Как задачу декомпазируешь и как проверяешь результат. И оттуда уже вести к таблицам и ячейкам.
Для того, кто просто общается с ЛЛМ, наличие таблицы, ячейки и результата в обыченом диалоге - это что-то из ряда вон выходящее, а не вводная и самодостаточная мысль
А ниже по тексту твоего комментария ты плывешь между умозаключениями:
- как все сложно
- ссылаешься на другие мысли и статьи, сразу поясняя что все сложнее и не так тривально
- какие наблюдения ты уже делаешь
резюмирую и предлагаю тебе перейти к комментарию ниже, про фазу "ноль"
Абстрагируйся от идей и опиши фундамент, Задачу / проблемы / базовые гипотезы и аксиомы / подходы и отвергнутые идеи / оставь читателя с вопросами, которые вытекают из предыдущего, но которые еще далеки от самих идей. Только тогда ты получишь того, кто готов к таблицам и уже сможет придумать им применение в голове
Проблема в том, что чтобы выдать тебе "Критику по существу", нужно сначала до того самого "существа" добраться...
Ты сначала в шапке статьи сказал, что детально ключевого не расскажешь...
А потом с места в карьер, сразу к формулам. Даже не потрудившись написать, для каких задач это применимо, в чем смысл и логика этих формул...
Больше того скажу, даже скормив твой текст статьи в ЛЛМ, я лишь с третьего промпта добился от нее интерпретации на человеческом языке в виде примера, и все еще не понял, как эти самые решения в таблицу попадают. То есть поле применимости этой идеи так же непонятно, как и сама идея, если не сильнее.
Попробуй мысли описать обычными словами, с метафорами и аналогиями. Только после этого можно рассчитывать на конструктивную критику...
а скок они отстегнули от этих 1.2 и 1.1 млрд?
З.Ы. Я вот уверен, что ни сколько!
(с уважением Фантазер)
ждем новый утильсбор... нужно поддерживать как умеем
интернет ловит? или ловит пользователей?..