А вы пробовали гонять по кругу сетки, чтобы она написала код? Например, я помню пример сдвига формант речи. Функция небольшая, но главное это ее логика реализации. Да, llm в итоге ее написали и она стала выполняться без ошибок. Только делала она совсем не то.
Как данный подход позволяет решить такие задачи? То есть исполняемый код они таким образом сделают. Но он часто будет мусором.
То же самое было с написанием сложных SQL процедур на postgres для отчётов. SQL выполняется, результат нулевой. Ок, у нас на выходе будет результат идеальный для сравнен, он подгонят, а на других данных работать не будет. И хуже всего, когда его занесло не туда, дальше только хуже. Он не может пересмотреть весь подход и начать все сначала.
В реальности было ещё сложнее, так как учитывал речь собеседника, состояние модели "эмоциональное" через дополнительную сеть, которая была примитивным прообразом лимбической системы
Почему обязательно продолжит развиваться? Развивает его пока человек по тем же правилам, что развивался сам, на тех же данных. Со всеми его косяками, как вы описали. И если человек вдруг тупиковая ветка развития, то почему нейронка обученная на том же, должна развиваться.
И главное как развиваться? У человека глобальная ошибка это баланс гомеостаза. У нейронки глобальная ошибка, это наша интерпретация результата на основе наших сенсоров, нашего мозга. Мы ей задаём глобальную ошибку. Что вы предлагаете задавать в качестве глобальной цели сетки самостоятельно? Размножение, страх самосохранения, охота за энергией? Тогда получаете человека в итоге.
И да и нет. С одной стороны действительно новые слои мешают старым слоям мозга и не дают им расшириться. Но это компромисс. С другой стороны, у тех же птиц это удалось обойти большей плотностью нейронов. Хоть мозг меньше, но плотность гораздо больше. А тех же муравьев, больше упор на коллективную адаптацию и разделение функций мозга среди разнообразия внутри вида.
По хорошему мозг сам по себе не нужен. Это сложная система для обеспечения физиологического баланса нормального гомеостаза. Напал кто-то.. гомеостаз нарушен, мозг пытается предсказать оптимальное решение, чтобы вернуть его в нормальное состояние. Встретил самку, нарушился гомеостаз, мозг пытается предсказать оптимальное решение для возврата. И так далее. С этой стороны да, он строго заточен под ряд задач, которые формируют глобальную ошибку. Базальные ганглии анализируя множество сигналов, на основе обобщенной глобальной ошибки запускают процесс выработки дофамин или его уменьшения. Я к тому, что есть глобальная ошибка. Сейчас мы обучаем сетки глобальной ошибке на конкретных примерах.
Вопрос был про мозг, у человека так же проблемы с управлением пальцами, так как остался архаичный механизм управления.
Тут не надо все смешивать мозг и физиологию. Мозг развивался слой за слоем при решении задача. Его главная цель, это поддержание нормального гомеостаза организма. То есть вернуть гомеостаз в нормальное состояние. Он предсказывает, как это можно сделать.
Но насчет гортанный нерв согласен. Если с такой стороны смотреть, то да, не оптимальные решения действительно есть и они вызваны изначальными условиями. И система находит компромисс.
Если брать мозг, то действительно внутренние зоны не могут полноценно продолжать развиваться, так как на ними уже новые. Например, у людей которых гиппокамп крупнее - соседние зоны будут меньше.
Развитие идет не быстро, так как это оптимально. Любое развитие мы можем рассматривать как "мутации", и если их сразу принять, то они могут привести к вымиранию. Поэтому нужно много времени.
Кто вам такую чушь сказал? что старый функционал мешает там новому? Конкретно можно хотя бы один пример? Сколько разбирал зоны, области.. там нет ни одной, которая была бы не нужной или лишней. Более того, трансформеры и реализуют в примитивной форме области неокортекса. В примитивной, потому что не все. Из-за чего сильно страдают и имеют ряд проблем.
Вот как вы сделали такой вывод, что там лишнее или редуктивное? Там точно так же лишнее становится редуктивным. Например, есть классическая шестислойная модель неокортекса. Так вот в ассоциативных зона слой 4 редуцирован, так как нет необходимости объединять сигналы и фильтровать. А например кохлеарное ядро там есть две области VCN и DCN, которые распознают два разных диапазона частот. VCN проще и быстрее - это диапазон до 2000 Гц, она развита у человека. А DCN сложнее, в том плане что нейронов и разных участков больше, она за звуки от 1800 Гц и выше и более затратная по ресурсам. Вот у нас DCN не развита, так как нафиг не нужна, а вот VCN отлично. А у летучих мышей DCN и VCN обе развиты, особенно DCN что позволяет им использовать эхолокацию.
Нет в мозге ничего лишнего и старого. Как только что то становиться не нужно, это редуцируется и исчезает. И если вы решите написать что-то с нуля для взаимодействия с реальным миром, все равно придете к тем же областям. Только энергоэффективность этого будет гораздо хуже.
Что там были за математические задачи? Мне пока все модели OpenAi, Claude, Qwen, DesspSeek в разных режимах (рассуждающих. исследования и так далее) пока не смогли решить ни одной сложной математической задачи требующей мышления. Но при этом, они хорошо помогают развить идею, так как позволяют быстро вспомнить какие-то разделы формулы, получить список многих теорем на заданную тему.
При этом, они просто не могут проанализировать сами кучу разделов. Например, сейчас я решал математическую задачу связанную с энтропией. Да супер, они все сразу приводят формулы Шеннона, но все остальное надо указывать самостоятельно. Чтобы провести сравнение с энтропией Чебышева и другими, нужно указать на это или неявно попросить об этом. Они гоняют по кругу самое популярное, повторяя одно и тоже. И не дай бог их занесет ни туда.
Каждый раз приходиться возвращаться к какой-то части цепочки, чтобы перенаправить модель по другому предсказанию.
Что там за мат задачи были? Из пункта А в пункт В выехал поезд, и когда они встреться? Почему мне модели не могут ни нормально хим. рецепты писать (когда я пытаюсь улучшить, что то в растворах) или самостоятельно решить мат задачу, которую до этого не решали? Да блин, даже голограмму не могут толком нормально рассчитать, приходится за ними править расчеты. Они супер рассчитают то, что уже и так 1000 раз решали множество раз. Так и я могу один раз написать программу, которую сделает расчеты такой задач и это будет работать быстрее и точнее LLM и превзойдет в этой задаче человека. Давайте Photoshop сравнивать с рисованием, а CAD с черчением от руки. Речь же про сложные задачи, а не трудоемкие. Сложные - это когда до этого решения не было. А не когда ты потратил 10 часов на то, чтобы все расписать.
А что считается за критерием оценки? Если сравнение с результатом, который мы хотим получить, то в чем эволюция развития таких агентов?
Если же это абстрактные критерии оценки, то какие? У человека это выживание голод жажда размножение. То есть оценка не конкретно распознать уши кролика, а распознать еду. Условно конечно.
Это как раз важный критерий глобальной ошибки. У нас, этим критерием является CO2, так как он играет важную роль для кислотности и расщепления глюкозы C6H12O6 + 6O2 ~ 6CO2 + 6H2O. Отсюда же и глобальный критерий оценки для поиска глюкозы и других элементов для выживания. Ну и куча других.
В случае агентов и их эволюции, я так и не понял, к чему они должны стремиться? К решению который мы указали сами? Пока что я вижу только поиск оптимального решения задачи данным методом.
На Хабре таких много, от статей до комментаторов, верящих в сознание LLM. Они видят сознания, задавая сеткам тупые вопросы (недавно посмотрел, что другие обсуждают с ChatGPT - "построй натальную карту по анализам"). И когда LLM им выдает херню, люди считают ее умной, ведь она смогла "осознать" их бред.
Пользователь верит, что ChatGPT — бог, а сам он — мессия: Rolling Stone собрал истории «психоза» после долгого общения с ботом
Когда люди не понимают как это работает и что на самом деле они получают, для них это магия. Им что ChatGPT, что шаман с бубном. Кто то бекапы их ведёт для "сознания", кто то промптом "сознание" активирует, кто то через свою шизофрению.
2) Закон Ципфа это эмпирический не точный закон. Вы по моему упустили самое главное, а то, что формула выведена не из пустоты а имеет доказательную базу. Изначально она была выведена из Ципфа (ее упрощенная версия https://t.me/greenruff/2346). Была показана, как это работает и ведет себя.
при правильных beta и N они практически одинаковые
3) при определённых значений N и beta она подобна закону Ципфа. Речь про поведение на ограниченном участке N (а Ципфа имеет сильные отклонения при увеличении N от наблюдаемых эмпирических данных)
А при чем тут галлюцинации? По-моему вы путаете два понятия. Галлюцинации так же возникают из за случайного выбора, в статье данный подход их не решает.
Вы описали агентскую систему. Ок, классно. Она улучшает работу системы в целом, но к заголовку ни как не относится. Проблему галлюцинаций она не решает, а решает проблему специализации обучения конкретным данным, и решения части задач выходящих за рамки LLM.
Не понимаю, зачем кликабельный заголовок делать. Затем писать тонну воды. Почему сразу было не сделать фокус на агентской сетки, где вы предложили свой способ (обучения или только рассуждения?) для улучшения качества ответа.
Галлюцинации, это например когда модель вместо слова "соотношение" вставила слово "сношение". Как яркий пример случайного выбора вероятности. И в каких то случаях это не повлияет сильно на ответ, а в каких то наоборот. Или же ответы "вода" (ни о чем), когда модел не можем вместить в себя все детали и начинает обобщать. Что приводит к тому, что она не способна больше уловить детали в данной области и вынуждена обобщать все данные. Это тоже своего рода галлюцинации, хотя не в прямом смысле.
Ваша модель не решает первую задачу. И немного затрагивает вторую задачу.
Я только сейчас закончил большое исследование, где математически доказал иерархическую модель асимметрии. Человек является лишь одним из уровней этой иерархии. В рамках этой модели, человек тот же конечный автомат асимметрии.
Свободу воли можно рассматривать только в рамках флуктуации. По сути области мозга, так и сам человек представляет один из уровней иерархии. Где сообщество ещё один уровень. Все они имеют свой rank, подобный закону Ципфа (он приблизительный, но не точный. Точный выводится из Лагранжа).
https://t.me/greenruff/2395?single
То есть если мы абстрагируемся и будем рассматривать человека как частицу, то его действия четко прописаны его ранком, который просто будет влиять на вероятности его действий.
Статья как раз пришлась во время. Я только на этой неделе закончил исследование на эту тему. Сначала через закон Ципфа показал как система сама учиться выделять признаки через обучение числа признаков на каждом уровне и на сколько это важно.
А затем, через метод Лагранжа вывел полную формулу , где Ципфа частный случай.
Суть в том, что любая модель обучаясь на сигналах просто строит иерархию асимметрий на основе Zipf подобного распределения. Где сама иерархия подчиняется этому закону.
На примере трансформеров показал как это происходит (как частный пример). Сейчас у меня построен более полный конечный автомат асимметрии, где изначально в основе лежала шестислойная модель неокортексе. Но в итоге это привело к обобщению и получению модели асимметрии сигнала.
Данная статья замечательно подтверждает это наглядно.
То что авторы называют голодом , на самом деле доказывается через два параметра N и beta. То есть модель не может бесконечно развиваться, так как тогда теряет способность к деталям и это приводит к обобщению (ухудшается). Это точка бифуркации, когда для развития системы она должна перейти к новому уровня иерархии, где будет снова через новые N и beta улавливать асимметрию нового уровня.
Поэтому то что авторы описывают через вольную интерпретацию имеет теперь твердую математическую и физическую базу.
Распознавание речи — это непросто: сначала нужно «вытащить» текст из звука, а потом расставить временные метки для каждого слова. Процесс был медленным, особенно для длинных видео. Чтобы оптимизировать ресурсы, мы использовали технические уловки:
Тогда зачем вы на собеседованиях на ML и в требованиях к ним пишете полную ерунду не относящуюся к решаемым задачам? Ту задачу, которую вы описали, не сложная ни для больших видео, ни для коротких
Может на собеседованиях стоит не let code и прочую ерунду проверять на уровне терминов? Тогда и сложностей с решением таких задач не будет.
Позанудствую. Тут пришла идея, что можно применять CTM не на уровне нейронов, а блоков (например трансформеров) как компромисс. Для этого использовать свёртки, но запоминая состояние.
def class BlockCTM(nn.Module):
def __init__(self, d_model, K):
super().__init__()
self.K = K
self.conv = nn.Conv1d(d_model, d_model, kernel_size=K, groups=d_model, bias=False)
# хранит последние K−1 выходов
self.register_buffer('buffer', torch.zeros(1, d_model, K-1))
def forward(self, new_x: torch.Tensor) -> torch.Tensor:
# new_x: [batch, d_model] — только новый timestep
x = torch.cat([self.buffer, new_x.unsqueeze(-1)], dim=-1) # [batch, d_model, K]
ctm = self.conv(x)[..., -1] # берем только свежий выход
# обновляем буфер
self.buffer = x[..., 1:].detach()
return new_x + self.alpha * ctm
Это аналог CTM, но через свёртки на уровне блоков. Например, добавляем его на выходе каждого блока трансформера.
Ещё раз прочитал, да хранение истории оправданно биологически. Но это увеличивает размер памяти в 4-8 раз. Что нереально сейчас для крупных сеток.
Как компромисс, можно использовать CTM подход либо на уровне выходов слоев или блоков. Другого решения не вижу, современные карты просто не потянут данную модель на уровне нейрона
Почитал. Нейрон запоминает и обрабатывает историю входов (как минимум последние N шагов). Чем то напоминает скользящее среднее. Я иначе делал. В моем случае нейрон хранит состояние, которое меняется под воздействием сигнала но по разному. Хранить N состояний накладно, достаточно хранить текущее состояние и правильно реагировать на новый сигнал (он вносит разный вклад в изменение состояние). Точнее мы храним состояние нейрона и асимметрию (то есть как он реагирует на входной сигнал). Смещение асимметрии сигнала приводит к тому, что он по разному реагирует на спад и рост сигнала. При этом мы храним две асимметрии: амплитуды и частоты. Это биологически ближе к нейронам. Но это тоже не полная реализация. В реальности нейрон имеет обратный захват, где модулирует входной сигнал , очищая его от "шума".
Не совсем понятно про реккурентное время, как я понимаю оно сделано через скрытое состояние? Просто в SSM время тоже через скрытое состояние. А в версии linoss (тоже ssm) так уже улавливает осцилляции и затухания и синхронизацию.
Хотя это можно сделать просто через нахождение устойчивых сигналов не только в амплитуде (как трансформеры), но и в частоте и фазе. Для этого я например добавлял формулы гистерезис для частоты и фазы.
Надо посмотреть что сейчас CTM предлагает. Так как пока ищу решение для реализации релейных клеток таламуса. Их отличие в том, что у них есть два режима. Сигнал как есть и серия сигнала . Например, 1 может быть послан как 1111, но за тоже время. На классических сетках такое не сделать без специальных махинаций.
То что вы описали похоже на нахождение асимметрии сигнала, через измените состояния.
Сейчас над таким бьюсь. Как видно, это уже порождает серию импульсов сигнала. Пока не понятно, как должны быть связаны соседние нейроны друг с другом. Надо посмотреть, может. CTM сделали тоже самое.
А вообще нейрон является своего рода автоматом, выделяющим асимметрию.
И \там действительно можно их свести. Вот только это будет не равнозначный контекст, а вероятностный контекст. Но в реальности именно так и происходит, как мы изучаем язык каких-нибудь племен Амазонки или Австралии. Так же как изучаем постепенно язык некоторых обезьян (у некоторых есть отдельные слова и сочетания слов), так же как у некоторых птиц есть грамматика.
Проблема сводиться к тому, что вариантов как именно обучить не так много. Идеальные решения на грани фантастики. Кроме того, мы сталкиваемся с проблемой, на каком именно уровне мы получаем конвертацию контекста.
Когда разбирал паузы речи, то оказалось что в основе стоит последовательный граф, с разными уровнями контекста. И не все животные обязательно обладают нужным уровнем. Для некоторых уровней контекста необходимы разные условия.
Так как развитие языка требует разных условий, не только внешней среды но и поведенческой.
Но есть и положительные стороны. У всех животных, птиц, насекомых, даже китов и дельфинов одинаковое фазовое пространство градиентов речи. Оно отличается лишь центральной частотой, масштабом и степенью оптимизации (развитости). Но оно одинаково у всех, несмотря на то, что каждое из них используют разные виды артикуляции (жужжальца, язык, мешочки и так далее). И это говорит о том, что несмотря на разные формы выражения языка в целом он стремиться к общим формам (на уровне артикуляции точно).
Я в свое время пытался хотя бы грубо сместить речевые уровни и масштаб на привычный человеческому. Совсем иначе звучит, хотя преобразования грубые. У ворон уже не кар-кар, а совсем другие звуки слышны, видно как они вместе что-то произносят одно и тоже.
Проблема с домашними питомцами в том, что их речь может оказаться только на уровне эмоционального контекста, так как у них не крупных групп, в которых язык мог бы формироваться, передаваться и становится стабильным. А у диких - летучие мыши, волки возникает проблема, так как животное должно понимать человеческую речь. А для этого оно должно быть выращено с младенчества с постоянных разговорах (как с ребенком когда говорят). И при этом жить в дикой стае, чтобы понимать язык носителя. Под такое подходят разве, что дельфины. Есть и другой подход, но для этого нужно огромное кол-во данных.
Кратко, суть в том, что под воздействием норадреналина подавляется активность лобной доли. Это приводит к коротким маршрутам: короткая речь, быстрые действия. Норадреналин выбрасывается во время стресса, когда требуется не рассуждать, а выбрать самый короткий, самый сильный при этом маршрут, для быстрых действий в случае опасности /стресса.
Это отражается на уровне текстов. Короткие тексты содержат отражения этих признаков воздействия норадреналина. Обучение на этих текстах и такие же ответы приводят к симуляции такого поведения.
На уровне нейронов, норадреналин изменяет соотношение сигнал/шум. Теперь, те сигналы, которые раньше считались устойчивыми начинают считаться шумом. За счёт этого увеличивается контраст самых сильных сигналов, наиболее коротких. Это приводит к тому, что сигнал не проходит по всем областям, а только по локальной области. Это позволяет решить ряд проблем:
1) все силы бросаются на реакцию на стресс, быстрым действиям. Так как опасность может стоить жизни
2) берутся самые сильные сигналы в области и сокращается время реакции. Поэтому во время стресса, кто то неосознанно забежит у горящее здание спать других, а кто то победит подальше от пожара. Это и есть работа данного механизма. Он словно изменяет яркость на картинке, когда в итоге все соседнее изображение исчезает, и остаются только самые яркие цвета. Связи теряются, мы видим только самые сильные признаки на картинке.
Тексты, это отражение этих признаков. Когда сетка генерирует короткие, это тоже самое как у человека. Это не значит, что они обязательно неправильные. Остаются самые сильные связи. Например, студент учил упорно вопросы к экзамену. Мы разбудили его во время сна и спрашиваем ответ на них. Он ответит, эти связи у него самые сильные, а резкое пробуждение это стресс. Он выдаст их сходу. Но если мы попросим его назвать имя первой учительницы, он не сможет его вспомнить. Норадреналин блокирует это.
Тоже самое с LLM. Москва - столица России, она выдаст коротко. Но если это сложные связи со множеством деталей, то вероятно отразит те же признаки.
А вы пробовали гонять по кругу сетки, чтобы она написала код? Например, я помню пример сдвига формант речи. Функция небольшая, но главное это ее логика реализации. Да, llm в итоге ее написали и она стала выполняться без ошибок. Только делала она совсем не то.
Как данный подход позволяет решить такие задачи? То есть исполняемый код они таким образом сделают. Но он часто будет мусором.
То же самое было с написанием сложных SQL процедур на postgres для отчётов. SQL выполняется, результат нулевой. Ок, у нас на выходе будет результат идеальный для сравнен, он подгонят, а на других данных работать не будет. И хуже всего, когда его занесло не туда, дальше только хуже. Он не может пересмотреть весь подход и начать все сначала.
То что вы видите, это не сознание. Вы просто задаете прогнозирование.
Я так в свое время создавал характеры, тут часть описано как делать. Направляя прогноз модели в нужное эмоциональное русло
https://t.me/greenruff/2232?single
В реальности было ещё сложнее, так как учитывал речь собеседника, состояние модели "эмоциональное" через дополнительную сеть, которая была примитивным прообразом лимбической системы
Почему обязательно продолжит развиваться? Развивает его пока человек по тем же правилам, что развивался сам, на тех же данных. Со всеми его косяками, как вы описали. И если человек вдруг тупиковая ветка развития, то почему нейронка обученная на том же, должна развиваться.
И главное как развиваться? У человека глобальная ошибка это баланс гомеостаза. У нейронки глобальная ошибка, это наша интерпретация результата на основе наших сенсоров, нашего мозга. Мы ей задаём глобальную ошибку. Что вы предлагаете задавать в качестве глобальной цели сетки самостоятельно? Размножение, страх самосохранения, охота за энергией? Тогда получаете человека в итоге.
Как вы себе это представляете?
И да и нет. С одной стороны действительно новые слои мешают старым слоям мозга и не дают им расшириться. Но это компромисс. С другой стороны, у тех же птиц это удалось обойти большей плотностью нейронов. Хоть мозг меньше, но плотность гораздо больше. А тех же муравьев, больше упор на коллективную адаптацию и разделение функций мозга среди разнообразия внутри вида.
По хорошему мозг сам по себе не нужен. Это сложная система для обеспечения физиологического баланса нормального гомеостаза. Напал кто-то.. гомеостаз нарушен, мозг пытается предсказать оптимальное решение, чтобы вернуть его в нормальное состояние. Встретил самку, нарушился гомеостаз, мозг пытается предсказать оптимальное решение для возврата. И так далее. С этой стороны да, он строго заточен под ряд задач, которые формируют глобальную ошибку. Базальные ганглии анализируя множество сигналов, на основе обобщенной глобальной ошибки запускают процесс выработки дофамин или его уменьшения. Я к тому, что есть глобальная ошибка. Сейчас мы обучаем сетки глобальной ошибке на конкретных примерах.
Вопрос был про мозг, у человека так же проблемы с управлением пальцами, так как остался архаичный механизм управления.
Тут не надо все смешивать мозг и физиологию. Мозг развивался слой за слоем при решении задача. Его главная цель, это поддержание нормального гомеостаза организма. То есть вернуть гомеостаз в нормальное состояние. Он предсказывает, как это можно сделать.
Но насчет гортанный нерв согласен. Если с такой стороны смотреть, то да, не оптимальные решения действительно есть и они вызваны изначальными условиями. И система находит компромисс.
Если брать мозг, то действительно внутренние зоны не могут полноценно продолжать развиваться, так как на ними уже новые. Например, у людей которых гиппокамп крупнее - соседние зоны будут меньше.
Развитие идет не быстро, так как это оптимально. Любое развитие мы можем рассматривать как "мутации", и если их сразу принять, то они могут привести к вымиранию. Поэтому нужно много времени.
Кто вам такую чушь сказал? что старый функционал мешает там новому? Конкретно можно хотя бы один пример? Сколько разбирал зоны, области.. там нет ни одной, которая была бы не нужной или лишней. Более того, трансформеры и реализуют в примитивной форме области неокортекса. В примитивной, потому что не все. Из-за чего сильно страдают и имеют ряд проблем.
Вот как вы сделали такой вывод, что там лишнее или редуктивное? Там точно так же лишнее становится редуктивным. Например, есть классическая шестислойная модель неокортекса. Так вот в ассоциативных зона слой 4 редуцирован, так как нет необходимости объединять сигналы и фильтровать. А например кохлеарное ядро там есть две области VCN и DCN, которые распознают два разных диапазона частот. VCN проще и быстрее - это диапазон до 2000 Гц, она развита у человека. А DCN сложнее, в том плане что нейронов и разных участков больше, она за звуки от 1800 Гц и выше и более затратная по ресурсам. Вот у нас DCN не развита, так как нафиг не нужна, а вот VCN отлично. А у летучих мышей DCN и VCN обе развиты, особенно DCN что позволяет им использовать эхолокацию.
Нет в мозге ничего лишнего и старого. Как только что то становиться не нужно, это редуцируется и исчезает. И если вы решите написать что-то с нуля для взаимодействия с реальным миром, все равно придете к тем же областям. Только энергоэффективность этого будет гораздо хуже.
Что там были за математические задачи? Мне пока все модели OpenAi, Claude, Qwen, DesspSeek в разных режимах (рассуждающих. исследования и так далее) пока не смогли решить ни одной сложной математической задачи требующей мышления. Но при этом, они хорошо помогают развить идею, так как позволяют быстро вспомнить какие-то разделы формулы, получить список многих теорем на заданную тему.
При этом, они просто не могут проанализировать сами кучу разделов. Например, сейчас я решал математическую задачу связанную с энтропией. Да супер, они все сразу приводят формулы Шеннона, но все остальное надо указывать самостоятельно. Чтобы провести сравнение с энтропией Чебышева и другими, нужно указать на это или неявно попросить об этом. Они гоняют по кругу самое популярное, повторяя одно и тоже. И не дай бог их занесет ни туда.
Каждый раз приходиться возвращаться к какой-то части цепочки, чтобы перенаправить модель по другому предсказанию.
Что там за мат задачи были? Из пункта А в пункт В выехал поезд, и когда они встреться? Почему мне модели не могут ни нормально хим. рецепты писать (когда я пытаюсь улучшить, что то в растворах) или самостоятельно решить мат задачу, которую до этого не решали? Да блин, даже голограмму не могут толком нормально рассчитать, приходится за ними править расчеты. Они супер рассчитают то, что уже и так 1000 раз решали множество раз. Так и я могу один раз написать программу, которую сделает расчеты такой задач и это будет работать быстрее и точнее LLM и превзойдет в этой задаче человека. Давайте Photoshop сравнивать с рисованием, а CAD с черчением от руки. Речь же про сложные задачи, а не трудоемкие. Сложные - это когда до этого решения не было. А не когда ты потратил 10 часов на то, чтобы все расписать.
А что считается за критерием оценки? Если сравнение с результатом, который мы хотим получить, то в чем эволюция развития таких агентов?
Если же это абстрактные критерии оценки, то какие? У человека это выживание голод жажда размножение. То есть оценка не конкретно распознать уши кролика, а распознать еду. Условно конечно.
Это как раз важный критерий глобальной ошибки. У нас, этим критерием является CO2, так как он играет важную роль для кислотности и расщепления глюкозы C6H12O6 + 6O2 ~ 6CO2 + 6H2O. Отсюда же и глобальный критерий оценки для поиска глюкозы и других элементов для выживания. Ну и куча других.
В случае агентов и их эволюции, я так и не понял, к чему они должны стремиться? К решению который мы указали сами? Пока что я вижу только поиск оптимального решения задачи данным методом.
На Хабре таких много, от статей до комментаторов, верящих в сознание LLM. Они видят сознания, задавая сеткам тупые вопросы (недавно посмотрел, что другие обсуждают с ChatGPT - "построй натальную карту по анализам"). И когда LLM им выдает херню, люди считают ее умной, ведь она смогла "осознать" их бред.
Пользователь верит, что ChatGPT — бог, а сам он — мессия: Rolling Stone собрал истории «психоза» после долгого общения с ботом
https://vc.ru/chatgpt/1968188-psikhoz-ot-chatgpt-razrushayushchikh-otnosheniya
И мое любимое:
ChatGPT пытается свести меня с ума. Это массовое явление
https://dtf.ru/life/3626060-chatgpt-pytaetsya-svesti-menya-s-uma-eto-massovoe-yavlenie
Когда люди не понимают как это работает и что на самом деле они получают, для них это магия. Им что ChatGPT, что шаман с бубном. Кто то бекапы их ведёт для "сознания", кто то промптом "сознание" активирует, кто то через свою шизофрению.
1) тут тоже самое. Причина одна и та же
2) Закон Ципфа это эмпирический не точный закон. Вы по моему упустили самое главное, а то, что формула выведена не из пустоты а имеет доказательную базу. Изначально она была выведена из Ципфа (ее упрощенная версия https://t.me/greenruff/2346). Была показана, как это работает и ведет себя.
3) при определённых значений N и beta она подобна закону Ципфа. Речь про поведение на ограниченном участке N (а Ципфа имеет сильные отклонения при увеличении N от наблюдаемых эмпирических данных)
А при чем тут галлюцинации? По-моему вы путаете два понятия. Галлюцинации так же возникают из за случайного выбора, в статье данный подход их не решает.
Вы описали агентскую систему. Ок, классно. Она улучшает работу системы в целом, но к заголовку ни как не относится. Проблему галлюцинаций она не решает, а решает проблему специализации обучения конкретным данным, и решения части задач выходящих за рамки LLM.
Не понимаю, зачем кликабельный заголовок делать. Затем писать тонну воды. Почему сразу было не сделать фокус на агентской сетки, где вы предложили свой способ (обучения или только рассуждения?) для улучшения качества ответа.
Галлюцинации, это например когда модель вместо слова "соотношение" вставила слово "сношение". Как яркий пример случайного выбора вероятности. И в каких то случаях это не повлияет сильно на ответ, а в каких то наоборот. Или же ответы "вода" (ни о чем), когда модел не можем вместить в себя все детали и начинает обобщать. Что приводит к тому, что она не способна больше уловить детали в данной области и вынуждена обобщать все данные. Это тоже своего рода галлюцинации, хотя не в прямом смысле.
Ваша модель не решает первую задачу. И немного затрагивает вторую задачу.
Столько воды в статье. Без четких доказательств.
Я только сейчас закончил большое исследование, где математически доказал иерархическую модель асимметрии. Человек является лишь одним из уровней этой иерархии. В рамках этой модели, человек тот же конечный автомат асимметрии.
Свободу воли можно рассматривать только в рамках флуктуации. По сути области мозга, так и сам человек представляет один из уровней иерархии. Где сообщество ещё один уровень. Все они имеют свой rank, подобный закону Ципфа (он приблизительный, но не точный. Точный выводится из Лагранжа).
То есть если мы абстрагируемся и будем рассматривать человека как частицу, то его действия четко прописаны его ранком, который просто будет влиять на вероятности его действий.
Статья как раз пришлась во время. Я только на этой неделе закончил исследование на эту тему. Сначала через закон Ципфа показал как система сама учиться выделять признаки через обучение числа признаков на каждом уровне и на сколько это важно.
А затем, через метод Лагранжа вывел полную формулу , где Ципфа частный случай.
Суть в том, что любая модель обучаясь на сигналах просто строит иерархию асимметрий на основе Zipf подобного распределения. Где сама иерархия подчиняется этому закону.
На примере трансформеров показал как это происходит (как частный пример). Сейчас у меня построен более полный конечный автомат асимметрии, где изначально в основе лежала шестислойная модель неокортексе. Но в итоге это привело к обобщению и получению модели асимметрии сигнала.
Данная статья замечательно подтверждает это наглядно.
https://t.me/greenruff/2400?single
То что авторы называют голодом , на самом деле доказывается через два параметра N и beta. То есть модель не может бесконечно развиваться, так как тогда теряет способность к деталям и это приводит к обобщению (ухудшается). Это точка бифуркации, когда для развития системы она должна перейти к новому уровня иерархии, где будет снова через новые N и beta улавливать асимметрию нового уровня.
Поэтому то что авторы описывают через вольную интерпретацию имеет теперь твердую математическую и физическую базу.
Тогда зачем вы на собеседованиях на ML и в требованиях к ним пишете полную ерунду не относящуюся к решаемым задачам? Ту задачу, которую вы описали, не сложная ни для больших видео, ни для коротких
Может на собеседованиях стоит не let code и прочую ерунду проверять на уровне терминов? Тогда и сложностей с решением таких задач не будет.
Позанудствую. Тут пришла идея, что можно применять CTM не на уровне нейронов, а блоков (например трансформеров) как компромисс. Для этого использовать свёртки, но запоминая состояние.
Это аналог CTM, но через свёртки на уровне блоков. Например, добавляем его на выходе каждого блока трансформера.
Ещё раз прочитал, да хранение истории оправданно биологически. Но это увеличивает размер памяти в 4-8 раз. Что нереально сейчас для крупных сеток.
Как компромисс, можно использовать CTM подход либо на уровне выходов слоев или блоков. Другого решения не вижу, современные карты просто не потянут данную модель на уровне нейрона
Почитал. Нейрон запоминает и обрабатывает историю входов (как минимум последние N шагов). Чем то напоминает скользящее среднее. Я иначе делал. В моем случае нейрон хранит состояние, которое меняется под воздействием сигнала но по разному. Хранить N состояний накладно, достаточно хранить текущее состояние и правильно реагировать на новый сигнал (он вносит разный вклад в изменение состояние). Точнее мы храним состояние нейрона и асимметрию (то есть как он реагирует на входной сигнал). Смещение асимметрии сигнала приводит к тому, что он по разному реагирует на спад и рост сигнала. При этом мы храним две асимметрии: амплитуды и частоты. Это биологически ближе к нейронам. Но это тоже не полная реализация. В реальности нейрон имеет обратный захват, где модулирует входной сигнал , очищая его от "шума".
Не совсем понятно про реккурентное время, как я понимаю оно сделано через скрытое состояние? Просто в SSM время тоже через скрытое состояние. А в версии linoss (тоже ssm) так уже улавливает осцилляции и затухания и синхронизацию.
Хотя это можно сделать просто через нахождение устойчивых сигналов не только в амплитуде (как трансформеры), но и в частоте и фазе. Для этого я например добавлял формулы гистерезис для частоты и фазы.
Надо посмотреть что сейчас CTM предлагает. Так как пока ищу решение для реализации релейных клеток таламуса. Их отличие в том, что у них есть два режима. Сигнал как есть и серия сигнала . Например, 1 может быть послан как 1111, но за тоже время. На классических сетках такое не сделать без специальных махинаций.
То что вы описали похоже на нахождение асимметрии сигнала, через измените состояния.
Сейчас над таким бьюсь. Как видно, это уже порождает серию импульсов сигнала. Пока не понятно, как должны быть связаны соседние нейроны друг с другом. Надо посмотреть, может. CTM сделали тоже самое.
А вообще нейрон является своего рода автоматом, выделяющим асимметрию.
https://t.me/greenruff/2328?single
Спайки делают нечто похожее. RNN делает это урезано на более крупном уровне
В математическом плане задача действительно решаемая. Это задача о проекции множества одного контекста на множество другого контекста.
https://t.me/greenruff/2097?single
И \там действительно можно их свести. Вот только это будет не равнозначный контекст, а вероятностный контекст. Но в реальности именно так и происходит, как мы изучаем язык каких-нибудь племен Амазонки или Австралии. Так же как изучаем постепенно язык некоторых обезьян (у некоторых есть отдельные слова и сочетания слов), так же как у некоторых птиц есть грамматика.
Проблема сводиться к тому, что вариантов как именно обучить не так много. Идеальные решения на грани фантастики. Кроме того, мы сталкиваемся с проблемой, на каком именно уровне мы получаем конвертацию контекста.
https://t.me/greenruff/2059
Когда разбирал паузы речи, то оказалось что в основе стоит последовательный граф, с разными уровнями контекста. И не все животные обязательно обладают нужным уровнем. Для некоторых уровней контекста необходимы разные условия.
https://t.me/greenruff/2027
Так как развитие языка требует разных условий, не только внешней среды но и поведенческой.
Но есть и положительные стороны. У всех животных, птиц, насекомых, даже китов и дельфинов одинаковое фазовое пространство градиентов речи. Оно отличается лишь центральной частотой, масштабом и степенью оптимизации (развитости). Но оно одинаково у всех, несмотря на то, что каждое из них используют разные виды артикуляции (жужжальца, язык, мешочки и так далее). И это говорит о том, что несмотря на разные формы выражения языка в целом он стремиться к общим формам (на уровне артикуляции точно).
https://t.me/greenruff/1927
Я в свое время пытался хотя бы грубо сместить речевые уровни и масштаб на привычный человеческому. Совсем иначе звучит, хотя преобразования грубые. У ворон уже не кар-кар, а совсем другие звуки слышны, видно как они вместе что-то произносят одно и тоже.
Проблема с домашними питомцами в том, что их речь может оказаться только на уровне эмоционального контекста, так как у них не крупных групп, в которых язык мог бы формироваться, передаваться и становится стабильным. А у диких - летучие мыши, волки возникает проблема, так как животное должно понимать человеческую речь. А для этого оно должно быть выращено с младенчества с постоянных разговорах (как с ребенком когда говорят). И при этом жить в дикой стае, чтобы понимать язык носителя. Под такое подходят разве, что дельфины. Есть и другой подход, но для этого нужно огромное кол-во данных.
Посмотрим как собирается делать Baidu.
Это связано с тем, что существует два механизма: глобальные и локальные маршруты.
https://t.me/greenruff/2073?single
Кратко, суть в том, что под воздействием норадреналина подавляется активность лобной доли. Это приводит к коротким маршрутам: короткая речь, быстрые действия. Норадреналин выбрасывается во время стресса, когда требуется не рассуждать, а выбрать самый короткий, самый сильный при этом маршрут, для быстрых действий в случае опасности /стресса.
Это отражается на уровне текстов. Короткие тексты содержат отражения этих признаков воздействия норадреналина. Обучение на этих текстах и такие же ответы приводят к симуляции такого поведения.
На уровне нейронов, норадреналин изменяет соотношение сигнал/шум. Теперь, те сигналы, которые раньше считались устойчивыми начинают считаться шумом. За счёт этого увеличивается контраст самых сильных сигналов, наиболее коротких. Это приводит к тому, что сигнал не проходит по всем областям, а только по локальной области. Это позволяет решить ряд проблем:
1) все силы бросаются на реакцию на стресс, быстрым действиям. Так как опасность может стоить жизни
2) берутся самые сильные сигналы в области и сокращается время реакции. Поэтому во время стресса, кто то неосознанно забежит у горящее здание спать других, а кто то победит подальше от пожара. Это и есть работа данного механизма. Он словно изменяет яркость на картинке, когда в итоге все соседнее изображение исчезает, и остаются только самые яркие цвета. Связи теряются, мы видим только самые сильные признаки на картинке.
Тексты, это отражение этих признаков. Когда сетка генерирует короткие, это тоже самое как у человека. Это не значит, что они обязательно неправильные. Остаются самые сильные связи. Например, студент учил упорно вопросы к экзамену. Мы разбудили его во время сна и спрашиваем ответ на них. Он ответит, эти связи у него самые сильные, а резкое пробуждение это стресс. Он выдаст их сходу. Но если мы попросим его назвать имя первой учительницы, он не сможет его вспомнить. Норадреналин блокирует это.
Тоже самое с LLM. Москва - столица России, она выдаст коротко. Но если это сложные связи со множеством деталей, то вероятно отразит те же признаки.