С каких пор, кто-то что-то подтверждает? Политика партии всегда во все времена была одна. Молчать о любых инцидентах и все отрицать и успокаивать население
Спасибо за наводку, попробовал 🙂 Взял LIF, перебрал настройки и добавил STDP, в том числе с учётом ошибки прогноза. Проверял пока на искусственных данных.
Мой вариант обычную персональную память не обошёл. Зато интересно: при смене режима первые улучшения после 1–2 новых ответов появились и без спайков. Правда, прошлый опыт у модели уже был — это не обучение с нуля.
Так что преимущества пока не получил, но спайки списывать рано: возможно, дело в том, как я перенёс идею в свою задачу. Код и результаты V10 выложил, буду рад замечаниям.
Спасибо вам, но но большая часть предложений уже мной была реализована кроме лоры) Общая предобученная модель и небольшие персональные поправки уже используются: логистическая регрессия из листинга обучается на общей когорте, а новый пользователь начинает с нулевой поправки к её прогнозу. Возможно, в статье недостаточно ясно это разделил.
Забывание тоже есть. Экспоненциальное затухание по времени, быстрая и медленная память, плюс L2 при обновлениях. Но пока остаётся проверить, какой вклад даёт каждый механизм и насколько удачно выбраны параметры.
LoRA еще не пробовал. Сейчас персональная память корректирует логит общего прогноза через вектор весов поверх фиксированного представления. Нужно будет сформулировать сопоставимые эксперименты.
Годнота, спасибо за статью! Особенно понравилась идея с живым код-ревью, так появляется возможность показать, как ты разбираешься в задаче, какие вопросы задаёшь и почему предлагаешь конкретное решение.
И кажется, такой формат полезен ещё и кандидату. По обсуждению кода можно многое понять о будущей команде. Как здесь относятся к чужим решениям, критике, умеют ли объяснять требования, готовы ли обсуждать компромиссы. Собеседование ведь в обе стороны работает
Отлично! Значит теперь вместо Luna можно использовать для всякой рутины, типа перевода интерфейсов на разные языки. Для чего-то чуть более серьезного я бы не стал использовать эти модели. Цена ошибки и последующих исправлений еще сильно высока
n8n крутая штука, но иногда задачу проще решить написав простой скрипт автоматизации. Через ту же нейронку например. Но по опыту скажу что даже хорошо отлаженный скрипт или фабрика контента требует ручной модерации, подписчики не дураки шляпу сразу вычисляют и отписка следом.
Я думаю там мыслят не модельками, а более высокими категориями. Типа что мы достигним при таких вложениях через 10 лет какие у нас будут возможности сможем ли мы заключить стратегические контракты какие они могут быть, какие технологии мы открываем что они нам дадут и тп.
При таком мышлении модельки и каждый новый выпуск это лишь ступенька на пути к созданию AGI или каких то конкретных целей которые куда важнее чем просто окупить GPT 5.6 Sol.
Маск вон о колониях на марсе в серьез думает) при таких стратегических целях текущие затраты это мелочи по сравнению с результатом который может быть достигнут
Недавно ко мне обратился знакомый, просил помочь его приятелю с безопасностью на айфоне. Я подумал что бедолага совсем не шарит в технологиях и ему кажется что за ним постоянно следят, что воруют деньги с карты что появляются новые приложения в телефоне.
Разгадка была простая, это был наркоман. Отсюда паранойя, разбитое сознание и забывчивость о том что он сам себе поставил и какие подписки оформил и забыл отключить )))))
С каких пор, кто-то что-то подтверждает? Политика партии всегда во все времена была одна. Молчать о любых инцидентах и все отрицать и успокаивать население
Опыт Вайлдбериз кажется ничему не научил. Хотя бы сетки натянули от дронов
Хочется прокоментировать но страшно!
Ибо слова не знаю какие написать чтобы не прилетело по шапке! Но вы поняли меня
Нафига завязывать критические процессы на ненадежных решениях? Ладно там домашние проекты делаем с клодом, но бизнес подставлять
Господи! опять мы решаем проблемы дураков! Когда уже это все кончится ))))
Ну будет время и желаение код открытый
Спасибо за наводку, попробовал 🙂 Взял LIF, перебрал настройки и добавил STDP, в том числе с учётом ошибки прогноза. Проверял пока на искусственных данных.
Мой вариант обычную персональную память не обошёл. Зато интересно: при смене режима первые улучшения после 1–2 новых ответов появились и без спайков. Правда, прошлый опыт у модели уже был — это не обучение с нуля.
Так что преимущества пока не получил, но спайки списывать рано: возможно, дело в том, как я перенёс идею в свою задачу. Код и результаты V10 выложил, буду рад замечаниям.
Ок пойду читать )
Да!!!))) вот это и хочется проверить, cможет ли система подхватить новый режим за один-два примера? Но пока такого результата у меня нет.
Хочу попробовать и вариант со спайковыми сетями, посмотреть, будет ли толк. Надеюсь, если кто-то уже делал похожее то подскажут, куда копать
Спасибо вам, но но большая часть предложений уже мной была реализована кроме лоры)
Общая предобученная модель и небольшие персональные поправки уже используются: логистическая регрессия из листинга обучается на общей когорте, а новый пользователь начинает с нулевой поправки к её прогнозу. Возможно, в статье недостаточно ясно это разделил.
Забывание тоже есть. Экспоненциальное затухание по времени, быстрая и медленная память, плюс L2 при обновлениях. Но пока остаётся проверить, какой вклад даёт каждый механизм и насколько удачно выбраны параметры.
LoRA еще не пробовал. Сейчас персональная память корректирует логит общего прогноза через вектор весов поверх фиксированного представления. Нужно будет сформулировать сопоставимые эксперименты.
Надеюсь китайцы их догонят и затем, и появятся еще несколько сильных игроков.
Годнота, спасибо за статью! Особенно понравилась идея с живым код-ревью, так появляется возможность показать, как ты разбираешься в задаче, какие вопросы задаёшь и почему предлагаешь конкретное решение.
И кажется, такой формат полезен ещё и кандидату. По обсуждению кода можно многое понять о будущей команде. Как здесь относятся к чужим решениям, критике, умеют ли объяснять требования, готовы ли обсуждать компромиссы.
Собеседование ведь в обе стороны работает
Отлично! Значит теперь вместо Luna можно использовать для всякой рутины, типа перевода интерфейсов на разные языки. Для чего-то чуть более серьезного я бы не стал использовать эти модели. Цена ошибки и последующих исправлений еще сильно высока
Я тут недавно и даже статьи пока писать не разрешают ))))) по этому еще удивляюсь таким постам ))) Но материал был интересный
n8n крутая штука, но иногда задачу проще решить написав простой скрипт автоматизации. Через ту же нейронку например. Но по опыту скажу что даже хорошо отлаженный скрипт или фабрика контента требует ручной модерации, подписчики не дураки шляпу сразу вычисляют и отписка следом.
тем временем у меня как выяснилось стоит сертификат и яндекс браузер
И не понятно что лучше... ставить яндекс браузер или мудрить с сертификатом? Наверное браузер с минимальными правами.
Ну гойда! Что тут скажешь.....
Я думаю там мыслят не модельками, а более высокими категориями. Типа что мы достигним при таких вложениях через 10 лет какие у нас будут возможности сможем ли мы заключить стратегические контракты какие они могут быть, какие технологии мы открываем что они нам дадут и тп.
При таком мышлении модельки и каждый новый выпуск это лишь ступенька на пути к созданию AGI или каких то конкретных целей которые куда важнее чем просто окупить GPT 5.6 Sol.
Маск вон о колониях на марсе в серьез думает) при таких стратегических целях текущие затраты это мелочи по сравнению с результатом который может быть достигнут
Просто горизонт планирования окупаемости шире чем мы себе представляем это может оказаться и 10-15 лет
Недавно ко мне обратился знакомый, просил помочь его приятелю с безопасностью на айфоне. Я подумал что бедолага совсем не шарит в технологиях и ему кажется что за ним постоянно следят, что воруют деньги с карты что появляются новые приложения в телефоне.
Разгадка была простая, это был наркоман. Отсюда паранойя, разбитое сознание и забывчивость о том что он сам себе поставил и какие подписки оформил и забыл отключить )))))