Анатомия памяти LLM: Почему будущее не за промптами, а за Инженерией Контекста

В чате вполне могут использоваться и методы сжатия контекста (поиск/переупаковка участков) и кэш, но вот по api только кэш, оптимизация контекста - забота разработчика

Именно квадратичной сложности от размера контекста не осталось после flash attention. Взялась она из матрицы попарного внимания между токенами, с нюансами вроде: внимание считается для всего что левее конкретного токена

Trellis — нейросеть для генерации 3D-моделей от Microsoft

Да, надо было писать на visual basic и делать xbox эксклюзивом

Сбер выкладывает GigaChat Lite в открытый доступ

Добрый день. Ограничение max len в 8к, это для а100 подобрано?

Как мы создали LLM-модель Cotype Nano

Есть в планах тюн для qwen2.5 b14?

Сравнивали свой тюн с RuadaptQwen1.5b ?

Российские ученые нашли способ, как превзойти тензорный процессор от Google

Тут суверенными будут даже попугаи, удобно

Российские ученые нашли способ, как превзойти тензорный процессор от Google

А вычислить максимум из максимумов по батчам не считается?

Российские ученые нашли способ, как превзойти тензорный процессор от Google

Да уж лучше сюда гранты, чем самизнаетекуда

Взять и захостить собственную LLM — зачем это нужно [и нужно ли вообще]

Нижняя граница зависит от потребностей в первую очередь. примерно 1.3 от размера необходимых весов + немного на контекстное окно. На 3060 6 Гб запускал квантованные веса для автокомплита кода, работает достаточно шустро

Пароль не нужен. Разбиение файла на зашифрованные фрагменты по схеме Шамира

Тогда уж две части: одна душеприказчику, другая жене. Ваши четверо посторонних могут и без жены консенсус организовать

Разработчик показал, как он использует Quest 3 вместо мониторов

Вся эта конструкция на убунте заведется вообще?

Исследование: обучение на сгенерированных данных может привести к коллапсу большой языковой модели

Насчёт данных 21 года - думаю это просто актуальность fact storage, валидация свежих фактов может влететь в копеечку. Дообучение дешевле выйдет, вполне могли придумать способ конвертации 4х смежных окон по 4k токенов в одно на 16k

Фотореализм без Midjourney: тестируем новую нейросеть

По второму пункту. Озвученной ЦА сервиса, место публикации не очень соответствует

По третьему. Все в открытом доступе. Какой смысл заявлять об отсутствии в свободном доступе если опровергается за 5 секунд? Huggingface и civit.ai - качай сколько влезет..

Фотореализм без Midjourney: тестируем новую нейросеть

В разрешении 1024*1024 генерировать особого смысла нет, гораздо удобнее батчем 4*512*512 а потом апскейлить то что понравилось. Гит там не необходим (но иногда может помочь). Есть возможность задать количество шагов или семплер? Задать вес конкретному токену в промте?

От 12 gb vram? Прекрасно работает на 6-и, на 4-х запускают без особых проблем.

Визуализация весов в машинном обучении на примере алгоритма Random Forest и Decision Tree

У деревьев нет весов. Да, все поняли о чем речь, но это не веса.

Релокация в Турцию: получение международной карты и перевод денег из России

Какое доброе отделение банка Вам досталось. В четверг заходил в два офиса - для открытия счета требовался депозит в 5к usd. Анталия, ВНЖ нет.

Инженер создал открытый проект автоматической лазерной пушки, убивающей насекомых

Перед каждым пыхом включать звук, например, заряжающейся вспышки. Или просто, соседней сетью детектировать людей в зоне поражения.

Синаптические веса в нейронных сетях – просто и доступно (Часть 2)

Можно вытащить и визуализировать веса, но да, чем глубже тем сложнее интерпретировать даже визуализацию.

Синаптические веса в нейронных сетях – просто и доступно (Часть 2)

А сети со входом 64х64 тогда проверяют проверками )

Синаптические веса в нейронных сетях – просто и доступно (Часть 2)

Излишне упрощено кмк.

Ps Странный гибрид семисегментника и растра с выпадающими пикселями.

Как рисовать кровеносные сосуды с помощью машинного обучения

Насчёт [512, 256, 256] вопрос, третья размерность это 256 шагов поворота на полный круг?