По качеству тоже доминирует, лет 6-7 назад, когда хабр стал в очередной раз не торт, тут было 3 автора, которые каждый день постили какую-то хрень. Так вот, нынешняя хрень, получше той
если опираться на ваши слова, что после заполнения контекстного окна в 32к начинается рассинхрон, то все эти LLM по сути непригодны к эксплуатации, так как из практики даже относительно небольшое исследование кода на первой итерации отъедает по 40-50 тысяч токенов
«1. Не думай.2. Если думаешь — не говори.3. Если думаешь и говоришь — не пиши.4. Если думаешь, говоришь, пишешь — не подписывай.5. Если думаешь, говоришь, пишешь и подписываешь — не удивляйся».
При таком графике придется горшок под рабочий стул ставить
3000 вообще херня отрефакторить, с помощью LLM
Что за правило нарушается?
Как обычно - руководство не в курсе, как их компании функционирует
Но на питоне особенно хорошо получается, видать на питоне много материала
Роботы будут друг другу товар продавать?
Почему она дышит на ладан?
По качеству тоже доминирует, лет 6-7 назад, когда хабр стал в очередной раз не торт, тут было 3 автора, которые каждый день постили какую-то хрень. Так вот, нынешняя хрень, получше той
Сейчас LLM очень бодро говнокодит на питоне, так что можно не вникать
если опираться на ваши слова, что после заполнения контекстного окна в 32к начинается рассинхрон, то все эти LLM по сути непригодны к эксплуатации, так как из практики даже относительно небольшое исследование кода на первой итерации отъедает по 40-50 тысяч токенов
32k контекста это на один вопрос
ГУЛАГ всё ближе
«1. Не думай.2. Если думаешь — не говори.3. Если думаешь и говоришь — не пиши.4. Если думаешь, говоришь, пишешь — не подписывай.5. Если думаешь, говоришь, пишешь и подписываешь — не удивляйся».
да
даже дистиляты с нормальной скоростью на обычном компе не работают, контекстное окно нужно на размещать на GPU
Какие еще 10 раз?
Достаточно посмотреть на тарифы по API чтобы вопросы отпали
А где вы возьмёте 5000 GPU чтобы запускать открытую модель?
А вы могли бы свой пример про юзеров более подробно расписать? А то звучит как-то странно
Может вам еще ключи от квартиры где деньги лежат? Рассказывать в публичном пространстве про детали преступных схем, это надо быть каким-то одарённым