Чтобы делать надо иметь клод подписку. Да и это в любом случае надо ещё делать, настраивать дев окружение, писать промты. С другой стороны удешевление разработки и конкуренция собьёт цены на ПО. Поэтому не все будут это делать. Будут покупать за копейки. Другое дело а какой софт ещё будет нужен?
В этом и Проблема бесплатных лимитов, даже если 100 чел так сделает то знатно абузит сервисы и поэтому реальные лимиты заметно ниже и по количеству запросов и по длине контекста никто уже не гарантирует бесплатные лимиты
Год, два назад это бы хорошо работало. Но сейчас все личных агентов ставят и все бесплатные сервисы абузят, поэтому лимиты везде низкие. Пробовал мультиакк недавно на cerebras (с прокси конечно) на запросы с маленьким контекстом вроде нормально работает, но при реальной нагрузке типа openclaw все сразу падает, отвечает ошибками. Пока пришёл к тому что проще дешёвые модели использовать. За небольшую плату работает без проблем. Полгода назад у Gemini были просто царские бесплатные лимиты. Можно было десятки долларов в день с акка экономить. А сейчас везде очень слабые нейронки и лимиты смешные. Хотя если задача прям очень простая то пойдёт. До сих пор сервис автоответов на отзывы на гроке бесплатном работает.
Тут речь про маленькие модели типа 8б. На некоторых телефонах уже есть npu. В удивитесь но они легко могут вычислять быстрее процессоров, при потреблении в несколько ватт. Если сейчас это в основном пиксель и ван плюс, то уже скоро будет везде и фотки обрабатывать и агентов запускать
далеко не все так однозначно. зачастую ситуация обратная, в стиле как раньше говорили “давай я погуглю за тебя”… ведь многие вопросы реально кажутся уже легко решаемыми ллм.
кто-то нейронками с ног до головы обмазался, а кто-то ни разу с ими не пользовался или только попробовал и не понимает что можно, а что нельзя и как ей правильно задать вопрос.
к тому же бывает лень печатать проще редиректнуть вопрос к ллм и бегло прочитать ответ (вместо того чтобы самому печатать простыню) - это как раз и есть личный вклад человека.
Я все таки думаю что это надо делать не на маленьких llm а на больших. И учить их сначала на всем коде. А потом fine tune даже не на язык а на стек компании (язык, фрейм, библиотеки, код стайл, и др особенности). Вот это уже будет интересно, как сотрудник компании который в теме проектов компании. Для инд разработчиков да, лора под популярные стеки. Но дорого это все. Особенно модель с нуля под один язык вообще безумие. Да и детасет очень маленький. В вашем случае можно порекомендовать просто добавить в систем промт подсказку по популярным ошибкам. Можно через ллм и сгенерировать.
Вот только купил цветной принтер и началось… мне кажется первое время все равно по цене будут дороже чем ifs. А так такая система смысл имеет конечно.
да, устарела инфа, но в любом случае крупные компании боятся нарушения авторских прав и из-за этого пока не используют. у них на кону очень много.
Постоянно про это слышу. Конкурс на сантехников чувствую будет большой. Есть ещё варианты?
Потому что в играх пока запрещено использовать ии ассеты. У неё есть уверенность в будущем?
То есть если сейчас иишку спросить про гео то она начнёт отвечать по этой статье, даже если некоторые пункты тут могут быть надуманные
Чтобы делать надо иметь клод подписку. Да и это в любом случае надо ещё делать, настраивать дев окружение, писать промты.
С другой стороны удешевление разработки и конкуренция собьёт цены на ПО. Поэтому не все будут это делать. Будут покупать за копейки. Другое дело а какой софт ещё будет нужен?
В этом и Проблема бесплатных лимитов, даже если 100 чел так сделает то знатно абузит сервисы и поэтому реальные лимиты заметно ниже и по количеству запросов и по длине контекста никто уже не гарантирует бесплатные лимиты
Год, два назад это бы хорошо работало. Но сейчас все личных агентов ставят и все бесплатные сервисы абузят, поэтому лимиты везде низкие. Пробовал мультиакк недавно на cerebras (с прокси конечно) на запросы с маленьким контекстом вроде нормально работает, но при реальной нагрузке типа openclaw все сразу падает, отвечает ошибками. Пока пришёл к тому что проще дешёвые модели использовать. За небольшую плату работает без проблем. Полгода назад у Gemini были просто царские бесплатные лимиты. Можно было десятки долларов в день с акка экономить. А сейчас везде очень слабые нейронки и лимиты смешные. Хотя если задача прям очень простая то пойдёт. До сих пор сервис автоответов на отзывы на гроке бесплатном работает.
Тут речь про маленькие модели типа 8б. На некоторых телефонах уже есть npu. В удивитесь но они легко могут вычислять быстрее процессоров, при потреблении в несколько ватт. Если сейчас это в основном пиксель и ван плюс, то уже скоро будет везде и фотки обрабатывать и агентов запускать
Менряться токенами надо на одной модели и квантовании. Или хотя бы одинаковое количество активных параметров и квантование
название сразу уже намекает что это не к добру… цифровое болото какое то…
Все что они пишут при общении с ии потом пройдёт в обучающий датасет. Потом эти же люди будут орать почему ии хочет нас уничтожить…
далеко не все так однозначно. зачастую ситуация обратная, в стиле как раньше говорили “давай я погуглю за тебя”… ведь многие вопросы реально кажутся уже легко решаемыми ллм.
кто-то нейронками с ног до головы обмазался, а кто-то ни разу с ими не пользовался или только попробовал и не понимает что можно, а что нельзя и как ей правильно задать вопрос.
к тому же бывает лень печатать проще редиректнуть вопрос к ллм и бегло прочитать ответ (вместо того чтобы самому печатать простыню) - это как раз и есть личный вклад человека.
Вы описали разницу в типе виртуализации kvm vs openvz
е-инк и сейчас разивается в сторону цвета, есть даже целые мониторы
это не приговор. надо тестировать на своих реальных задачах. одному пододйет, другому - нет. ну и цена тут тоже решает.
Я все таки думаю что это надо делать не на маленьких llm а на больших. И учить их сначала на всем коде. А потом fine tune даже не на язык а на стек компании (язык, фрейм, библиотеки, код стайл, и др особенности). Вот это уже будет интересно, как сотрудник компании который в теме проектов компании. Для инд разработчиков да, лора под популярные стеки. Но дорого это все. Особенно модель с нуля под один язык вообще безумие. Да и детасет очень маленький.
В вашем случае можно порекомендовать просто добавить в систем промт подсказку по популярным ошибкам. Можно через ллм и сгенерировать.
В “опусе” по подписке также идёт роутинг на младшие модели в большинстве случаев. Все таки в минус себе они работать не будут.
Тоже интересно, но фикс подписки пока видел только на китайских моделях. Minimax, ollama com.
Это вы ещё pwnagotchi не видели