Мне зашёл opencode. Базовые вещи, типа mcp, lsp, permissions, sub agents доступны из коробки, все остальное добавляется через mcp и плагины. Как я понял, в pi все это надо добавлять
Это все конечно хорошо, но деградацию памяти никто не отменял. Ниже как раз писали об этом. Китайцы не просто так их списывают. Я ни в коем случае не спорю с вами, все может быть. Но риск выхода из строя у таких карт намного выше, чем у бытовых бу при эксплуатации в нормальном режиме
Не уложитесь вы в 100т. Одна 32гб стоит от 50тс (мифические 40 я не нашел), две - от 100. Прибавьте сюда затраты на охлад, а это пр-хорошему должны быть сжо + БП на 1000вт минимум. А если берёте 16гб версии, то там надо и материнку серверную докупать, чтобы минимум 3 штуки поставить. Если брать только 2 по 16гб, в этом смысла мало, туда влезут только модели либо с агрессивным квантованием, либо с маленьким контекстом (а для некоторых и то и другое придется делать). По моим опытным наблюдениям, 40гб - это минимум. Хотя в общем и целом, v100 все равно дешевле выйдут. Но тут вы не закладываете потенциальную поломку, карты все же старички, плюс их в хвост и гриву несколько лет жарили. Так что тут все сильно неоднозначно.
Она пытается угадать там, где 27b находит проблему и подтверждает доказательствами. Она для чатов больше подходит и работе по четкой инструкции от того же 27b, но прям как основную на средних кодовых базах со сложной бизнес логикой я бы ее использовать не стал. А так она конечно быстрая)
Чтобы не быть голословным, вот вам скришот потребления. На клоде бы такое количество токенов съело бы от 1000 баксов. И работает сильно быстрее, чем локальные модели
Полноте, я никому ничего не указываю, а выражаю свое собственное мнение. Вы просто кроме Клода ничего не использовали видимо, поэтому у вас такой негативный опыт. Клод - это одно из самых дорогих решений, которое в принципе можно найти на рынке. А я вот за две недели потратил около 1000р и решил несколько важных задач в репозитории проекта на несколько десятков тысяч строк.э, две из них были по рефакторингу, одна - по переписыванию поискового алгоритма. Использовал я дипсик v4.1 flash. Попробуйте, но это надо чуть больше в эту тему погрузиться, а не просто научиться Клод запускать
Ну 46т/с pp это боль, тут ни о какой серьезной работе речи не может быть. И это на старте и с 64к контекстом. Мне на Qwen 3.8 27b pp ~1700т/с на старте и падением до ~1000-500 при заполнении со средним контекстом ~180к (агентские задачи в работе с кодом) кажется иногда мучительно долгим процессом. Проще использовать модель в облаке или взять что-то поменьше, чтобы работало быстрее. Ключевое при работе с моделями - скорость. Если она работает медленнее, чем это вы сами можете сделать, смысла в этом мало.
Да нет. Пост про то, что мы не можем доверять результату ллм, но вместо того, чтобы придумать автоматизированный механизм валидации этих результатов, предлагается отдавать проверку обратно человеку. Если человеку все равно надо разбираться, зачем нужен анализ от агента, не совсем понятно.
У меня на подмане не завелся xvfb, хром не запустится. Подозреваю, что из-за того, что подман использует qemu. На докере работал, на подмане ошибка. Тестировал на Макоси.
Также не запустится дебаг в контейнере в intellij idea, хотя бета поддержка вроде заявлена.
Поэтому пока на докере.
Посмотрите в сторону Colima, очень интересна, как потенциальная замена докеру
Все в ваших руках. Можете конечно молиться, но мой опыт подсказывает, что эффективнее выстроить безопасный пайплайн работы с агентом. Вы же джуну не даёте доступ к базе с возможностью ее удалить? Или даёте и начинаете молиться? Тут то же самое.
Мне зашёл opencode. Базовые вещи, типа mcp, lsp, permissions, sub agents доступны из коробки, все остальное добавляется через mcp и плагины. Как я понял, в pi все это надо добавлять
Вы тренд до сих пор не просекли?) Мне кажется, они все с ошибками, просто в разном количестве, иначе бы их не списывали.
Это все конечно хорошо, но деградацию памяти никто не отменял. Ниже как раз писали об этом. Китайцы не просто так их списывают. Я ни в коем случае не спорю с вами, все может быть. Но риск выхода из строя у таких карт намного выше, чем у бытовых бу при эксплуатации в нормальном режиме
Не уложитесь вы в 100т. Одна 32гб стоит от 50тс (мифические 40 я не нашел), две - от 100. Прибавьте сюда затраты на охлад, а это пр-хорошему должны быть сжо + БП на 1000вт минимум. А если берёте 16гб версии, то там надо и материнку серверную докупать, чтобы минимум 3 штуки поставить. Если брать только 2 по 16гб, в этом смысла мало, туда влезут только модели либо с агрессивным квантованием, либо с маленьким контекстом (а для некоторых и то и другое придется делать). По моим опытным наблюдениям, 40гб - это минимум. Хотя в общем и целом, v100 все равно дешевле выйдут. Но тут вы не закладываете потенциальную поломку, карты все же старички, плюс их в хвост и гриву несколько лет жарили. Так что тут все сильно неоднозначно.
Она пытается угадать там, где 27b находит проблему и подтверждает доказательствами. Она для чатов больше подходит и работе по четкой инструкции от того же 27b, но прям как основную на средних кодовых базах со сложной бизнес логикой я бы ее использовать не стал. А так она конечно быстрая)
Чтобы не быть голословным, вот вам скришот потребления. На клоде бы такое количество токенов съело бы от 1000 баксов. И работает сильно быстрее, чем локальные модели
Полноте, я никому ничего не указываю, а выражаю свое собственное мнение. Вы просто кроме Клода ничего не использовали видимо, поэтому у вас такой негативный опыт. Клод - это одно из самых дорогих решений, которое в принципе можно найти на рынке. А я вот за две недели потратил около 1000р и решил несколько важных задач в репозитории проекта на несколько десятков тысяч строк.э, две из них были по рефакторингу, одна - по переписыванию поискового алгоритма. Использовал я дипсик v4.1 flash. Попробуйте, но это надо чуть больше в эту тему погрузиться, а не просто научиться Клод запускать
Ну 46т/с pp это боль, тут ни о какой серьезной работе речи не может быть. И это на старте и с 64к контекстом. Мне на Qwen 3.8 27b pp ~1700т/с на старте и падением до ~1000-500 при заполнении со средним контекстом ~180к (агентские задачи в работе с кодом) кажется иногда мучительно долгим процессом. Проще использовать модель в облаке или взять что-то поменьше, чтобы работало быстрее. Ключевое при работе с моделями - скорость. Если она работает медленнее, чем это вы сами можете сделать, смысла в этом мало.
Да нет. Пост про то, что мы не можем доверять результату ллм, но вместо того, чтобы придумать автоматизированный механизм валидации этих результатов, предлагается отдавать проверку обратно человеку. Если человеку все равно надо разбираться, зачем нужен анализ от агента, не совсем понятно.
На макоси докер использует эпловскийгипервизор, а не qemu. Я на Макоси запускал
У меня на подмане не завелся xvfb, хром не запустится. Подозреваю, что из-за того, что подман использует qemu. На докере работал, на подмане ошибка. Тестировал на Макоси.
Также не запустится дебаг в контейнере в intellij idea, хотя бета поддержка вроде заявлена.
Поэтому пока на докере.
Посмотрите в сторону Colima, очень интересна, как потенциальная замена докеру
На это собственно и расчет. Обычные пользователи не могут проголосовать рублем в виде инвестиций. А корпораты могут, хотя бы даже потенциально
Оператор оператора LLM) DI в чистом виде)
Это как просить вывести результат в json, а не использовать structure output)
"Сказочный дол..." (c)
Все в ваших руках. Можете конечно молиться, но мой опыт подсказывает, что эффективнее выстроить безопасный пайплайн работы с агентом. Вы же джуну не даёте доступ к базе с возможностью ее удалить? Или даёте и начинаете молиться? Тут то же самое.
Или приучает к хорошим практикам бэкапа и доступа только с необходимыми правами, и все это через боль и страдание) только так некоторые учатся
Агенту только ro доступ. Если что-то менять, просите писать запрос, проверяйте и сами отправляйте на выполнение
В США живут на инвесторские деньги. Эти стартапы убыточны. И так почта все живут в Америке)
Для квена и геммы 2х 3090 достаточно) это около 150т на вторичке