Разработчик под Android, перешедший на Rust
Вы какой-то отрицатель истории, похоже. Я не настроен продолжать дискуссию с вами.
Ограничение использования технологий всегда ведёт к отставанию от других стран, разве нет? Проходили это с кибернетикой, генетикой и т.п.
Лучше сделать наоборот - поставить эту карту в заведомо рабочий комп и протестировать её. Она ведь ничего не ломает.
Хотя, если они придумали линию, что якобы CPU мог сжечь VRAM через PCIe, то это не поможет ничего доказать, конечно.
То есть Антропик держит цены на 20-100 баксов в месяц пока локальный инференс такого же качества стоит тысячу или две? Как-то странно. Почему бы ему не поднять цену до 500 или 800 хотя бы?
Давайте вспомним то, с чего вы начали:
Напоминаю про опенсорс модели. Они не могут исчезнуть. Вообще никак.
А я привёл к тому, что использовать опенсорсные модели на порядки дороже, чем оплачивать подписку того же Антропика.
И разница в ДОСТУПНОСТИ как раз и состоит в цене. Есть много людей, которым оплачивать 20-100 баксов в месяц нормально, но тысячу они уже не потянут.
Так в чём тогда ваш изначальный поинт?
Да, теоретически опенсорс-модели доступны. Но оплачивать сервер с терабайтом памяти для инференса на GLM 5.2 для многих просто невозможно.
В цене же проблема. Мы ведь это обсудили.
Вот я к этому и веду. Личный инференс, с качеством достаточным для написания адекватного кода, скорее недоступен.
Если мастер придумал, что плохой проц убивает видюхи, то другую, заведомо рабочую и дорогую видюху, он не будет туда совать, разве не так? :)
Ну вот. Я тоже сколько не гуглил, сколько не мучил ИИшки, ничего не помогает.
Вот этот вот Peek?
Он выключен давно.
Интересно, сколько будет стоить аренда сервера с такой видеокартой в месяц? Дороже подписки Антропика, наверное?
Вот я и не могу найти теперь никаких способов это отключить. Хотя, может это особенность StartAllBack?
Стоимость не будет падать, так как ситуация заставляет ВСЕХ крупных игроков скупать ВСЁ доступное железо, чтобы оно не досталось конкурентам.
Да, но для того, чтобы гонять локально хоть немного рабочую модель, способную нормально кодить, нужна видеокарта стоимостью от 3500 евро.
А эти превьюшки можно отключить???
В 2026-ом надо писать на Расте, а с/С++ выбросить.
Мне вроде такое скорее всего не понадобится, но разработка крутая! Особый респект за размер бинаря и потребление памяти!
Я не телепат. Объясните ВСЮ топологию внутри, и то, к каким пирам подключены ваши компы.
Но у нас такие же ноги и не болят. Ищите в чём проблема. Может РКН, может ещё что. Может вы выбрали косячные пиры.
У тысяч пользователей работает. Причина в вашей сети или других условиях.
Вы какой-то отрицатель истории, похоже. Я не настроен продолжать дискуссию с вами.
Ограничение использования технологий всегда ведёт к отставанию от других стран, разве нет? Проходили это с кибернетикой, генетикой и т.п.
Лучше сделать наоборот - поставить эту карту в заведомо рабочий комп и протестировать её. Она ведь ничего не ломает.
Хотя, если они придумали линию, что якобы CPU мог сжечь VRAM через PCIe, то это не поможет ничего доказать, конечно.
То есть Антропик держит цены на 20-100 баксов в месяц пока локальный инференс такого же качества стоит тысячу или две? Как-то странно. Почему бы ему не поднять цену до 500 или 800 хотя бы?
Давайте вспомним то, с чего вы начали:
А я привёл к тому, что использовать опенсорсные модели на порядки дороже, чем оплачивать подписку того же Антропика.
И разница в ДОСТУПНОСТИ как раз и состоит в цене. Есть много людей, которым оплачивать 20-100 баксов в месяц нормально, но тысячу они уже не потянут.
Так в чём тогда ваш изначальный поинт?
Да, теоретически опенсорс-модели доступны. Но оплачивать сервер с терабайтом памяти для инференса на GLM 5.2 для многих просто невозможно.
В цене же проблема. Мы ведь это обсудили.
Вот я к этому и веду. Личный инференс, с качеством достаточным для написания адекватного кода, скорее недоступен.
Если мастер придумал, что плохой проц убивает видюхи, то другую, заведомо рабочую и дорогую видюху, он не будет туда совать, разве не так? :)
Ну вот. Я тоже сколько не гуглил, сколько не мучил ИИшки, ничего не помогает.
Вот этот вот Peek?
Он выключен давно.
Интересно, сколько будет стоить аренда сервера с такой видеокартой в месяц? Дороже подписки Антропика, наверное?
Вот я и не могу найти теперь никаких способов это отключить. Хотя, может это особенность StartAllBack?
Стоимость не будет падать, так как ситуация заставляет ВСЕХ крупных игроков скупать ВСЁ доступное железо, чтобы оно не досталось конкурентам.
Да, но для того, чтобы гонять локально хоть немного рабочую модель, способную нормально кодить, нужна видеокарта стоимостью от 3500 евро.
А эти превьюшки можно отключить???
В 2026-ом надо писать на Расте, а с/С++ выбросить.
Мне вроде такое скорее всего не понадобится, но разработка крутая! Особый респект за размер бинаря и потребление памяти!
Я не телепат. Объясните ВСЮ топологию внутри, и то, к каким пирам подключены ваши компы.
Но у нас такие же ноги и не болят. Ищите в чём проблема. Может РКН, может ещё что. Может вы выбрали косячные пиры.
У тысяч пользователей работает. Причина в вашей сети или других условиях.