Разработчик под Android, перешедший на Rust
Давайте вспомним то, с чего вы начали:
Напоминаю про опенсорс модели. Они не могут исчезнуть. Вообще никак.
А я привёл к тому, что использовать опенсорсные модели на порядки дороже, чем оплачивать подписку того же Антропика.
И разница в ДОСТУПНОСТИ как раз и состоит в цене. Есть много людей, которым оплачивать 20-100 баксов в месяц нормально, но тысячу они уже не потянут.
Так в чём тогда ваш изначальный поинт?
Да, теоретически опенсорс-модели доступны. Но оплачивать сервер с терабайтом памяти для инференса на GLM 5.2 для многих просто невозможно.
В цене же проблема. Мы ведь это обсудили.
Вот я к этому и веду. Личный инференс, с качеством достаточным для написания адекватного кода, скорее недоступен.
Если мастер придумал, что плохой проц убивает видюхи, то другую, заведомо рабочую и дорогую видюху, он не будет туда совать, разве не так? :)
Ну вот. Я тоже сколько не гуглил, сколько не мучил ИИшки, ничего не помогает.
Вот этот вот Peek?
Он выключен давно.
Интересно, сколько будет стоить аренда сервера с такой видеокартой в месяц? Дороже подписки Антропика, наверное?
Вот я и не могу найти теперь никаких способов это отключить. Хотя, может это особенность StartAllBack?
Стоимость не будет падать, так как ситуация заставляет ВСЕХ крупных игроков скупать ВСЁ доступное железо, чтобы оно не досталось конкурентам.
Да, но для того, чтобы гонять локально хоть немного рабочую модель, способную нормально кодить, нужна видеокарта стоимостью от 3500 евро.
А эти превьюшки можно отключить???
В 2026-ом надо писать на Расте, а с/С++ выбросить.
Мне вроде такое скорее всего не понадобится, но разработка крутая! Особый респект за размер бинаря и потребление памяти!
Я не телепат. Объясните ВСЮ топологию внутри, и то, к каким пирам подключены ваши компы.
Но у нас такие же ноги и не болят. Ищите в чём проблема. Может РКН, может ещё что. Может вы выбрали косячные пиры.
У тысяч пользователей работает. Причина в вашей сети или других условиях.
Мда, а сама статья написана нейронкой :-/
А что будет с домашними ботами, с локальной нейронкой, которая, например, делает выжимку из статьи?
Чего нет? Я тебе о том, что эксплоиты могут совмещать. Один для исполнения кода на уровне процесса, другой (как раз исполняемый код) для побега из песочницы и так далее.
Работает в sandbox
А эксплоитов, способных на побег из песочницы как будто нет? И эксплоиты никогда не собирают в цепочки, да?
Давайте вспомним то, с чего вы начали:
А я привёл к тому, что использовать опенсорсные модели на порядки дороже, чем оплачивать подписку того же Антропика.
И разница в ДОСТУПНОСТИ как раз и состоит в цене. Есть много людей, которым оплачивать 20-100 баксов в месяц нормально, но тысячу они уже не потянут.
Так в чём тогда ваш изначальный поинт?
Да, теоретически опенсорс-модели доступны. Но оплачивать сервер с терабайтом памяти для инференса на GLM 5.2 для многих просто невозможно.
В цене же проблема. Мы ведь это обсудили.
Вот я к этому и веду. Личный инференс, с качеством достаточным для написания адекватного кода, скорее недоступен.
Если мастер придумал, что плохой проц убивает видюхи, то другую, заведомо рабочую и дорогую видюху, он не будет туда совать, разве не так? :)
Ну вот. Я тоже сколько не гуглил, сколько не мучил ИИшки, ничего не помогает.
Вот этот вот Peek?
Он выключен давно.
Интересно, сколько будет стоить аренда сервера с такой видеокартой в месяц? Дороже подписки Антропика, наверное?
Вот я и не могу найти теперь никаких способов это отключить. Хотя, может это особенность StartAllBack?
Стоимость не будет падать, так как ситуация заставляет ВСЕХ крупных игроков скупать ВСЁ доступное железо, чтобы оно не досталось конкурентам.
Да, но для того, чтобы гонять локально хоть немного рабочую модель, способную нормально кодить, нужна видеокарта стоимостью от 3500 евро.
А эти превьюшки можно отключить???
В 2026-ом надо писать на Расте, а с/С++ выбросить.
Мне вроде такое скорее всего не понадобится, но разработка крутая! Особый респект за размер бинаря и потребление памяти!
Я не телепат. Объясните ВСЮ топологию внутри, и то, к каким пирам подключены ваши компы.
Но у нас такие же ноги и не болят. Ищите в чём проблема. Может РКН, может ещё что. Может вы выбрали косячные пиры.
У тысяч пользователей работает. Причина в вашей сети или других условиях.
Мда, а сама статья написана нейронкой :-/
А что будет с домашними ботами, с локальной нейронкой, которая, например, делает выжимку из статьи?
Чего нет? Я тебе о том, что эксплоиты могут совмещать. Один для исполнения кода на уровне процесса, другой (как раз исполняемый код) для побега из песочницы и так далее.
А эксплоитов, способных на побег из песочницы как будто нет? И эксплоиты никогда не собирают в цепочки, да?