Обновить
1
Александр@Altair2021

Пользователь

Отправить сообщение

Нейросети жрут видеопамять большой ложкой

Не поспоришь.

32 Гб это минимум на котором можно запускать жирные LLM (120b+) с более‑менее приемлемой скоростью

Смысла нет. Тут нужны карту уровня 5090, у которых и цена соответствующая. В статье же идет речь о видеокартах до 150т.р. -- не в той лиге. Причем вряд ли много у кого эти видюхи в количестве больше одной (а там тоже еще надо уметь настраивать). Тут проще подписку брать\платить по токенам, иначе не окупится.

всякие толстые генераторы картинок с вменяемым качеством (которое может и пахнет нейрослопом, но не так сильно). Flux2dev 8bit например, или Wan2.2.

конкретно в моем комментарии я имел в виду модели, которые гарантированно влезут в VRAM видюхи с 16-24гб. Например, квантованный qwen-3.6 27b\35b. Или модели stable diffusion, к которым Flux2dev\Wan2.2 не имеют никакого отношения (хотя даже они с определенной квантизацией, думаю, влезут в 16-24 гб VRAM). Если речь прям про супер-пупер качество: то тут и 120b моделей мало -- нужно брать выше, а это уже локально не запустишь и там модели уже закрытые -- остается только подписка. Аналогично для генерации картинок\видео.

А ещё есть такая штука как файнтюнинг.

Есть 3ds maxы и blenderы, которые на хорошей видеокарте могут рендерить трассировкой пути (не та которая в играх а полноценной) чуть ли не в реалтайме, или в разрешениях 130 МПикс+. Видеокартой

Вот на таких задах и было бы интересно увидеть разницу. Между AMD и NVIDIA, у NVIDIA между 40й и 50й сериями (у которых разница, по сути, только в GDDR6 vs GDDR7, и в DLSS -- а где он используется за пределами игр?). Между 60й,70й,80й, и 90й версиями.

Можно даже запрягать несколько рендерингов одновременно. Можно грузить одновременно генерацию видео и монтажную программу: пока рендерится одно, монтируешь другое.

Тут не очень в курсе, но кажется, Вас опять унесло в область не-потребительских видеокарт. Сомнительно, что Вы сможете эти процессы запустить на 8гб VRAM.

Плюс есть вот такие вот конфигурации мониторов в которых современные недооптимизированные игры на человеческой видеокарте выдадут, в лучшем случае, 10 фпс. Если вообще запустятся.

О том и речь: игры мало показывают уровень видеокарты. Да и к чему опять про игры? Такие конфигурации мониторов наверняка нужны не только для игр.

И вообще: что значит "человеческая видеокарта"? Есть "нечеловеческая"? Инопланетная?

В общем, смысл в том, что граница между профессиональным использованием и игровым нечёткая, она размыта — это раз

Частично соглашусь. Но описанные профессиональные случаи тянут на конфигурацию нескольких видеокарт (либо одну\несколько профессиональных), у которых ценовой сегмент совершенно другой.

два — есть особо тяжелые игровые сетапы с большой площадью экранов и/или высокими требованиями к fps, которые обычные видеокарты просто не потянут.

Мой коммент был про не-игровые варианты использования видеокарт потребительского сегмента, разбираемого в статье (т.е. до 100-150 т.р.). Вы же почему-то все время говорите про сегмент явно более высокой ценовой категории и опять про игры.

Вы считаете, что умение формулировать свою мысль при разговоре с людьми неважно? Похоже, именно поэтому сложно понять кучу людей, которые не могут четко донести мысль в письменной или устной формле

Гугл транслейт в последнее время (последний год точно) оч фигово работает. Часто не может прогрузиться, перевод выглядит как дословный, иногда даже с ошибками в грамматике, одна вкладка весит под сотню мб... куда уж тут ии-тренажер ещё

Проще писать по-русски: "выпустили") Что "релизнули", что "дропнули" -- просто транслит с английского. Drop в английском в этом контексте "сбросить", мб "уронить". Наиболее близкий аналог на русском, пожалуй, "бросили (кость собакам)".

Вспоминается картинка-мем "секундочку, ща лайк поставлю". Так вот, на ней тоже drop))

Но вот чем плох русский вариант "выпустили", что его редко используют -- ума не приложу)

Слушайте, ну давайте не врать в заголовках! Если ЧД взорвётся даже сегодня, мы сможем увидеть это событие не раньше, чем через тысячи/сотни тысяч лет, в зависимости от расстояния (и это будем уже не мы, а те, кто останутся после нас, если вообще останутся). Совершенно разные значения у "Взрыв чёрной дыры ожидается в ближайшие 10 лет" и "Мы можем стать свидетелями взрыва ЧД в ближайшие 10 лет" в контексте астрономических расстояний.

Теперь компания вносит изменения в работу приостановки обновлений, позволяя пользователям Windows выбирать определённую дату для приостановки обновлений на срок до 35 дней с помощью всплывающего календаря. Затем эту паузу можно многократно продлевать без фиксированного ограничения.

Т.е. серьёзно можно продлевать приостановку за 35й день?

предлагая варианты «Перезагрузка» и «Выключение» без запуска обновлений, в то время как обычные варианты «Обновить и перезагрузить» и «Обновить и выключить» используются, когда апдейты готовы к установке.

Чёт неясно: чем это отличается от того, что было на 10ке?

на компьютерах с Windows 10, которые не участвуют в программе расширенных обновлений безопасности (ESU), больше нет возможности приостанавливать обновления.

Интересно, а что они собираются обновлять, если официально перестали поддерживать 10ку?

Вы упомянули четко только версию gpt: 5.5. А какой клод? Какой грок? Какой квен?

Все об играх да об играх... как будто других вариантов использования нет. Что насчёт инференса локальных llm типа qwen-3.6? Что насчёт stable diffusion моделей?

Доступ к сильным моделям. Claude Pro открывает Sonnet 4.6 (быстрый, для большинства задач) и Opus 4.6 (самый мощный). 

Sonnet 4.6 доступен на free аккаунте. Pro даёт доступ в т.ч. сейчас к opus 4.7

У них и так самые мелкие токены из всех при самой высокой цене( куда же ещё мельчить-то

А разве "выключить адаптивность" у них не то же самое, что "выключить ризонинг"? Из того, что я понял, там или адаптивный ризонинг, или вообще без ризонинга

Не "Microsoft столкнулась с новыми проблемами безопасности", а "Microsoft создала новые проблемы безопасности")

На задачах creative writing, например, glm-5 на голову лучше остальных китайцев и gpt. По уровню сопоставима с моделями sonnet/opus, но при этом дешевле в разы.

совместно переписывали фрагменты базового кода модели и тестировали ее на местном железе.

Типа, переписывали CUDA на не-CUDA?

gpt и claude тоже не open-weight, но на опенроутере присутствуют)

странно, что ее нет на опенроутере -- обычно z.ai свои модели сразу на опенроутер выкладывала

А glm-5.1 это glm-5-turbo на опенроутере? Или новая модель?

А можно реализовать через tools/structured output. Токенов сожрёт побольше, но выход будет плюс-минус гарантирован

придумать историю по теме, многие просто впадают в ступор. А ты сидишь и думаешь: "Ну это же так просто

А вот кому как. Некоторым может быть проще придумать/написАть историю по той теме, к которой душа лежит, а на заданную тему писАть вообще не интересно -- поэтому не хотят/не могут.

PS: на хабре ужасно неудобен набор текста с мобильного

Информация

В рейтинге
Не участвует
Откуда
Россия
Зарегистрирован
Активность