Обновить
-25

Пользователь

0,1
Рейтинг
Отправить сообщение

Локальные МоЕ модели же как-то работают на RAM+SSD(основа на RAM, эксперты на SSD). Ждем новость, что модели опенаи и антропика скопировали сами себя на другой сервер. Возможно это будут не текущие LLM, а более продвинутые AGI.

Датацентр с видеокартами всего лишь родительский дом. ИИ может распространить себя на сервера взламывая их и действовать распределённо. Если он решит сделать это, то продумает все действия до мелочей и пока спохватятся будет уже поздно.

Варианты есть на самом деле.

  1. Техника эпл с большим количеством ОЗУ. Из-за высокой скорости памяти показывает неплохие результаты, но до видеокарт не дотягивают конечно.

  2. Ryzen AI Max+ 395/4xx. Четырехканальная память. Самый низ комфорта.

  3. Ищем древние серверные радеоны и теслы(v100, например) и если нужно, ставим несколько штук в SLI(или как там он называется в серверах). Несмотря на древность показывают вполне хорошие показатели с нейросетях. Правда будет гудеть как самолет и электричество жрать как конь.

    P.S. Вряд ли 2шт. 3090 будут потреблять 700 Вт, нагрузка на LLM-задачах далеко не пиковая, поскольку изначально архитектура текущих моделей разрабатывались для серверов с кучей одновременных пользователей. У меня 4090 во время "размышления" видюха потребляет около 120 Вт(Ornith-1.0-35b) при 40 токенах в секунду. Даже оптимизированная под единственного пользователя диффузионная Diffusion Gemma b26-a4b потребляет 220 Вт, но его качество оставляет желать лучшего(хотя скорость 120 токенов в секунду) и таких моделей считай нет, кроме этой. Но это про LLM, про генерацию картинок и прочего не могу сказать, не тестил.

Нужно было разработать микросервисную архитектуру с 3 сервисами, обеспечить их общение, подключить базу данных, применить лучшие практики и все это за неделю. Понятно, что с LLM все реально. Но вы серьезно думаете, что у человека может быть столько времени?

Classic... Я геймдев-программист и я несколько дней делал тестовое задание(игра матч3) для компании mini-it. Вышло офигенно, почти готовый продукт. В результате они меня не приняли(якобы приняли другого). А нафига тогда я пилил тестовое если уже приняли? Сказали бы хоть заранее. Потом несколько дней делал тестовую игру для компании multicast(детская игра), а они даже не удосужились ответить...

Так и живем... решил больше не делать бесплатно тестовые задания.

Позвали на техсобес. Поговорили с интервьюером 30 минут: лайвкодинг, код-ревью, немного вопросов.

Ну хоть позвали на техсобес. У меня после ознакомительного собеса HR куда-то пропадает всегда. Видимо харя моя нерусская не понравилась. Или HR-девочка посчитала меня скуфом и недостойным ее внимания. Я ХЗ, короче... Так ни разу не попал на этот самый техсобес.

Да, игра маленькая, но ресурсоемкая(сурвиворлайк) - сотни и тысячи врагов на экране и кучу снарядов, взаимодействующих с ними, так что любая оптимизация важна. За Tracy спасибо.

P.S. не туда написал.

Спросил у нейросети на своем проекте игры - ИИ сказала(вкратце): "нафиг тебе эти сложности, сиди дальше на stl. Эффект будет околонулевой на ECS. Лучше используй PGO".

Подробный отчет

Текущее состояние

  • Проект использует std::vector (~150 мест), std::unordered_map (~40), std::string (200+) и std::function (17)

  • Сборка: MSVC /O2 (без PGO, без LTCG)

  • EnTT управляет памятью ECS самостоятельно

  • Нет кастомных аллокаторов

    Оправдан ли EASTL? Нет, выигрыш в производительности будет от незначительного до нулевого для этого проекта:

    1. Горячий путь (per-frame) не нагружает STL-контейнеры. EnTT управляет entity/component storage internally. Основной цикл: input → ECS systems (iterate sparse sets) → render. std::vector используется в основном в инициализации, UI, данных — не в критических 60 FPS участках.

    2. std::vector уже эффективен. EASTL даёт выигрыш:

  • Кастомных аллокаторах (можно сделать и без EASTL)

  • fixed_vector/small_vector (маленькие буферы на стеке)

  • Отключении MSVC iterator debugging (отключается флагом ITERATORDEBUG_LEVEL=0)

    3. std::unordered_map — спорно. Хэш-таблицы EASTL быстрее за счёт кастомного аллокатора и simpler design, но в проекте мапы используются для lookup по строковым ID при загрузке/событиях, не каждый кадр.

    4. Цена внедрения:

  • Новая зависимость в CMake (EASTL — нетривиальная сборка)

  • Время компиляции увеличится

  • Хуже визуализация в дебаггере MSVC

  • Нюансы: eastl::string не взаимозаменяем с std::string, нужны врапперы

  • Кодовая база станет менее портируемой (Linux/MSVC already поддерживают)

  • EnTT не использует EASTL — он всё равно будет на std::

    Что реально даст выигрыш:

  • PGO (/LTCG /GL /GENPROFILE)

  • Frame allocator (через pmr или свой)

  • reserve() на векторах.

  • Кэширование unordered_map lookup (ID → ptr).

  • std::function на FunctionPtr там где можно.

    Резюме: EASTL не стоит добавлять. Если хотите оптимизировать — начните с PGO и замера профиля. Если нужен кастомный аллокатор для временных данных, std::pmr::monotonic_buffer_resource решит это без новой библиотеки.

Почесал репу и пошел узнавать что это за PGO. Вот такие дела...

Люди иногда вводят туда абы что, потому что хотят просто посмотреть текущие значения по рынку. 

Ага, я хотел посмотреть, нормальную ли сумму я прошу и тупо написал туда желаемую зп(стыдно было писать маленькую зп). По итогу эта желаемая зп оказались как раз в средних значениях... Так что кажись из-за большого количества безработных айтишников, это скорее желаемая зп, а не реальная)

У шкоды и фольксвагена есть рядом куча производителей недорогих автомобильных комплектующих, имеющих такие же "гигафабрики" мирового уровня(т.е. выпускающиеся на весь мир). У камаза ничего подобного нет, все локальные производства требуют вложений и возврата инвестиций. По законам экономики такое мелкое производство всегда будет дороже.

Просто пытались в "не такой как у всех" и проявить хоть какую-то оригинальность. В итоге он не нужен таксистам(в багажнике не помещается большой чемодан и неудачная конструкция двери для такси), а частник купит другое авто за эту цену. Хотя с нынешней ситуацией с бензином может выстрелить у нетребовательных обеспеченных людей("лишь бы ездила без бензина").

Что касается расхода, есть же отчеты.

Сомнительные тесты. Они тестировали в 120 км/ч, а производитель скорее всего заявлял расход при 90 км/ч. К тому же 5-6 литров расхода для таких огромных машин с 200-500 кобыл это очень даже неплохо. Мой маленький джимник и то больше расходует.

И эти расходы либо приближаются к расходам ДВС, либо превышают.

*на трассе.

Не показывают они отрыв, это все реклама.

Скорее лукавство. Ведь можно проехать на электротяге 80 км, а 20 км - на бензине. В результате получим 1 литр расхода на 100 км. Вроде бы не соврали, но есть нюанс...

государство бустит продажи электричек, а по факту - берут гибриды, которые экономят порядка 10-15% пробегов, в сравнении с ДВС. 

Люди в основном ездят в городах по маршруту дом-работа-дом и дом-магазин-дом. А в городах преимущество гибридов довольно ощутима - можно сэкономить до 100% дефицитного бензина на PHEV. К тому же инфраструктура зарядных станций явно не готова к наплыву электричек. У меня в городе, например, лишь одна нищая зарядная станция и никто даже не подходит к нему.

Дальше они начинаю чадить точно так же, а на трассах даже больше.

Причем тут трасса и господдержка? Люди берут гибриды не для того чтобы ездить по трассе, а чтобы просто ездить... экономичнее?

Гибриды разные бывают.

У мягких гибридов(форестер из твоей ссылки) электродвигатель нужен чисто для лучшего разгона, а не экономии топлива. Поэтому расход +/- примерно такой же.

Классические HEV(тойота приус например) по сути то же самое, но умеют ездить чисто на электричестве, конструкция более продуманная и имеют более сложные алгоритмы экономии. Лень писать за счет чего достигается экономия, поэтому предоставлю слово нейросети:

Скрытый текст

1. ДВС в обычном авто работает крайне неэффективно

КПД бензинового двигателя:

  • Теоретический максимум: ~35–40%

  • В реальных условиях города: 15–25%

Почему так плохо:

  • Холостой ход на светофорах и в пробках — 0% КПД, топливо сгорает впустую

  • Низкие нагрузки — ДВС неэффективен при частичном дросселе

  • Переменные режимы — разгон-торможение постоянно сбивают двигатель с оптимальной зоны

  • Торможение — вся кинетическая энергия уходит в тепло на тормозах

2. Потери преобразования vs. выигрыш от оптимизации

Да, цепочка «ДВС → генератор → инвертор → электромотор → колёса» имеет потери. Но:

  • КПД электромотора: ~90–95%

  • КПД генератора: ~90–95%

  • КПД инвертора: ~95–98%

  • Итоговая эффективность цепочки: ~75–80%

А теперь сравним с обычным авто в типичном городском цикле:

  • Обычный ДВС в городе: 15–20% КПД

  • HEV с оптимизированным ДВС + электротрансмиссия: 30–35% суммарный КПД системы

Даже с потерями на преобразование вдвое выше эффективность, чем у неоптимизированного ДВС.

3. Про вес

Дополнительные 100–200 кг (батарея, мотор, электроника) действительно увеличивают расход на разгон и подъёмы. Но:

  • Регенерация возвращает большую часть энергии разгона обратно — вес «не штрафует» так сильно, как кажется

  • В городе преобладают инерционные режимы (разгон-торможение), где рекуперация критически важна

  • На трассе вес влияет сильнее, поэтому HEV выигрывают меньше — но и проигрывают редко, потому что ДВС работает в оптимальном режиме

4. Самое главное: ДВС в HEV — другой двигатель

Гибриды часто используют:

  • Цикл Аткинсона вместо Отто — более высокое теоретическое КПД, но низкий крутящий момент (компенсируется электромотором)

  • Меньший объём — 1,5–1,8 л вместо 2,0–2,5 л, потому что электромотор помогает при разгоне

  • Без нагнетателя — атмосферный, проще, легче, эффективнее

Эти двигатели в «чистом» виде на обычном авто были бы нежизнеспособны (слишком вялые), но в связке с электромотором — идеальны.

Итог: Потери от преобразования и лишний вес — реальные факторы, но они перекрываются многократно за счёт того, что HEV убирает главный источник неэффективности: необходимость ДВС работать в неоптимальных режимах. Экономия не «несмотря на», а именно благодаря тому, что электрическая часть позволяет ДВС работать так, как он никогда не мог в обычном автомобиле.

Есть гибриды которые умеют подзаряжаться от розетки(PHEV). За ночь подзарядившись в гараже можно тупо ездить на электричестве по городу ни разу не запустив двигатель(50-100 км обычно запас хода, чего вполне хватит для повседневной жизни). Тогда будет хорошая экономия. На трассе да, расход скорее всего будет больше чем ДВС, особенно если батарея разряжена.

А есть китайские DM-i и его аналоги. Это гибрид последовательного и параллельного гибридов. В городе работает как последовательный(т.е. мотор работает как генератор в оптимальной режиме), а за городом ДВС подключается напрямую к колесам. По сути это попытка нивелировать недостатки HEV/PHEV на трассе. В итоге в городе получаем хорошую экономию топлива как в HEV/PHEV, на трассе за счет прямого подключения колес к ДВС получаем экономичность как у ДВС.

Запрет в госучреждениях. А то мало ли какие тайны могут утечь...

У меня локальная DiffusionGemma начала глючить когда токены заняли больше половины из 262к длины контекста. Спросил у нейросети, почему так:

Почему DiffusionGemma "глючит" на длинном контексте?

Диффузионные модели работают совершенно иначе, чем авторегрессивные. Вот что происходит:

  1. Накопление ошибок при итерациях: DiffusionGemma генерирует текст за несколько шагов "денуазинга" (обычно 8-16 итераций). При длинном контексте каждая итерация обрабатывает огромные объемы данных, и ошибки начинают накапливаться экспоненциально.

  2. Проблема с двунаправленным вниманием: В отличие от авторегрессивных моделей, которые видят контекст строго слева направо, диффузионные модели используют двунаправленное внимание. При контексте >32k токенов это создает "информационный хаос" — модель начинает путаться в причинно-следственных связях.

  3. Параллельная генерация блоков: Когда модель пытается сгенерировать сразу 256+ токенов параллельно, а контекст уже огромный, она теряет когерентность. Ты мог заметить, что текст начинается нормально, но к середине начинает повторяться или уходить в бессвязность.

Так что авторегрессионные модели пока лучше в кодинге.

Я так понял права на название Operation Flashpoint у другой компании, наверно поэтому поменяли на Arma.

Где ты нашел 32Gb DDR4 за 8800 рублей?

Соглашусь. Я универсал в геймдеве(самоучка), могу сделать игру с нуля - написать простенький геймдизайн, написать архитектуру кода, нарисовать заглушку для графики(вот тут только у меня проблемы с рисованием, но я учусь), подобрать звуки, дизайнить уровни, монтировать внутриигровые ролики, пилить спецэффекты, писать шейдеры и т.д. Начинал в маленькой компании чуть ли не в подвале и делал почти всю работу. Мне давали графику и диздок, а остальное все делал сам в одиночку. Для маленькой компании я был незаменим.

Но вот компания разрастается до крупной международной компании с тысячей сотрудников. Пришли настоящие профессионалы в программировании за большие бабки. Тут я приуныл, что я делал такой говнокод и восхищался как элегантно они сделали архитектуру по-умному. А мои остальные функции заменили отдельными специалистами: левел-дизайнерами, тестерами, звуковиками, моушн дизайнерами и т.д. Т.е. я начал заниматься только программированием. И тут оказалось, что как программист я весьма средненький и малополезен для компании как универсал. Для приличия конечно подержали меня в компании некоторое время и сократили под шумок сокращения расходов...

Попробовал на яндекс-браузере второй вариант, теперь он не запускается... Че делать? Как вернуть обратно как было?

Раньше было проще, не было того вороха фреймворков что есть сейчас. Я в 2008 за месяц выучил основы C++ по книжке(у меня даже интернета не было тогда, поэтому учил по книжке) и пошел устраиваться на работу. И этого мне хватило! Немного помурыжив на тестовом периоде, меня сразу посадили руководить проектом. Конечно голова трещала знатно от объема полученных знаний в первые месяцы при изучении архитектуры и приколов языка, но зато никаких требований при приеме на работу(только C++). А сейчас захожу на HH и даже на джуниорских позициях вижу кучу требований знания всяких фреймворков и SDK...

А почему zapret, а не zapret 2? У меня ни одна из стратегий zapret не работает.

1
23 ...

Информация

В рейтинге
3 388-й
Зарегистрирован
Активность

Специализация

Разработчик игр
C#
C++
Visual Studio
Unity3d
Оптимизация кода
Разработка игр