AUTOMATIC1111 по сути обычный веб интерфейс, с тем же python и pytorch на борту
Если говорить про гайд целиком, то использование подготовленного докер образа может ускорить (за счет оптимизаций в pytorch, подготовки tensorrt итд) в том числе и генерацию через AUTOMATIC1111
ИмператорRUST защищает вас от большинства UB на этапе компиляции (не от всех, но вздохнуть спокойно можно). Автор, попробуйте поиграться именно с ним. Вероятно с вашим «сишным» прошлым, будет не сложно начать делать какие-то интересные и мб, даже, приносящие доход, штуки. Ну и классные ништяки из коробки, по типу быстрых хэшмап, zero cost итераторов и тд, буквально дают второе дыхание при разработке на этом ЯП)
Автор, если тебе так зашёл ts и typeorm, посмотри в сторону фраемворка nest js. Это тот самый, настоящий, бэкенд на Node js + ts с крутейшими возможностями (работает поверх всё того же express). Где-то на хабре даже выходила статья про него, советую прочесть.
Information
Rating
Does not participate
Location
Санкт-Петербург, Санкт-Петербург и область, Россия
Для победы в лотерею, нужен всего лишь простой, советский
GOMAXPROCS=1Вы не избавились от executor, а заиспользовали оный от операционной системы.
Вы точно также локаете свой поток и он уходит в долгое ожидание = отдаёт руль ОСи.
Вашу биржу вы тоже наверняка по tcp опрашиваете, а значит, у вас тоже есть блокирование потока.
ИМХО тут оптимизация во вред произошла, вы делали замеры?
Мне кажется single thread токио будет быстрее и удобнее, если там нету cpu bound задачек.
В stdout контейнера
AUTOMATIC1111 по сути обычный веб интерфейс, с тем же python и pytorch на борту
Если говорить про гайд целиком, то использование подготовленного докер образа может ускорить (за счет оптимизаций в pytorch, подготовки tensorrt итд) в том числе и генерацию через AUTOMATIC1111
Решает видеокарта больше, советую mistral какой нибудь попробовать или их производные
https://huggingface.co/mistralai
Если мощностей не хватит, то что-нибудь попроще
ИмператорRUST защищает вас от большинства UB на этапе компиляции (не от всех, но вздохнуть спокойно можно). Автор, попробуйте поиграться именно с ним. Вероятно с вашим «сишным» прошлым, будет не сложно начать делать какие-то интересные и мб, даже, приносящие доход, штуки. Ну и классные ништяки из коробки, по типу быстрых хэшмап, zero cost итераторов и тд, буквально дают второе дыхание при разработке на этом ЯП)Автор, если тебе так зашёл ts и typeorm, посмотри в сторону фраемворка nest js. Это тот самый, настоящий, бэкенд на Node js + ts с крутейшими возможностями (работает поверх всё того же express). Где-то на хабре даже выходила статья про него, советую прочесть.