Обновить

Шесть часов на один рендер: как я собрал нативную студию Ideogram 4 на Swift и MLX

Уровень сложностиСредний
Время на прочтение12 мин
Охват и читатели7.3K
Всего голосов 2: ↑2 и ↓0+5
Комментарии2

Комментарии 2

Как эксперимент - интересно. А рабочей студией можно будет назвать, когда начнет работать на уровне аналогов по скорости. Примерно х10 нужно.

На этапе эксперимента это просто запуск модели, когда получил изображение и все. Сейчас это уже рабочее нативное приложение: с интерфейсом, режимами рендера, управлением памятью, Regions, LoRA-адаптерами, Character Sheet, Photo to Image и библиотекой готовых результатов.

На базовом M4 скорость памяти 120 ГБ/с. Например у процессоров M Ultra около 800 ГБ/с, поэтому я ожидаю ускорение в несколько раз, ориентировочно в 6–8 раз. Это пока расчётная оценка, а не замер: точную кратность можно будет назвать только после теста на Ultra. Но медленный рендер на базовом M4 не превращает готовое приложение обратно в экспериментальный прототип.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации