Comments 5
Интересно, причем как понимаю и диффузионные модели можно запускать?
Да, причём не «в планах», а уже работает. На моём HuggingFace лежат модели работы с видео/аудио — это полный диффузионный конвейер одним файлом: DiT-трансформер 6B (8 бит), текстовый энкодер Qwen3-4B и VAE, плюс рецепт генерации (разрешение, число шагов, CFG, сдвиг шедулера) записан прямо в один файл. Никаких флагов и внешних конфигов — движок читает рецепт из самого файла. Turbo дистиллированная, генерирует 1024×1024 за 8 шагов без CFG; базовая Z-Image слушается негативные промпты и guidance. Попробовать можно в Space прямо в браузере, файлы тут — https://huggingface.co/infosave.
Сделал поддержку новой модели в формате CMF и приложении, она отлично подойдет для работы локально на мощных телефонах, хорошо понимает русский язык и можно использовать как справочник без доступа к Интернету https://huggingface.co/infosave/Spark-X2.5-cmf лучше 4B
LMStudio пока не поддерживает ваш формат ?
LMStudio это закрытый проект работающий на llama.cpp, скорее всего добавят когда формат станет более популярным, например поддержка на Hugging Face появилась через 2 месяца после первых публикаций и общения с разработчиками, сейчас формат поддерживает 90% технологий
Запускаем множество ИИ на телефоне без интернета в новом формате CMF