В линейке Gemma 3 появилась новая версия — Gemma 3 270M, рассчитанная на выполнение локальных задач прямо на устройствах. Несмотря на небольшой размер (270 млн параметров), модель демонстрирует уверенно е следование инструкциям и хорошо подходит для дообучения под узкие домены.
Основные особенности:
Структура: около 170 млн параметров выделено под эмбеддинги (поддержка до 256k токенов), остальное — трансформерные блоки.
Производительность и автономность: в режиме INT4 на смартфоне Pixel 9 Pro обработка ~25 диалогов потребляет менее 1% заряда.
Доступность: предлагается как в предобученном варианте, так и с инструкционной настройкой.
Оптимизация: есть чекпоинты для INT4, позволяющие снизить ресурсоёмкость без серьёзной потери качества.
Применение: классификация и анализ текста, извлечение сущностей, маршрутизация запросов, структурирование данных, проверка на соответствие требованиям, офлайн-генерация контента.
🔗 HF - клик
🔗 А так же в Ai Studio
✔️ Все полезные нейронки тут (umaai.site)
👾 Друг Опенсурса (тг)