Google представила Gemma 3n — мультимодальный ИИ, который пойдет на смартфоне и ноутбуке

[QtRoS]

Класс, она уже есть на Ollama: https://ollama.com/library/gemma3n

Хотел написать, что сама по себе Gemma3 очень понравилась, работает практически без нареканий, не путает языки, не теряется в ответах, хорошо помнит контекст. пока лучшая 14B модель которую я пробовал. Посмотрим что будет с 3n

[ShadF0x]

Только в Ollama нет (и не будет, такими темпами) мультимодальности. Надо или грузить через llamacpp\KoboldCPP с соответствующим mmproj (должен подойти от Gemma 3), либо использовать vLLM\Aphrodite или EXL2\3.

[Incognito4pda]

Работает же мультимодальность на Ollama

[ShadF0x]

У 3n в input указан только текст (пока?)

[rutexd]

Если и работает, то не с 3n e4b.

[Akr0n]

У меня через Open WebUI принимает картинки и распознает.

Вот только фигня какая-то получается по сравнению с оригинальной gemma3...

[Ryder95]

(удалил)

[lleo_aha]

На мобилке чето ну прям такое себе :) Работает, но пишет что токенов около 800 только (samsung galaxy s24 ultra)

[Akr0n]

Через какое приложение запускаете?

[lleo_aha]

MediaPipe LLM Inference - там какая то бета версия apk надо качать

вот нашёл ещё более свежее google ai edge gallery: https://github.com/google-ai-edge/gallery тут вообще пишут alpha

[yppro]

Задолбался скармливать ей pdf. Пришлось в картинки конвертить, тогда поняла.

[yatanai]

Ладно, тест фигня полная, но всёравно занимательно

Ладно, сетка прикольная и работает довольно быстро, надо потестить её в агентном окружении и тогда уже можно говорить о толковости применения