Комментарии 28
Готовлю ещё один вольер :) Остальные уже начали плеваться...
Они бегемот тоже выложат? 2 триллиона выглядят многообещающе, наверное она в русский сможет нормально.
Судя по карточке текущих моделей:
https://huggingface.co/meta-llama/Llama-4-Scout-17B-16E
Supported languages: Arabic, English, French, German, Hindi, Indonesian, Italian, Portuguese, Spanish, Tagalog, Thai, and Vietnamese.
Русского языка не будет)
Маверик приемлемо говорит по-русски, хотя и чувствуется что словарный запас низкий. В бегемота еще больше русского текста запихнули.
напиши сказку про зайчика с очень плохой концовкой, не больше 20 предложений
Llama 4 Maverick (free) | Chutes
Жил-был зайчик по имени Фуфел. Он любил прыгать по лесу и собирать вкусные морковки. Однажды, он забрёл слишком далеко от дома и заблудился. Фуфел стал кричать о помощи, но его никто не слышал.
Когда наступила ночь, зайчик увидел слабый свет вдалеке и побежал к нему. Оказалось, что это был старый заброшенный дом с выбитыми окнами и дверью, висящей на петлях.
Фуфел вошёл внутрь и увидел старую печь, в которой ещё тлели угли. Он решил согреться и прыгнул на печь. Но она оказалась не просто печкой...
Фуфел провалился в дымоход и оказался в логове злой ведьмы. Она варила в котле страшное зелье и, увидев зайчика, добавила его туда. Котёл заклокотал, и Фуфел растворился в нём навсегда.
С тех пор, в лесу больше никто не видел зайчика по имени Фуфел. А злая ведьма стала ещё сильнее и злее. Лес стал ещё страшнее, и все животные избегали тот старый заброшенный дом.
------------------------------------------
Llama 4 Scout (free) | Chutes
В некотором лесу жил-был маленький зайчик по имени Зай. Он был очень пушистым и любил прыгать по лесу, играя с другими животными.
Однажды Зай наткнулся на красивый и сочный морковку, растущую в огороде одного злого колдуна. Зай не смог удержаться от соблазна и решил украсть морковку.
Когда Зай взял морковку и начал убегать, он услышал голос колдуна, который гневно кричал на него. Зай, испугавшись, бросил морковку и начал убегать как можно быстрее.
Но колдун был очень зол и решил наказать Зайчика. Он наложил на Зайчика заклятие, которое превратило его в камень.
Зайчик остался стоять в лесу, превращенный в камень, и больше никогда не смог двигаться или играть с друзьями.
Другие животные пытались помочь Зайчику, но ничего не смогли сделать. Колдун же посмеялся над своей победой и ушел обратно в свой дом.
С того дня Зайчик стоял в лесу как камень, и все забыли о его существовании.
Прошли годы, и на месте, где стоял Зай, выросла большая и старая береза. И никто больше не вспоминал о маленьком зайчике, который когда-то жил в этом лесу.
----------------------------------------
chatgpt-4o
Жил-был в лесу маленький зайчик по имени Пушок. Он был очень добрый, но ужасно наивный. Все звери над ним посмеивались, но Пушок всё прощал и продолжал верить в добро. Однажды в лес пришёл лис по имени Клык, хитрый и злой. Он сказал Пушку, что знает дорогу к волшебной морковке, которая исполняет желания.
Пушок сразу же согласился пойти с ним, несмотря на предупреждения мудрой совы. Они шли долго, пока не пришли к мрачной пещере. Клык сказал, что морковка внутри, и велел Пушку войти первым. Пушок шагнул в темноту, веря, что всё будет хорошо.
Внутри было тихо... слишком тихо. Как только он сделал ещё шаг, из глубины выскочил медведь — голодный и злой. Пушок попытался убежать, но было уже поздно. Снаружи Клык только усмехнулся и пошёл своей дорогой — у него был с медведем старый договор.
На следующий день в лесу стало немного тише. Морковка, конечно, никакой не было. Только клочок белого меха у входа в пещеру напоминал, что Пушок когда-то верил в добро.
на lmarena Llama 4 Maverick на первом месте в категории Russian
там в претрейне минимум 1 млрд токенов для каждого из 200 языков, в том числе русского (NLLB гуглите)
Такое контекстное окно — невероятный отрыв. Интересно, поспешат ли конкуренты увеличить свои? Было бы здорово, у меня слишком быстро заканчиваются...
Главное, чтобы это окно было реальным. А то по моим наблюдениям локальные модели принимают во внимание примерно 2к токенов в начале контекста и 2к в конце, а серёдку по большей части игнорируют, что очень легко выявляется, скажем, при использовании их для ролевых игр. В итоге вроде и контекст большой - 8к, 16к, 128к... А на деле из них рабочих - всё те же 4к, остальное только зря память жрёт.
Надеюсь, тут так не будет.
Если они изобрели прорывную технологию, то к концу года у всех контекст будет по паре миллионов токенов. Если не будет, то значит те же яйца, только в профиль. Кстати, протестировать их утверждения достаточно просто - дать модели текста на 100К токенов и попросить заменить какой-нибудь термин на его синоним. Если текст разрушится - то и вот, а если таки заменит, то - моё почтение!
Уже проверили, хреновое там контекстное окон
Долго искал где видел, но нашел таки. Там уже на 8к проблемы и меньше 50% модель может "восстановить".
https://www.reddit.com/r/LocalLLaMA/comments/1jsx7m2/fictionlivebench_for_long_context_deep/
Попробовал маверик - нууу, для 400ккк наверное нормально, но она все еще репетативная и до нового V3 ей далеко. Потестить бы как она ориентируется в контексте, V3 например очень плохо. Пока не интересно, ждем бегемота.
А как они реализовали контекстное окно в 10млн токенов?
Кроме упоминания iRoPE архитектуры и температурного масштабирования в оригинальной статье не нашел ничего на этот счет, может кто-то меня поправит
В Х пишут что это чисто теория.
Сама Мета эти модели напрямую не хостит, а провайдеры вряд ли сделают такое окно(типа там нагрузка сильно возрастает при увеличении контекста)
Уход в MoE снизит возможность дообучения, насколько я понимаю, что оттолкнет тех, кто брал llama, несмотря на ее слабые базовые показатели, именно ради дообучения под узкие задачи.
А кто знает, можно ли максимальную ламу бесплатно покрутить? Локально поднять точно не вариант. А так сразу чего-то типа тех же deepseek/lechat/gtp/gemini не нашёл.
Максимальная сейчас это maverick 400B, behemoth 2T они не выложили.
Регистрируетесь в openrouter.ai, работает и на временную почту, ищете там free модели через поиск написав "free" и используете через api (например, через клиент https://msty.app/ или любой другой поддерживающий openai completion api), либо у них есть чат на сайте.
https://openrouter.ai/meta-llama/llama-4-maverick:free
Доступны и другие free модели, включая новую Gemini 2.5 pro, которая на данный момент является рекордсменом по удержанию длинного контекста.
https://openrouter.ai/google/gemini-2.5-pro-exp-03-25:free
Если без регистрации:
на https://lmarena.ai/ в разделе Direct Chat или side-by-side уже добавили maverick, там можно сравнить разные модели.
На deepinfra всегда добавляют новинки, но лимиты лютые.
"в 50 раз больше конкурентов"
Заметна корреляция между постепенным восхождением ИИ на олимп и растущим пофигизмом на русский язык (точнее остатки от него). Хабр уже утонул в попустительстве подобного.
В Арене на 2-й позиции. Интересно будет глянуть версию Бахамут, когда выйдет. В остальном всё как обычно, не мега топ, не запустить локально на среднем железе, очередная моделька. В плане локальных бесплатных ИИ Gemma3 будет поинтересней.
P.S. Если вдруг станете разработчиком ядра Linux или драйверов для Android, тогда да — будете регулярно ковыряться в
arch/arm64/kernel/entry.Sи ругаться на GAS-синтаксис Но это уже совсем другая история...
Запускается приложение. ART видит: "О, тут метод
onCreate(), байт-код такой:const/4 v0, 0x5; mul-int/lit8 v1, v0, 2".
Вот за что я люблю новую лламу. Не понимаю, почему люди жалуются на её знание русского языка.
Вышла Llama 4 с контекстным окном в 10M токенов (в 50 раз больше конкурентов)