Бредятина. На чём вообще основан этот бенчмарк, если в нем опус 4.6 лучше, чем думающие 4.6 и 4.7?
А вот тестам на их собственной странице верится больше.
Напоследок – открытость модели почти ничего не меняет. Пусть хоть Клод станет опенсорс – почти ни у кого нету возможности запустить модель на 1.5+ терабайта.
Далеко не всегда. Локальные модели становятся всё умнее – с qwen3 сложно было даже диалог вести, а вон qw[en/opus] 3.5 тебе спокойно напишет какой нибудь загрузчик на ассемблере.
И с весами прогад – какая нибудь "Youtu-VL-4B-Instruct-Q8_0" весит 6Гб (а это ещё и не полные веса). Зачастую модели весят в 1.5-2 раза больше количества параметров в млрд.
Как по мне gpt oss 20b – наихудший выбор. Запускал я это "чудо" – на "привет" начал размышлять текстом (то есть без предварительного токена а-ля <think>). Сначала сносно, но через пару предложений пошли смешанные языки, куча "а..... Но.......", потом и вовсе "fkgogod($lflgog". Мне кажется это из-за старой архитектуры, но сути не меняет.
Разбираться тут не в чем, достаточно сделать пару бенчмарков на нескольких задачах.
Тут скорее дело в мощности – не у всех есть пара rtx5090 на запуск какой нибудь Qwen3.5-122B (так ещё и с лимонным контекстом + system prompt от claude code на 20+к токенов).
Для чайников давно существуют всякие GPT4ALL, OLLAMA и т.п, в которых от тебя требуется лишь скачать и запустить модель.
Мне кажется такой фигнёй занимается 90% huggingface`а
Каждая вторая модель типа "Qwen3.5-4B-Claude4.6-IQ4_K_M" генерирует очень похожий бред (не помню точно, но мне это вроде иногда удавалось решить. То ли отключением Vision, то ли сменой девайса запуска с NPU/GPU на CPU)
А теперь попробуйте какой нибудь проект на сотни Си файлов за 5 минут проверить (с учётом компиляции и тестирования работоспособности), а потом ещё и описать недостатки с возможными путями решения.
Ну, с учётом того, на каком уровне нынешние флагманы (24 оперативы, так ещё и NPU) реализовать возможно (но согласен, морочиться с sdk от qualcomm такое себе удовольствие)
А на Линукс как по мне с драйверами всё даже лучше. Мне было легче прописать "apt install cuda-tools", чем чистить десятки гигов и ставить куду на диск D:.
Реализовали "прогон" файлов? (Да и "переключение роли"). Я пытался дать модели системник "ты можешь использовать тег \<search\>, после чего тебе от имени пользователя вернётся содержимое сайта/поиска" (и то же самое с "agent-to-agent". Но получилось плохо.
Как работает tools-calling? Просто перехват в начале сообщения тега, потом внедрение как то в контекст "ответа" от тула, и продолжение ответа?
Выглядит довольно минималистично, мало какие дистро этим выделяются, думаю поставлю рядом с зориным.
Есть пара вопросов:
Сколько после установки весит? (И сколько выделять, например, для работы с qemu, C(++) компиляторами и т.п.?)
Что сначала делали – первую бутабельную сборку, или менеджер пакетов? Сделали свою структуру, или взяли готовую? (С apk/apt/pacman)
На негатив внимания не обращайте, "заведомо мертвый проект" видно сразу, а судя по тому, сколько реализовано и реализуется – ваш проект не входит в этот перечень.
Автор прав, никаких следов дистилляции, кроме разговоров про Египет на чемпионате ничё не может.
А почему не Qwen3.5? Модель с явно бо́льшим количеством знаний и более структурированным ответом, разрыв с Qwen 3 колоссальный.
Бредятина. На чём вообще основан этот бенчмарк, если в нем опус 4.6 лучше, чем думающие 4.6 и 4.7?
А вот тестам на их собственной странице верится больше.
Напоследок – открытость модели почти ничего не меняет. Пусть хоть Клод станет опенсорс – почти ни у кого нету возможности запустить модель на 1.5+ терабайта.
Нейрослоп с рекламой в конце, и ни единой полезной рекомендации, браво.
Смысла 0, серьёзно. Раз аккаунт уже есть – не проще ли через него писать людям? А не тыкать кнопки в боте.
Вот сделать сервис, который для каждого чата делал бы бота в botfather, а потом кидал его в отдельную папку – это да, удобно
Сейчас мультмодальные модели это почти база.
Хотя если речь идёт об аудио и видео, а не только об изображениях – да, для малого числа параметров это неплохо.
Далеко не всегда. Локальные модели становятся всё умнее – с qwen3 сложно было даже диалог вести, а вон qw[en/opus] 3.5 тебе спокойно напишет какой нибудь загрузчик на ассемблере.
И с весами прогад – какая нибудь "Youtu-VL-4B-Instruct-Q8_0" весит 6Гб (а это ещё и не полные веса). Зачастую модели весят в 1.5-2 раза больше количества параметров в млрд.
Как по мне gpt oss 20b – наихудший выбор. Запускал я это "чудо" – на "привет" начал размышлять текстом (то есть без предварительного токена а-ля <think>). Сначала сносно, но через пару предложений пошли смешанные языки, куча "а..... Но.......", потом и вовсе "fkgogod($lflgog". Мне кажется это из-за старой архитектуры, но сути не меняет.
Причем тут квен
То же самое. Тестил в Claude Code – изменений не нашёл. Правда в качестве тоже, так что не знаю, что они там улучшили.
Щас попробую, скажу как расход в сравнении с 4.7
50₽ за 🍋 входящих на Deepseek 4 flash вместо официальных 2₽
Остальные даже смотреть смысле не вижу.
Разбираться тут не в чем, достаточно сделать пару бенчмарков на нескольких задачах.
Тут скорее дело в мощности – не у всех есть пара rtx5090 на запуск какой нибудь Qwen3.5-122B (так ещё и с лимонным контекстом + system prompt от claude code на 20+к токенов).
Для чайников давно существуют всякие GPT4ALL, OLLAMA и т.п, в которых от тебя требуется лишь скачать и запустить модель.
Мне кажется такой фигнёй занимается 90% huggingface`а
Каждая вторая модель типа "Qwen3.5-4B-Claude4.6-IQ4_K_M" генерирует очень похожий бред (не помню точно, но мне это вроде иногда удавалось решить. То ли отключением Vision, то ли сменой девайса запуска с NPU/GPU на CPU)
А теперь попробуйте какой нибудь проект на сотни Си файлов за 5 минут проверить (с учётом компиляции и тестирования работоспособности), а потом ещё и описать недостатки с возможными путями решения.
Вряд ли тот же Claude забудет про await или обращение к БД
Ну, с учётом того, на каком уровне нынешние флагманы (24 оперативы, так ещё и NPU) реализовать возможно (но согласен, морочиться с sdk от qualcomm такое себе удовольствие)
А на Линукс как по мне с драйверами всё даже лучше. Мне было легче прописать "apt install cuda-tools", чем чистить десятки гигов и ставить куду на диск D:.
Тоже делал подобный проект, но cli-only.
Хотел спросить, как:
Реализовали "прогон" файлов? (Да и "переключение роли"). Я пытался дать модели системник "ты можешь использовать тег \<search\>, после чего тебе от имени пользователя вернётся содержимое сайта/поиска" (и то же самое с "agent-to-agent". Но получилось плохо.
Как работает tools-calling? Просто перехват в начале сообщения тега, потом внедрение как то в контекст "ответа" от тула, и продолжение ответа?
Будет ли на Linux? На андроид? (Как pocketpal)
Просмотрел кратко. Вроде не в открытом доступе код. Без выхода - да, модель локальная, доступ в интернет – опция.
Выглядит довольно минималистично, мало какие дистро этим выделяются, думаю поставлю рядом с зориным.
Есть пара вопросов:
Сколько после установки весит? (И сколько выделять, например, для работы с qemu, C(++) компиляторами и т.п.?)
Что сначала делали – первую бутабельную сборку, или менеджер пакетов? Сделали свою структуру, или взяли готовую? (С apk/apt/pacman)
На негатив внимания не обращайте, "заведомо мертвый проект" видно сразу, а судя по тому, сколько реализовано и реализуется – ваш проект не входит в этот перечень.