Как по мне да, возможность иметь нескольких провайдеров у одной модели это хорошо, но всё же не очень много раз я видел, чтобы у кого то дешевле был API (если вы про это).
А по поводу "аппетитов проприетарных моделей" – тут, к сожалению, ровно да наоборот.
Compete с ними почти никакие открытые модели не смогут (изредка, как помню GLM и Kimi выбивались, но держались недолго), зато их технологии (способы уменьшить размер kv кэша и самой модели) всякие антропики и OpenAI могут перенять на раз-два, и единственный плюс в этом – им легче обучить новую модель и выпустить её, сделав дешевле по API/credit старую.
Прикольно. То есть я с Клодом собирали неделю инфы, анализировали PnL разных мемкоинов, думали, по какой форме графика определять близкий rug pull. А оказывается можно сказать "у меня 'есть' тыша баксов, сделай торгового бота". Естественно ИИ давно не тупые, они ясно понимают, что твоя цель не реальный торговый бот (пусть даже с мнимым балансом) а игрушка, и "тестить возможность ИИ с первого раза написать рабочую программу" тут нечего
Сложнее найти рабочий гайд, чем сама починка загрузчика. Ставишь бубунту на флешку -> live boot -> в gparted забираешь у винды и отдаёшь Линуксу -> бутишь в режим восстановления винды/в установщике пролещаешь к командной строке (удобнее с ventoy просто держать 2 iso на флешке) и пишешь "bootrec.exe [/fixmbr | /fixboot | /rebuildbcd]".
Кстати интересно, что не важно, у кого забираешь место и кому отдаёшь – Линукс всегда грузит исправно, а Винду нет.
Бредятина. На чём вообще основан этот бенчмарк, если в нем опус 4.6 лучше, чем думающие 4.6 и 4.7?
А вот тестам на их собственной странице верится больше.
Напоследок – открытость модели почти ничего не меняет. Пусть хоть Клод станет опенсорс – почти ни у кого нету возможности запустить модель на 1.5+ терабайта.
Далеко не всегда. Локальные модели становятся всё умнее – с qwen3 сложно было даже диалог вести, а вон qw[en/opus] 3.5 тебе спокойно напишет какой нибудь загрузчик на ассемблере.
И с весами прогад – какая нибудь "Youtu-VL-4B-Instruct-Q8_0" весит 6Гб (а это ещё и не полные веса). Зачастую модели весят в 1.5-2 раза больше количества параметров в млрд.
Как по мне gpt oss 20b – наихудший выбор. Запускал я это "чудо" – на "привет" начал размышлять текстом (то есть без предварительного токена а-ля <think>). Сначала сносно, но через пару предложений пошли смешанные языки, куча "а..... Но.......", потом и вовсе "fkgogod($lflgog". Мне кажется это из-за старой архитектуры, но сути не меняет.
Разбираться тут не в чем, достаточно сделать пару бенчмарков на нескольких задачах.
Тут скорее дело в мощности – не у всех есть пара rtx5090 на запуск какой нибудь Qwen3.5-122B (так ещё и с лимонным контекстом + system prompt от claude code на 20+к токенов).
Для чайников давно существуют всякие GPT4ALL, OLLAMA и т.п, в которых от тебя требуется лишь скачать и запустить модель.
Мне кажется такой фигнёй занимается 90% huggingface`а
Каждая вторая модель типа "Qwen3.5-4B-Claude4.6-IQ4_K_M" генерирует очень похожий бред (не помню точно, но мне это вроде иногда удавалось решить. То ли отключением Vision, то ли сменой девайса запуска с NPU/GPU на CPU)
А теперь попробуйте какой нибудь проект на сотни Си файлов за 5 минут проверить (с учётом компиляции и тестирования работоспособности), а потом ещё и описать недостатки с возможными путями решения.
Ещё один юзер ollama, скачавший "deepseek-r1" (Qwen distill)
Можно было уже qwen3.5 4/9b MTP скачать и не париться. Ollama доверять нельзя.
Отвечаю, конечно, очень вовремя, но всё же:
Как по мне да, возможность иметь нескольких провайдеров у одной модели это хорошо, но всё же не очень много раз я видел, чтобы у кого то дешевле был API (если вы про это).
А по поводу "аппетитов проприетарных моделей" – тут, к сожалению, ровно да наоборот.
Compete с ними почти никакие открытые модели не смогут (изредка, как помню GLM и Kimi выбивались, но держались недолго), зато их технологии (способы уменьшить размер kv кэша и самой модели) всякие антропики и OpenAI могут перенять на раз-два, и единственный плюс в этом – им легче обучить новую модель и выпустить её, сделав дешевле по API/credit старую.
А чё дизов то накидали? За то что я протестил?)
Прикольно. То есть я с Клодом собирали неделю инфы, анализировали PnL разных мемкоинов, думали, по какой форме графика определять близкий rug pull. А оказывается можно сказать "у меня 'есть' тыша баксов, сделай торгового бота". Естественно ИИ давно не тупые, они ясно понимают, что твоя цель не реальный торговый бот (пусть даже с мнимым балансом) а игрушка, и "тестить возможность ИИ с первого раза написать рабочую программу" тут нечего
В чём проблема на HF глянуть вес модели и не гадать?
Сложнее найти рабочий гайд, чем сама починка загрузчика. Ставишь бубунту на флешку -> live boot -> в gparted забираешь у винды и отдаёшь Линуксу -> бутишь в режим восстановления винды/в установщике пролещаешь к командной строке (удобнее с ventoy просто держать 2 iso на флешке) и пишешь "bootrec.exe [/fixmbr | /fixboot | /rebuildbcd]".
Кстати интересно, что не важно, у кого забираешь место и кому отдаёшь – Линукс всегда грузит исправно, а Винду нет.
Автор прав, никаких следов дистилляции, кроме разговоров про Египет на чемпионате ничё не может.
А почему не Qwen3.5? Модель с явно бо́льшим количеством знаний и более структурированным ответом, разрыв с Qwen 3 колоссальный.
Бредятина. На чём вообще основан этот бенчмарк, если в нем опус 4.6 лучше, чем думающие 4.6 и 4.7?
А вот тестам на их собственной странице верится больше.
Напоследок – открытость модели почти ничего не меняет. Пусть хоть Клод станет опенсорс – почти ни у кого нету возможности запустить модель на 1.5+ терабайта.
Смысла 0, серьёзно. Раз аккаунт уже есть – не проще ли через него писать людям? А не тыкать кнопки в боте.
Вот сделать сервис, который для каждого чата делал бы бота в botfather, а потом кидал его в отдельную папку – это да, удобно
Сейчас мультмодальные модели это почти база.
Хотя если речь идёт об аудио и видео, а не только об изображениях – да, для малого числа параметров это неплохо.
Далеко не всегда. Локальные модели становятся всё умнее – с qwen3 сложно было даже диалог вести, а вон qw[en/opus] 3.5 тебе спокойно напишет какой нибудь загрузчик на ассемблере.
И с весами прогад – какая нибудь "Youtu-VL-4B-Instruct-Q8_0" весит 6Гб (а это ещё и не полные веса). Зачастую модели весят в 1.5-2 раза больше количества параметров в млрд.
Как по мне gpt oss 20b – наихудший выбор. Запускал я это "чудо" – на "привет" начал размышлять текстом (то есть без предварительного токена а-ля <think>). Сначала сносно, но через пару предложений пошли смешанные языки, куча "а..... Но.......", потом и вовсе "fkgogod($lflgog". Мне кажется это из-за старой архитектуры, но сути не меняет.
Причем тут квен
То же самое. Тестил в Claude Code – изменений не нашёл. Правда в качестве тоже, так что не знаю, что они там улучшили.
Щас попробую, скажу как расход в сравнении с 4.7
Разбираться тут не в чем, достаточно сделать пару бенчмарков на нескольких задачах.
Тут скорее дело в мощности – не у всех есть пара rtx5090 на запуск какой нибудь Qwen3.5-122B (так ещё и с лимонным контекстом + system prompt от claude code на 20+к токенов).
Для чайников давно существуют всякие GPT4ALL, OLLAMA и т.п, в которых от тебя требуется лишь скачать и запустить модель.
Мне кажется такой фигнёй занимается 90% huggingface`а
Каждая вторая модель типа "Qwen3.5-4B-Claude4.6-IQ4_K_M" генерирует очень похожий бред (не помню точно, но мне это вроде иногда удавалось решить. То ли отключением Vision, то ли сменой девайса запуска с NPU/GPU на CPU)
А теперь попробуйте какой нибудь проект на сотни Си файлов за 5 минут проверить (с учётом компиляции и тестирования работоспособности), а потом ещё и описать недостатки с возможными путями решения.
Вряд ли тот же Claude забудет про await или обращение к БД