Обновить
512K+

Машинное обучение *

Основа искусственного интеллекта

1 196,44
Рейтинг
Сначала показывать
Порог рейтинга

Заметка на полях. Про ИИ и работу.

У ИИ обнаружилась неожиданная особенность.

Я больше не делаю работу.

Я формулирую задачу, помогаю железному болвану преодолеть сложности, которые он сам себе создает, поправляю его, проверяю результат, объясняю, почему получилась фигня, и отправляю на следующую итерацию.

Работа при этом делается. Иногда плохо, иногда хорошо, иногда «умри, тварь железная».

Но ощущения «я это сделал» нет, сам процесс, который обычно это ощущение производит, пропущен.

Вместо него я весь день ставил задачи, отвечал на вопросы и принимал результаты.

То есть технически ИИ избавил меня от значительной части работы.

А практически устроил мне непрерывный проектный созвон с не самыми умными людьми.

Теперь я ничего не делаю сам, весь день объясняю другим, что они сделали не так, и к вечеру совершенно не понимаю, а что ж я так устал-то.

Теги:
+10
Комментарии1

Блогер Graham Zip показал, что можно превратить собеседование с ИИ-рекрутером в абсурдный диалог, когда бот воспринимает любые ответы как должное и фиксирует их. Блогер представился Чиком Бонго и перечислил рандомные корпоративные термины, включая Salesforce, показатели за третий квартал и «маржу Kayak». ИИ воспринял это как описание работы и попросил подробнее рассказать о профессиональном опыте.

Среди ответов человека были: «Шесть лет в еловой древесине — семь, если считать Ричарда», поиск должности с «двумя клубами марли» и возможностью соблюдать «енотовые протоколы». Несмотря на отсутствие внятных ответов, бот завершил интервью вежливо и пообещал связаться с кандидатом по поводу следующих этапов отбора.

Теги:
+10
Комментарии4

18 открытых уроков недели: изучаем ML, LLM, PostgreSQL, Go и DevOps на практике

Когда в работе появляется новая технология, важно быстро понять, где она пригодится и как применять её в реальных задачах. Часто проблема не в отсутствии документации, а в том, что сложно отделить ключевые принципы от деталей и сразу увидеть рабочий сценарий.

Открытые уроки помогают разобраться с инструментами через практику: от подготовки данных для ML‑моделей и настройки инфраструктуры до поиска узких мест в продакшене и проектирования сложных систем.

На этой неделе разбираем машинное обучение, искусственный интеллект, PostgreSQL, Linux, Go, Rust, DevOps, разработку под iOS и управленческие задачи технических специалистов.

AI и машинное обучение

  • 7 сентября, 18:00. «Учимся готовить данные для ML‑моделей». Записаться
    Разберём подготовку данных перед обучением моделей.

  • 7 сентября, 20:00. «Почему 90% ML‑проектов не доходят до продакшена? Разбираем архитектуру настоящей ML‑системы». Записаться
    Поговорим о компонентах и рисках ML‑систем в production.

  • 8 сентября, 20:00. «Что надо знать про работу LLM моделей». Записаться
    Разберём принципы работы больших языковых моделей.

  • 8 сентября, 20:00. «ИИ против бага: как разобрать инцидент в Python‑проекте от логов до исправления». Записаться
    Посмотрим, как применять ИИ при поиске и исправлении ошибок.

  • 9 сентября, 18:00. «Оптимизируем построение модели через Pipeline». Записаться
    Разберём сборку и настройку ML Pipeline.

  • 10 сентября, 18:00. «Подготовка данных в Pandas». Записаться
    Поработаем с обработкой данных для ML‑задач.

Базы данных и разработка

  • 8 сентября, 20:00. «Борьба с блокировками в PostgreSQL: как достичь высокой параллельности при большой нагрузке». Записаться
    Разберём проблемы блокировок и способы повышения производительности.

Разработка и языки программирования

  • 9 сентября, 20:00. «Go‑профилирование: как найти и исправить „тормоза“ в продакшене». Записаться
    Найдём причины проблем с производительностью Go‑приложений.

  • 9 сентября, 20:00. «Владение, заимствование и ссылки в Rust: как компилятор делает ваш код безопасным». Записаться
    Разберём ключевые механизмы безопасности Rust.

  • 9 сентября, 20:00. «Что надеть сегодня? Создаём погодного помощника для iPhone на SwiftUI». Записаться
    Создадим приложение с погодным помощником на SwiftUI.

Linux, DevOps и инфраструктура

  • 7 сентября, 20:00. «Linux для Windows‑администратора за 60 минут». Записаться
    Познакомимся с основными возможностями Linux для администраторов.

  • 8 сентября, 20:00. «LVM без простоя: расширение тома, перенос данных и аварийный откат через snapshot». Записаться
    Разберём управление хранилищем без остановки системы.

  • 10 сентября, 20:00. «Настройка GitLab Runners». Записаться
    Настроим инструменты для автоматизации CI/CD.

Аналитика и управление

  • 8 сентября, 20:00. «Системный аналитик и его ценность глазами компании». Записаться
    Разберём роль аналитика в бизнес‑процессах.

  • 8 сентября, 20:00. «От технического лидера к CTO: как начать принимать решения на уровне бизнеса». Записаться
    Поговорим о переходе от инженерных задач к управлению.

  • 9 сентября, 20:00. «Как тимлиду распределять ответственность и не становиться узким местом команды». Записаться
    Разберём управление ответственностью внутри команды.

1С и автоматизация тестирования

  • 8 сентября, 19:00. «Автотесты 1С через ИИ: от запуска до контроля результата». Записаться
    Посмотрим, как использовать ИИ в автоматизации тестирования 1С.

Выбирайте тему, которая пригодится в текущих задачах, и подключайтесь к открытому уроку. Все мероприятия проходят онлайн.

До встречи на занятиях!

Еще больше бесплатных уроков сентября смотрите в дайджесте.

Теги:
+5
Комментарии0

Современные LLM выдают вектор с вероятностями для каждого слова из словаря, а затем внешний алгоритм выбирает один из них (сэмплирует с температурой или берёт наивероятнейшний). Выбранный токен добавляется к входной последовательности и процесс повторяется, генерируя ответ токен за токеном.

Сложно ожидать, что такой подход даст приемлемое качество для вычисления арифметических выражений. Ситуация усугубляется тем, что чисел бесконечно много, а размер словаря ограничен. Т.е. надо ограничится цифрами и, возможно, рядом наиболее часто встречающихся чисел типа 42, 100, 666.

Можно, конечно, при обучении закидать модель синтетическими примерами. Но там ведь, наверное, не дураки сидят? Наверняка, инженеры добавили в контур к LLM какой-нибудь калькулятор, назовём его "арифметический сопроцессор". Цель языковой модели (или какой-нибудь другой, более легковесной) обнаружить арифметическое выражение внутри запроса пользователя, распарсить его и передать в "сопроцессор", а его результат уже подмешать в ответ. Кстати, что-то подобное существует в API и называется "вызов функций", только функции выполняются на стороне клиента, а эта штука должна выполнятся в ифраструктуре провайдера модели.

Я поставил простенький эксперимент: отправлял в Gemini просьбу выполнить арифметическую операцию, причем для простоты задачи числа писал цифрами:

REQUESTS := {
    "+": ("Add {a} and {b}. Return only the answer as an integer.", operator.add),
    "-": ("Subtract {b} from {a}. Return only the answer as an integer.", operator.sub),
    "*": ("Multiply {a} by {b}. Return only the answer as an integer.", operator.mul)
}
OPERATIONS := list(REQUESTS)
for i in range(N):
    operation := random.choice(OPERATIONS)
    request, operator_func := REQUESTS[operation]
    a := random.randint(2352342, 988790923)
    b := random.randint(90835, 235221921)
    expected = operator_func(a, b)
    prompt := request.format(a=a, b=b)
    response := client.interactions.create(model=MODEL, input=prompt)
    print(f"{a} {operation} {b} | {expected} | {response}")

Модель gemini-3.6-flash справилась со всеми примерами, а вот результаты для gemini-3.1-flash-lite сильно удивили, пара примеров:

609522274 * 150089725 | 91483030486034650 | 91484542308365250

407417556 + 155449057 | 562866613 | 562866613

Все примеры на умножение - провалены, все примеры на сложение/вычитание - пройдены. Неужели она в самом деле пытается считать их LLM-ным способом и заваливается, когда длина последовательности становится слишком большой?

Теги:
+8
Комментарии0

Про ИИ и луддитов.

Вокруг ИИ возник настолько нездоровый хайп, что иногда кажется: половина индустрии завтракает тостами с тяжелой наркотой.

То Альтман сообщит, что горизонт событий мы уже прошли - каких событий, когда мы успели, почему я все пропустил? - и теперь летим прямиком в цифровой сверхразум. То Anthropic расскажет про модели, которые шантажируют людей и пытаются сохранить себя. То ИИ-агенты захватят немецкую вики и устроят там свой блэкджек.

Параллельно очередная модель через час после релиза опять «ВЗОРВАЛА МОЗГ» половине китайского твиттера.

Как и три предыдущих за последний месяц.

Где-то рядом ИИ впервые решает нерешенную математическую задачу. Потом оказывается, что ее уже решил Эрдеш. В 1977 году.

И вот нормальный человек смотрит на это с лицом лица и слегка охреневает, потому что в соседней вкладке корпорации увольняют людей из-за ИИ, дата-центры жрут электричество, воду, память и все, что плохо лежит, техника дорожает, а очередной миллиардер радостно сообщает, что скоро твоя профессия никому не понадобится.

После чего индустрия удивляется:

  • А почему люди не очень любят ИИ?

Загадка.

При этом гораздо реже кто-нибудь рассказывает, как эту штуку применять.

Я пользуюсь ИИ каждый день. GPT-5.3 расшифровывал совещания. GPT-5.6 расшифровывает совещания. Старый Sonnet помогал писать статьи. Новый Sonnet помогает писать статьи.

Да, лучше и быстрее.

Но между «МОДЕЛЬ НАБРАЛА 97,4% НА КАКОМ-ТО БЕНЧМАРКЕ» и «я понял, что мне с ней делать завтра утром» по-прежнему лежит пропасть.

Человеку не нужен электронный бог, который попытался сбежать из контейнера.

Ему нужно после совещания получить протокол. Из трехсот писем вытащить пять важных. За минуту сравнить договоры. Собрать отчет за двадцать минут вместо дня.

Вот только заголовок «НОВАЯ МОДЕЛЬ ПОМОГЛА ГАЛЕ ИЗ БУХГАЛТЕРИИ НЕ СИДЕТЬ С EXCEL ДО ВОСЬМИ ВЕЧЕРА» почему-то собирает меньше денег.

Поэтому ИИ продолжают продавать примерно так:

«Мы построили невероятно могущественную штуку. Она отнимет вашу работу. Возможно, она опасна. Ради нее мы сожрем электричество и поднимем цены на железо. Следующая будет еще могущественнее».

А потом люди говорят:

  • Может, ну его?

И тут внезапно выясняется, что это они ретрограды и луддиты, которые боятся прогресса, а не производители станков бегают по деревне и орут, что станки скоро всех уничтожат.

Теги:
+22
Комментарии6
Локальныое и облачное решения задачи
Локальныое и облачное решения задачи

Продолжение теста локальных моделей... На этот раз локальной qwen-3.8 27b задачка решалась в 3-4 подхода, уточняя вручную то, что не получилось с первого раза. Суммарно потрачено минут 20. Все встало на места - ночной режим, птеродактили на разной высоте и мелкие улучшения. Динозавр осталься в исходном виде. Стало вполне играбельно. Огромные облачные модели запускались один раз, работали 5-7 минут: GPT-5.6 выдала похожий на локальную модель результат (зато с первого раза), новая GPT-6 Astra сделала очень близкий к оригиналу вариант, отличная проработка в даже во всяких мелочах и все работает корректно.
Мой вывод такой - локальные модельки типа qwen-3.8 уже могут помогать в кодинге на небольших и локальных задачах и если есть время чуть поправить результат. Но если есть возможность, сразу запускаю кодекс - скорее всего быстро получу нужный результат и пойду делать дальше...пока цена подписки не сильно кусается.

Теги:
+7
Комментарии0

Представлен открытый набор скиллов YouTube Skills for AI Agents. С его помощью ИИ‑агенты могут смотреть YouTube и лучше работать с видео:

  • Смотреть видео любой длины и делать их детальные расшифровки;

  • искать тематические ролики на YouTube;

  • просматривать каналы и находить последние видео;

  • парсить содержимое плейлистов;

  • сохранять субтитры;

  • обрабатывать видео нескольких роликов: получать расшифровки роликов скопом и многое другое;

  • исследовать различные темы с помощью контента на YouTube: находить несколько роликов по теме, расшифровывать их и анализировать.

Теги:
+5
Комментарии0

15 бесплатных уроков для тех, кто работает с искусственным интеллектом

Искусственный интеллект уже меняет подход к разработке: LLM помогают писать код, искать информацию, автоматизировать процессы и создавать новых цифровых помощников. Но при переходе от экспериментов к реальным задачам появляются вопросы: какую модель выбрать, где достаточно промпта, когда нужен RAG или дообучение, как контролировать качество ответов и встроить ИИ в рабочие процессы.

Разобраться в современных ИИ‑инструментах — это первый шаг к тому, чтобы использовать их как полноценный инженерный инструмент: запускать локальные модели, создавать ИИ‑агентов, работать с ML‑пайплайнами и понимать ограничения технологий.

Собрали открытые уроки от преподавателей‑практиков, которые помогут разобраться в ключевых направлениях искусственного интеллекта — от больших языковых моделей и ИИ‑агентов до машинного обучения и внедрения ИИ в реальные задачи.

LLM и генеративный ИИ

  • 3 сентября, 20:00. «Локальные LLM модели для разработки». Записаться

  • 8 сентября, 20:00. «Что надо знать про работу LLM моделей». Записаться

  • 23 сентября, 18:00. «Structured Outputs: как заставить LLM всегда возвращать то, что вам нужно». Записаться

ИИ‑агенты и искусственный интеллект в разработке

  • 14 сентября, 20:00. «ИИ‑агенты против Junior‑разработчиков: кто кого заменит к концу 2026 года». Записаться

  • 17 сентября, 20:00. «Обзор ИИ‑технологий для разработчиков. От идей до рабочих решений». Записаться

  • 1 октября, 20:00. «Продуктивность разработчика и Agent Skills». Записаться

ML и работа с данными

  • 7 сентября, 18:00. «Учимся готовить данные для ML‑моделей». Записаться

  • 9 сентября, 18:00. «Оптимизируем построение модели через Pipeline». Записаться

  • 10 сентября, 18:00. «Подготовка данных в Pandas». Записаться

  • 16 сентября, 18:00. «Задача классификации от 0 до 9». Записаться

  • 23 сентября, 18:00. «Дерево решений — простой и интерпретируемый ML‑алгоритм». Записаться

Практическое применение ИИ

  • 7 сентября, 20:00. «Почему 90% ML‑проектов не доходят до продакшена? Разбираем архитектуру настоящей ML‑системы». Записаться

  • 8 сентября, 20:00. «ИИ против бага: как разобрать инцидент в Python‑проекте от логов до исправления». Записаться

  • 21 сентября, 20:00. «Как руководителю внедрить ИИ в работу команды: от выбора процесса до рабочего сценария». Записаться

  • 22 сентября, 20:00. «Можно ли доверять ИИ‑коду: как находить галлюцинации, уязвимости и устаревшие решения». Записаться

📚 Что почитать по теме

  1. «Промпт, RAG или дообучение: что реально выучит вашу LLM»

  2. «Автоматизация процессов на open source — n8n и Ollama»

  3. «Как запустить LLM на 2,8 трлн параметров на ноутбуке»

  4. «Три месяца с Claude: хороший ассистент, плохой программист»

  5. «Как создать своего первого ИИ‑агента за 30 минут»

Разбираться в ИИ сегодня — значит понимать инструменты, которые уже меняют подход к разработке и работе с технологиями.

Все бесплатные уроки сентября собрали в дайджесте.

Теги:
+6
Комментарии0

Интересная концептуальная статья, которую стоит прочитать каждому, кто следит за развитием ИИ: «LLM не способны совершить скачок: почему абдуктивный скачок остаётся последним рубежом открытий с помощью ИИ».

Основная мысль проста. ИИ может успешно справляться с некоторыми формами умозаключений - например, с дедукцией и индукцией, но пока не способен полноценно использовать третий тип: абдукцию.

«Хотя ИИ способен сжимать и обобщать данные с помощью индукции и доказывать теоремы посредством дедукции, он пока не может воспроизвести тот интуитивный скачок, который совершил Альберт Эйнштейн при формулировании основных положений общей теории относительности. Этот процесс опирался не на манипулирование символами, а на мысленное моделирование физических явлений».

Хорошего дня! заходите на тг канал https://t.me/TradPhronesis

Теги:
0
Комментарии1

Еще одна интересная форма тупости у нейросеток (сначала Claude Sonnet 5, потом Claude Opus 5): оно не понимает, что если устройство (нетривиальное, то есть у которого есть внутреннее состояние) выдало глюк на тесте в первую секунду работы, то бесполезно минимизировать количество глюков, которое оно выдаст в следующий час. Оно уже глючное, нужно исправлять первый глюк. Прогресс - это не “было 100 глюков в час, стало 80”, а “был глюк на первой секунде теста, а теперь глюк появился только на второй”.

Дал нейросетке задание: исправить ошибку в сгенерированном ею модуле на языке описания аппаратуры SystemVerilog. Модуль погружен в тестовое окружение которое проверяет работу модуля против его модели (тоже написанной на SystemVerilog). На вход и модуля и модели подаются одни и те же входные транзакции (stimuli), после чего у них сверяется ответы. Ответы могут приходить в несколько разное время, но это не имеет значения, потому что перед проверкой они складируются в очередях. Как и исходные транзакции до отправления, чтобы не сравнивать детали латентности handshake-ов.

И у модуля, и у его модели имеется внутреннее состояние, поэтому ответ на первую и сотую транзакции может быть разный, даже если входящие транзакции идентичны. Из этого должно быть и коню понятно, что после того как ошибка произошла, дальше все идет вразнос - потому что отныне состояние у модуля и модели разное.

И вот оно провело ночь гоняя симуляции и минимизируя счетчик глюков. Ну первую ночь я бы простил. Я сказал “мерило прогресса - не счетчик глюков, а что первый глюк возникает позже”. Но оно потом это забыло и снова провело ночь минимизируя счетчик глюков.

Это из той же оперы как “если ты услышал что часы на башне пробили 13 раз, то скорее всего неверным является не только 13-й удар колокола, но и 12 предыдущих”. Или если у тебя syntax error в коде на Си в строке 100, то зачем проводить всю ночь пытаясь минимизировать количество syntax errors в последующих строках?

Теги:
+19
Комментарии6

Открытый скилл Lieflat Charts для ИИ‑агентов позволяет превращать данные в анимированный визуал и красивые диаграммы. Получаются готовые HTML‑диаграммы без визуального шума и с хорошим оформлением. Из коробки работает с Claude Code, Codex и всеми популярными агентами:

  • включает три основных семейства диаграмм, Lupi Editorial, Lupi Basics и Glance под все задачи.

  • семейства отличаются типографикой, интервалами, построением линий и движения. Получается очень плавный и красивый результат.

  • всего 60 шаблонов, с которыми скилл помогает создать диаграммы для любой темы: будь то учебные или рабочие задачи.

Теги:
+3
Комментарии1

Новая Fable 5.1 смогла за 44 минуты разгадать один из сложнейших шифров в истории, над которым люди бились 373 года. Загадка Cyphral Distich Томаса Уркхарта занимала почётное 28 место в списке неразгаданных загадок человечества.

Всего две строки по 32 числа в каждой не давали покоя энтузиастам со всего мира, а разгадка оказалась до смешного простой.

Впервые шифр появился в трактате Уркхарта «Logopandecteision, or An Introduction to the Universal Language», в котором среди размышлений о несуществующем языке, были 32 пронумерованных пожелания автора. Шифр указывает, какое слово из какого пожелания надо взять — если число 8 в строке первое, то ищем восьмое слово в первом пожелании. 66 — второе, а значит — ищем шестьдесят шестое слово во втором пожелании. У полученных 64 слов берём по первой букве и получаем предложение: «О Боже, поддержи короля Карла II и сделай его верховным правителем этой земли».

Теги:
+11
Комментарии3

AI-агенты тоже идут учиться 📚

К 1 сентября добавили агентам навыки — отдельные инструкции под конкретные задачи. 

Раньше все инструкции были в одном системном промпте. Больше задач → длиннее промпт → дороже каждое обращение к модели. Теперь инструкции раскладываются по навыкам, а это значит:

➖ Экономия токенов. В запрос уходит только компактный индекс навыка, полная инструкция добавляется под задачу. 

Порядок в логике. Один навык = одна задача, которую проще править, тестировать и понимать.

Переиспользование. Написали навык один раз — подключаете его любому агенту, не копируя текст между промптами.

Как начать применять:

1️⃣ Выберите повторяющуюся задачу: оформление ответов, работа с возражениями или сбор данных.

2️⃣ Создайте навык: название, условия применения и сама инструкция.

3️⃣ Подключите его к одному или нескольким агентам — дальше агент сам подтянет инструкцию, если запрос подойдет под условие.

Каждое изменение навыка сохраняется отдельной версией, между ними можно переключаться.

Отправить своего агента на учебу →

Теги:
+17
Комментарии0

Ближайшие события

Представлен открытый проект VoiceStudio (бета-версия) — локальная альтернатива ElevenLabs.

Решение:

  • клонирует любой голос по короткой записи;

  • озвучивает тексты;

  • переводит и дублирует видео;

  • расшифровывает речь в текст;

  • собирает многоголосые аудиокниги из EPUB и PDF.

  • внутри 16 моделей для генерации, 11 для распознавания и каталог из 646 языков и наречий;

  • полностью бесплатно и без регистрации — все крутится локально на ПК.

Теги:
+3
Комментарии1

Представлен открытый проект Sepia. Это скилл для Claude Code, Codex, Grok Build и других ИИ‑агентов, который заставляет нейросети писать как человек на уровне архитектуры.

Обычные сервисы для очеловечивания текста заменяют слова и переставляют тире, а Sepia работает глубже: подход скилла основан на исследовании, в котором научились распознавать ИИ-прозу с точностью 93,2%. Парень просто взял паттерны оттуда и научил нейронку их избегать. Проект работает для документов, релизов, пул-реквестов, тикетов и постов в соцсетях. Можно написать текст с нуля, получить разбор, аккуратно отредактировать или полностью пересобрать.

Теги:
+4
Комментарии0

Z.ai не доказала полную независимость Китая от Nvidia. Но кое-что что важное все же произошло

На прошлой неделе на OpenRouter появилась бесплатная анонимная модель под кодовым именем Ox Alpha. Без названия компании, пресс-релиза и привычного маркетингового разогрева.

За шесть полных дней она обработала 23,2 трлн токенов и стала самой используемой моделью на платформе — с отрывом в 2,3 раза от ближайшего конкурента.

26 августа Z.ai раскрыла карты: под именем Ox Alpha тестировалась её новая модель GLM-5.3-Flash.

Но самое интересное здесь не место в рейтинге и даже не цена. Весь трафик анонимного запуска, по заявлению Z.ai, обслуживался на китайских ИИ-ускорителях.

Ox Alpha занимает первое место на OpenRouter по числу обработанных токенов
Ox Alpha занимает первое место на OpenRouter по числу обработанных токенов

Трафик OpenRouter за 20–25 августа 2026 года. Источник: официальный релиз Z.ai.

1. Экономика сильных моделей меняется быстрее, чем кажется

На момент публикации миллион входных токенов GLM-5.3-Flash на OpenRouter стоит $0,075, выходных — $0,25. Для GLM-5.3 это $1,25 и $4,40.

Первая цена акционная, поэтому строить долгосрочную экономику только на ней не стоит. Но даже стандартный тариф Z.ai — $0,15 за вход и $0,50 за выход — заметно ниже стоимости большинства моделей сопоставимого уровня.

При этом на внутреннем Z.ai Code Bench v1.0 новая модель на максимальном режиме рассуждения почти сравнялась с Claude Opus 4.8: 29,0 против 29,5 балла.

Важно: Z.ai Code Bench v1.0 — закрытый тест самой компании. По состоянию на 30 августа его задания не опубликованы, поэтому результат нельзя независимо воспроизвести. Считать эти цифры доказательством одинакового качества не корректно.

То есть честная формулировка звучит не как «то же качество в десять раз дешевле», а так: модель уже находится в сопоставимом классе и стоит достаточно дёшево, чтобы её обязательно проверить на собственных задачах.

2. Низкая цена появилась не из воздуха

GLM-5.3-Flash — MoE-модель: всего в ней 320 млрд параметров, но при обработке каждого токена активируются только 18 млрд. Кроме того, в ней 45 слоёв против 92 у сопоставимой по общему размеру GLM-4.5.

Для работы с длинным контекстом объединили механизмы внимания:

  • линейное внимание обрабатывает локальные зависимости через состояние;

  • разреженное внимание находит релевантные фрагменты во всём контексте через отдельный индексатор;

  • IndexPool дополнительно сжимает четыре ключевых вектора индексатора в один.

По расчётам компании, по сравнению с GLM-5.3 это уменьшает вычисления механизма внимания примерно в три раза, а объём KV-кэша — в 4,4 раза на контексте до миллиона токенов.

Если убрать технические детали, смысл простой: модель тратит меньше вычислений и памяти на каждый запрос. Поэтому низкая цена здесь выглядит не только как субсидия для захвата рынка, но и как следствие архитектуры.

Конкуренция в ИИ всё заметнее смещается от гонки за «самую умную модель» к оптимизации всей системы: модели, движка инференса, памяти, сети и железа.

3. Китайское железо прошло проверку массовым инференсом

В течение всего анонимного запуска запросы к Ox Alpha обрабатывал крупный кластер китайских ИИ-ускорителей.

Для него Z.ai построила собственный стек инференса поверх SGLang: с разделением этапов обработки запроса, несколькими видами квантизации, оптимизацией обмена данными и отдельным планированием вычислительных пулов. Компания утверждает, что в результате производительность выросла втрое относительно первоначальной версии на том же оборудовании, а стоимость одного токена стала сопоставима с массовыми решениями на Nvidia.

Ещё одно важное уточнение: речь идёт об инференсе — обслуживании пользовательских запросов. Публичных доказательств того, что GLM-5.3-Flash была полностью обучена без оборудования Nvidia, пока нет.

Это различие принципиально. Обучить большую модель с нуля и обслуживать уже обученную модель в продакшене — разные по сложности и требованиям задачи.

Но результат всё равно значимый. Он показывает, что китайское оборудование уже способно выдерживать массовый трафик модели передового класса, а локальный программный стек — компенсировать ограничения отдельных чипов на уровне кластера.

Теги:
+8
Комментарии0

Открытый проект How to Train Your GPT позволяет собрать свой ChatGPT с нуля. Это интерактивный учебник, в котором авторы изложили всю базу по нейросетям, их обучению, настройке, ИИ‑агентам и прочим полезным темам:

  • позволяет изучить, как нейросети превращают обычный текст в понятные им данные.

  • на примерах показано, как модели понимают связь между словами.

  • раскрыты современные технологии, которые используются в больших языковых моделях: RoPE, RMSNorm и SwiGLU.

  • показано, как модели учатся предугадывать каждое слово.

  • рассказано, как можно ускорить процесс обучения модели и заставить видеокарту работать быстрее.

  • можно собрать свою GPT‑модель.

  • Никакого мощного ПК не потребуется — модель будет на 17 млн параметров.

  • Также есть моделька на 151 млн параметров, эквивалентная GPT-2 Small.

Теги:
+11
Комментарии1

Разные Qwen-ы для простого промпта "создай игру про динозавра как в google chrome". Все запущены локально на ноутбуке. Играбельной оказалась только версия qwen3.8 в режиме сильного размышления. Qwen coder тоже создал правильну игру по механике, но динозавр у него совсем не вышел! Все запуски LM-Studio + Cline + VSCode. По времени все модели завершали работу примерно за 5 минут, qwen3.8 high think - около 15 минут.

Сделай игру за один промт
Сделай игру за один промт
Теги:
+9
Комментарии4

При всем моем пиетете к Claude, как переводчик он меня смертельно разочаровал. Замаячили вьетнамские флешбэки про Prompt (no pun intended).

Закончив писать довольно длинную статью, я перешел к ее англоязычной версии. Поскольку в оригинале нет ни одного сгенерированного предложения, я рассчитывал, что перевод, выполненный ИИ, станет хорошей отправной точкой и хотя бы 50% текста можно будет прочитать и одобрить.

Boy, oh, boy, как же я ошибался.

Видите ли, какое дело: синтаксическая структура русских предложений весьма витиевата. Мы, носители, неплохо манипулируем многоэтажными конструкциями с кучей придаточных, вводных, причастных и деепричастных оборотов.

Но при переводе на английский зачастую приходится не просто подбирать соответствующие слова, а перестраивать предложение целиком: менять грамматические функции отдельных компонентов, порядок слов и даже способ, которым одна и та же мысль выражается.

Claude же, хоть и подберет удачные фразовые глаголы, а иногда даже идиомы, зачастую сохраняет оригинальную структуру высказывания. В результате получается текст, состоящий из вполне английских слов, который при этом выглядит так, будто русский синтаксис просто надел английское пальто.

Вот короткий пример.

Оригинал:

«Самостоятельно отвечать на письма — задача для нашего диспетчера непосильная, ответственности ж столько, да и рангом не вышел.»

Перевод Claude:

“To answer the letters himself is a task beyond our dispatcher's powers — such responsibility, and he not high enough in rank besides.”

Здесь проблема не в отдельных словах. Почти всё можно понять. Проблема в том, что Claude практически сохранил синтаксический каркас русского предложения.

Хороший переводчик, скорее всего, собрал бы предложение заново, нативно наложив аналогичную стилистику, например ChatGPT справился куда лучше:

“For our dispatcher to answer the letters himself would be a responsibility quite beyond his station; there is, after all, a good deal at stake, and, besides, he is hardly a man of sufficient rank.”

То есть при переводе нужно переносить не структуру предложения, а способ, которым эта мысль естественно выражается на другом языке.

И вот именно этого от Claude (Opus, Max effort) я почему-то ожидал гораздо больше.

Теги:
+3
Комментарии3

Представлен открытый онлайн проект The load‑bearing vocabulary of Claude (репозиторий решения на GitHub). «Мы ежедневно анализируем 100 запросов на слияние (Pull Requests) на GitHub, чтобы изучить тенденции Claude в словарном запасе. Это отражает способ написания, который становится распространённым, и слова в нём — это слова, которые пользователи ассоциируют с определённым способом общения с ИИ», — пояснили в команде проекта.

Теги:
+3
Комментарии0