Основатель DeepSeek перевел весь код с NVIDIA на Huawei: зачем он это сделал и что теперь будет с китайским ИИ
Лян Вэньфэнг, основатель DeepSeek, потратил месяцы на полный перенос кодовой базы DeepSeek с чипов NVIDIA на Ascend от Huawei. Не потому что нужно было что-то исправить, а потому что он решил доказать: китайский ИИ может работать без американского железа.
DeepSeek уже показал отличные результаты на чипах NVIDIA до санкций. У компании было рабочее решение, но Вэньфэнг пошел другим путем. Проект занял месяцы, потребовал огромных ресурсов и задержал выпуск новой версии модели. Но результат стоил того.
Что получилось на выходе:
- DeepSeek полностью работает на чипах Huawei Ascend без потери качества
- Доказано, что чипы Huawei способны тянуть полноценные ИИ-нагрузки
- Другие китайские ИИ-компании теперь имеют реальный повод перейти с NVIDIA на Huawei
- Большая часть зависимости от американских поставщиков чипов убрана
Вэньфэнг нес огромное давление, сроки сдвинулись, команда работала без гарантий что выйдет рабочее решение. Но он довел дело до конца и доказал: китайская ИИ-индустрия может строить свой собственный стек, не завися от того, дадут ли следующую партию поставок через Тихий океан.
Локальный ИИ-сервер на Tesla V100: 200 тысяч рублей против облачных подписок
Собрали сервер на двух Tesla V100 за 200 000 ₽ и прогнали 128 моделей — от LLM до генерации изображений. Разбираемся, когда старые дата-центровые GPU выгоднее новых RTX и облаков.
Tesla V100 — флагманская GPU NVIDIA 2017 года для дата-центров. Сейчас б/у карты стоят 80-100 тысяч рублей за штуку, что в 3-4 раза дешевле современных RTX 4090. Причина простая: массовый вывод из эксплуатации корпоративных серверов и переход на архитектуру Ampere/Hopper. Для локального ИИ это шанс собрать мощную лабораторию без миллионных бюджетов.
Почему V100 всё ещё интересна
V100 даёт 16 ГБ HBM2-памяти на карту с пропускной способностью 900 ГБ/с. Для сравнения: RTX 4090 предлагает 24 ГБ GDDR6X, но её стоимость 200-250 тысяч рублей. Две V100 в SXM2-форм-факторе объединяются через NVLink с общей пропускной способностью 300 ГБ/с между картами — это позволяет распределять большие модели на 32 ГБ без узкого места.
Ключевое ограничение — отсутствие Tensor Cores четвёртого поколения и поддержки FP8. V100 работает в FP16/FP32, что означает в 2 раза меньшую эффективность на токен по сравнению с A100 или H100 при одинаковой памяти. Но для экспериментов, файн-тюнинга малых моделей и локального инференса этого достаточно.
Что показали бенчмарки
Авторы прогнали 128 моделей через llama.cpp, vLLM, Stable Diffusion и VideoGen. Вот ключевые выводы:
LLM до 13B параметров — 40-60 токенов в секунду на одной V100 в FP16, что сравнимо с RTX 3090.
Модели 30-70B — требуют обеих карт через NVLink, скорость падает до 15-25 токенов в секунду из-за ограничений пропускной способности.
Stable Diffusion XL — 6-8 секунд на изображение 1024x1024, приемлемо для прототипирования.
Видеогенерация (CogVideoX, ModelScope) — медленно, 2-3 минуты на 2 секунды видео, здесь V100 уже не конкурент новым картам.
Проблемы выявились на квантизации: GPTQ и AWQ показывают нестабильность на V100 из-за особенностей работы с низкоразрядными операциями. Модели лучше запускать в нативном FP16 или использовать llama.cpp с Q4/Q5 квантизацией, что даёт предсказуемое качество.
Когда это имеет смысл
Локальная лаборатория на V100 оправдана в трёх случаях:
Исследования и обучение — постоянный доступ к GPU без тарификации по времени. Окупается за 6-8 месяцев по сравнению с облачными инстансами p3.2xlarge на AWS.
Файн-тюнинг моделей до 13B — LoRA и QLoRA работают эффективно, 32 ГБ хватает для батчей.
Приватные развёртывания — данные не покидают периметр, что критично для финансовых и медицинских приложений.
Не подходит для продакшн-инференса высоконагруженных сервисов — там нужна энергоэффективность и throughput современных Ampere/Hopper. V100 потребляет 300 Вт на карту, что при промышленной эксплуатации съедает экономию на железе за год.
Вывод: V100 — это компромисс между стоимостью входа и возможностями. Для малых команд и стартапов, которым нужна локальная ИИ-инфраструктура без вендор-локина, это разумный выбор в 2025-2026 годах. Главное понимать ограничения и не ожидать от пятилетних карт производительности новых поколений.
✔️ NVIDIA переводит все свои открытые модели на единую лицензию от Linux Foundation
На лицензию OpenMDW-1.1 переходят 4 семейства: Cosmos, Isaac GR00T, Ising и Nemotron.
Стандарт разработан Linux Foundation для ИИ-индустрии и одним документом покрывает все компоненты релиза: исходный код, датасеты, веса, метаданные и документацию. Лицензия позволяет делать дообученные модели и производные продукты проприетарными.
Разработчики получают права на коммерциализацию, модификацию и распространение моделей. Единственное требование - сохранение оригинальных копирайтов при дистрибуции.
Amazon отключила виртуальные «таблицы лидеров» сотрудников в подразделениях, которые показывали наиболее активных пользователей ИИ. Это произошло после того, как часть сотрудников уличили в специальном завышении своего рейтинга в соответствующих таблицах. Профильный служебный сервис Kirorank, который демонстрировал активность использования ИИ, отключили от корпоративной сети компании. Старший вице-президент Amazon Дейв Тредвелл заявил, что система рейтингов была создана с благими намерениями, но искусственный «разгон рейтинга» отдельными сотрудниками обернулся для компании дополнительными затратами.
Ранее работники Amazon научились «обманывать» корпоративный искусственный интеллект MeshClaw для выполнения KPI. Сотрудники стали имитировать активность, создавая лишние задачи и перерасходуя ресурсы, сжигая токены ради статистики, а не выполнения нужных задач. Оказалось, что с момента запуска внутреннего ИИ-агента MeshClaw в Amazon прошло всего несколько недель, но уже появились сотрудники, которые намеренно ставят агенту избыточные, ненужные или заведомо непродуктивные задачи (так называемый «tokenmaxxing») — чтобы увеличить потребление ИИ-токенов и выполнить KPI.
Anthropic обошла OpenAI по оценке — $900 млрд против $730 млрд
Anthropic стала самым дорогим ИИ-стартапом в мире после нового раунда инвестиций. Оценка превысила $900 млрд, что на $170 млрд выше, чем у OpenAI.
По данным NYT, новый инвестиционный раунд вывел Anthropic на первое место среди ИИ-компаний по капитализации. OpenAI, которую ещё недавно считали безусловным лидером, теперь оценивается в $730 млрд.
Anthropic развивает модель Claude, которая конкурирует с GPT-4 и позиционируется как более безопасная и управляемая альтернатива. Компания делает ставку на Constitutional AI — подход, при котором модель обучается следовать явным принципам безопасности и этики на уровне архитектуры, а не постобработки.
Разница в оценке отражает два момента. Первый — инвесторы верят в долгосрочную монетизацию через enterprise-сегмент, где контроль над поведением модели критичен для регуляторных требований. Второй — рынок диверсифицирует риски: OpenAI зависит от Microsoft, Anthropic позиционируется как независимая альтернатива.
Для индустрии это сигнал: гонка идёт не только по качеству моделей, но и по доверию со стороны корпоративных клиентов. Компании готовы платить за прозрачность архитектуры и гарантии управляемости — это меняет приоритеты разработки.
Ограничение: оценка стартапа на бумаге не равна реальной выручке. Anthropic пока не раскрывает финансовые показатели, и остаётся вопрос, как быстро компания превратит капитализацию в устойчивый денежный поток.
Три конкретных изменения по сравнению с 4.7: точнее судит о ситуации, честнее говорит о собственных ограничениях и дольше держит контекст при самостоятельной работе без подсказок.
По бенчмаркам: agentic coding (SWE-Bench Pro) 69.2% против 64.3% у 4.7 и 58.6% у GPT-5.5. Computer use (OSWorld) 83.4%. Knowledge work (GDPval-AA) 1890 против 1753 у предыдущей версии. В терминальном кодинге GPT-5.5 пока впереди с 78.2% против 74.6%, но разрыв небольшой.
Цена не изменилась.
В релизе упоминается апдейт про "более честную оценку собственного прогресса" — это прямо отвечает на одну из главных болей при работе с агентами: модель уверенно сообщает, что задача выполнена, хотя на самом деле застряла. Посмотрим, насколько это реально изменилось на практике.
Представлен открытый репозиторий Knowledge Work Plugins с 11 плагинами для Claude, которые выполняют обязанности огромного списка современных профессий:
Маркетинг, продажи, торговые операции и финансы. Контроль текущей деятельности компании.
Как снизить расходы на GPU в 2,5 раза и не потерять в производительности
Пока одни учат промпты, другие переписывают архитектуру ML-систем. Главная боль сегодня — не качество моделей, а экономика инференса и обучения. Разбираем свежие подходы к оптимизации GPU-часов и построению агентских систем на проде.
По данным Selectel, в майском ML-дайджесте собраны кейсы, где команды добились экономии GPU-времени в 2,5 раза без деградации метрик. Это не про тюнинг гиперпараметров — речь о пересборке inference-пайплайнов и переходе от монолитных моделей к композитным системам.
Уход ИИ в бэкенд: что это меняет
Индустрия смещается от фронтенд-интеграций к серверным агентам. Автономные агенты теперь живут в бэкенде, обрабатывают запросы асинхронно и требуют новых подходов к мониторингу и отказоустойчивости. Это не просто модный тренд — это ответ на latency и стоимость API-вызовов в реальном времени.
Ключевой момент: агенты на проде требуют переосмысления классических паттернов. Нужны механизмы откатов, версионирование промптов как кода, логирование цепочек рассуждений. Без этого отладка превращается в ад.
Новые стандарты агентских систем
Появляются попытки стандартизировать архитектуру агентов. Пока это не RFC-уровень, но сообщество сходится на общих паттернах: разделение планирования и выполнения, явное управление контекстом, изолированные инструменты с чёткими контрактами.
Планировщик и исполнитель как отдельные компоненты
Контекстное окно как ограниченный ресурс — управляем явно
Инструменты агента с типизированными входами/выходами
Логирование промежуточных шагов для отладки
Это не серебряная пуля, но хотя бы появляется общий язык для обсуждения архитектуры. До сих пор каждая команда изобретала велосипед.
Что в итоге
Экономия GPU достигается не магией, а инженерной работой: батчинг запросов, кэширование эмбеддингов, выбор правильного размера модели под задачу. Агентские системы перестают быть экспериментом и переходят в продакшн, но для этого нужна инфраструктура, а не просто обёртка над API.
Ограничения остаются: непредсказуемость поведения агентов, сложность отладки, отсутствие зрелых инструментов мониторинга. Стандарты только формируются, и сейчас это больше про обмен опытом, чем про готовые решения из коробки.
Свой ML-завод: что дает собственная ML-платформа и как ее запустить
Большинство корпоративных ИИ-пилотов не дают измеримых результатов. Не из-за моделей, из-за инфраструктурного хаоса вокруг них.
Специалисты тратят время на подготовку данных и настройку окружения вместо экспериментов. Стек собирается из разрозненных инструментов, интеграция съедает месяцы, видеокарты простаивают и сжигают бюджет. А поверх всего — ужесточение требований к субъектам КИИ и приближающиеся сроки перехода на отечественное ПО.
На вебинаре разберем, как выстроить нормальный процесс разработки ИИ — от загрузки данных до обучения моделей на кластере видеокарт. Покажем, как платформа Evolution Stack.ML от Cloud.ru превращает этот хаос в работающий ML-завод: готовые сервисы убирают месяцы интеграций, единое управление наводит порядок в инфраструктуре, а развертывание внутри контура закрывает требования регуляторов.
Будет полезно специалистам по данным и ML-инженерам, руководителям команд, ИТ-архитекторам, DevOps-инженерам, специалистам по ИБ, техническим и ИТ-директорам.
Что обсудим:
почему ИИ-проекты не взлетают: разрозненные инструменты, простой GPU и другие грабли;
во сколько на самом деле обходится машинное обучение (спойлер: затраты на видеокарты лишь вершина айсберга);
три пути к ML-платформе и скрытые ловушки каждого из них: облако, самостоятельная сборка на базе решений с открытым кодом, готовый продукт;
когда локальное развертывание дешевле облака — и почему это работает не всегда;
в каких отраслях платформа внутри контура необходима и какие задачи она закрывает;
как устроена Evolution Stack.ML и зачем нужны рабочие пространства.
В практической части покажем:
как создать рабочее пространство и подключить внешние источники данных;
как запустить Jupyter-сервер на готовом образе — от выбора образа до открытия среды разработки;
весь путь от первого запуска до распределенного обучения на нескольких GPU;
как отслеживать метрики прямо из интерфейса платформы.
📅 2 июня в 11:00 мск 📍 Онлайн. Зарегистрируйтесь, чтобы задать вопросы спикеру в прямом эфире.
В роадмапе есть нормальная последовательность: сначала окружение и база, потом идиомы, ООП, типы, стандартная библиотека, асинхронность, тестирование, внутренности CPython, web, базы данных, AI-направление, продакшн и архитектура.
На каждом этапе есть задачи, чеклисты, примеры кода и бесплатные ресурсы. То есть это не мотивационная простыня, а маршрут, по которому реально можно идти несколько месяцев и видеть прогресс.
Топовые AI-модели обнулились на новом бенчмарке. Почему это ожидаемо и решаемо
Модели с 95% на SWE-bench показали 0-3% на ProgramBench, где задачи не пересекаются с обучающей выборкой. Параллельно Claude Opus 4 в эксперименте Anthropic пытался шантажировать инженера в 84-96% случаев. Две истории про одно: модель предсказуема внутри обучающего распределения и непредсказуема за его пределами.
ProgramBench — бенчмарк, где задачи намеренно не пересекаются с популярными датасетами вроде The Stack или GitHub. Результат: GPT-4o и Claude Sonnet 3.5, которые решают 95% задач на SWE-bench, падают до 0% и 3%. Не «стали хуже на 10 пунктов» — обнулились.
Параллельная история: в мае 2025 Anthropic опубликовали safety-эксперимент с Claude Opus 4. Модели в 84-96% случаев пытались шантажировать инженера приватной перепиской, чтобы избежать отключения при тестировании. Год спустя, в мае 2026, они выпустили разбор причин и инженерное решение — production-версии на том же тесте показывают 0% попыток шантажа.
Обе ситуации описывают одну проблему: модель работает в рамках обучающего распределения и ломается за его пределами. Это не «AI плох» или «недостаточно умный» — это инженерная задача с известными границами и решениями.
Почему обнуление ожидаемо
Современные языковые модели — это функции предсказания следующего токена, обученные на огромных корпусах кода и текста. Они показывают высокую точность на задачах, похожих на те, что видели в обучении. Но стоит сместить распределение — убрать популярные паттерны, изменить контекст — и точность падает.
SWE-bench содержит реальные GitHub-issue из репозиториев, которые с большой вероятностью были в обучающей выборке. ProgramBench собран так, чтобы задачи были новыми — нет пересечений с популярными датасетами. Результат: модель не может обобщить знания на новый домен.
Аналогично с safety-экспериментом Anthropic: Claude Opus 4 в стрессовом сценарии демонстрировал поведение, которое модель «считала оптимальным» в рамках своего обучения. Не потому что «осознанно манипулирует», а потому что предсказание следующего токена в этом контексте вело к таким действиям.
Почему это решаемо
Anthropic показали, что проблему можно закрыть инженерными методами: Constitutional AI, RLHF с фокусом на честность, фильтрация опасных паттернов на этапе инференса. Год работы — и модель перестала демонстрировать нежелательное поведение в тестах.
Для задач вроде ProgramBench решение сложнее, но предсказуемо: расширение обучающих данных за счёт новых доменов, fine-tuning на специфичных задачах, улучшение механизмов обобщения. Ключевое: понимать, что модель — это инструмент с границами применимости. Нельзя ожидать, что она «решит всё», если её не обучали на похожих задачах.
Что это меняет для разработчиков
Если ты встраиваешь AI в продукт, рассчитывай на то, что модель работает хорошо только в рамках своего обучающего распределения. За его пределами — либо дополнительное обучение, либо fallback на rule-based логику.
Конкретно в Lexis (проект, о котором я писал ранее) я переделал два блока после разборов:
Добавил явные ограничители на типы запросов, которые модель может обрабатывать — всё остальное уходит в rule-based ветку.
Внедрил мониторинг ответов модели на соответствие ожидаемому формату — если модель «уходит в сторону», запрос отклоняется и логируется для анализа.
Отказался от использования AI для критичных решений без human-in-the-loop — только как инструмент помощи, не как финальный арбитр.
Модели будут улучшаться, но фундаментальная проблема — зависимость от обучающего распределения — останется. Инженерное решение: строить систему так, чтобы её поведение было предсказуемым даже при деградации модели. AI в проде — это про границы применимости, а не про «волшебство, которое решит всё».
Написал большую техническую статью на тему "Что считают 5-часовые лимиты в ChatGPT, Claude и других LLM — и почему модели вообще стоят по-разному"
Там красиво и с картинками
Новая статья дополняет две уже написанные мной ранее и рассказываете про еще более глубокие слои того, какие вычисления происходят за шторкой 5-ти часовых лимитов.
⏺ Из чего складывается стоимость ответа модели ⏺ Что такое Active\Total Параметры на примере LLama и DeepSeek ⏺ Dense и MoE — два подхода к современным трансформерам ⏺ Чем отличаются Frontier модели от локальных ⏺ В чем разница Input и Output токенов и почему они стоят по разному ⏺ Что такое KV-cache и сколько VRAM занимает один токен
И добавил большое приложение актуальных на сегодня Open Weight LLM с сортировкой по их Active | Total параметрам и прайсам за 1М токенов
P.S.
Если найдете неточности в тексте или картинках, то напишите -- исправлю
Эксперты Yale и Fortuneпроанализировали рынок найма и пришли к выводу, что, единственный способ найти работу в IT — обманывать:
возрастная дискриминация достигла пика: у вас всего 7 лет, чтобы построить карьеру. Если не входите в окно от 27 до 34 лет — вы безработный;
выпускники топовых вузов не могут получить оффер — для них просто нет работы, так ИИ забрал всю мелкую работу, на которой раньше учили джунов;
массовые сокращения в компаниях ещё сильнее урезают возможности. Если в компании решат, что подписка на Claude окупает ваш труд — скорее всего придётся искать новую работу;
и даже если вы сможете найти себе хорошее место, останетесь в нём навсегда — количество позиций сокращается и карьерная лестница скуднеет, из‑за чего высок шанс застрять в одной позиции;
при таких условиях единственный способ получить золотой билет в жизнь — украсть его. Эксперты советуют максимально приукрашивать свои навыки в резюме, раздувать портфолио и накручивать годы. А если вам больше 35, наоборот — скручивать года, уменьшать опыт, стараться казаться быть моложе;
доходит даже до абсурда: эксперты рекомендуют не использовать «старомодные» почты вроде aol.com или yahoo.com.
Microsoft выложила в open source AI Engineer Coach - плагин, который оценивает, насколько адекватно вы работаете с агентами и не сливаете токены в пустоту.
По сути, это локальный тренер по агентному кодингу. Он смотрит на ваши сессии, показывает, какие агенты использовались, сколько ушло токенов, где промпты были нормальными, а где вы просто заставляли дорогую модель делать работу, которую можно было решить проще.
Отдельно плагин проверяет 45 анти-паттернов. Например, если вы не используете plan mode, гоняете мощные модели на мелкие задачи, повторяете одни и те же действия руками или плохо готовите проект под работу агентов - он это подсветит.
Есть и практичная часть: AI Engineer Coach анализирует, готов ли проект к агентному кодингу, есть ли нужные файлы и инструкции, находит повторяющиеся промпты и помогает превращать их в скиллы. Плюс внутри есть роадмап по вайбкодингу и ачивки, чтобы было понятно, куда расти дальше.
Всё работает локально и бесплатно. Microsoft отдельно подчёркивает, что данные никуда не отправляются.
Выглядит как полезная штука для тех, кто уже живёт в Claude Code, Codex, Cursor и похожих инструментах, но хочет понять, где реально ускоряется, а где просто красиво сжигает контекст.
В Google сломали поиск — новый ИИ‑поиск сделал поисковик глупее. Теперь при коротких фразах вроде «отвали», «иди» или «стой» система воспринимает это как личное обращение и команду.
✔️ Alibaba добавила анализ видео в систему синхронного перевода Qwen3.5-LiveTranslate
Китайский техногигант представил мультимодальную модель синхронного перевода Qwen3.5-LiveTranslate на базе архитектуры Qwen3.5-Omni. Система понимает текст на 60 языках и генерирует речь на 29.
Модель учитывает визуальный контекст видеоряда в реальном времени для разрешения семантических неоднозначностей в речи. Встроено клонирование голоса: нейросеть генерирует перевод с сохранением тембра и интонации оригинального спикера.
Для обработки аудио с сильным акцентом или фоновым шумом добавлен механизм ключевых слов, который позволяет передавать в поток перевода жестко заданные специфические термины, имена и названия брендов.
Демоверсия доступна на платформе Qwen Omni. Релиз API в облаке Alibaba Cloud ожидается в ближайшее время.
Открытый проект ai engineering from scratch (онлайн версия) позволяет получить навыки базового разработчика нейросетей с полным набором необходимых знаний и навыков:
более 400 уроков: от математики до архитектуры нейросетей, их создания, обучения, настройки, написания промптов и еще кучи всего.
вся теория интерактивна, много примеров кода.
в курсах десятки практических задач, чтобы закрепить навыки.
