Основа искусственного интеллекта
Опубликован курс по созданию языковых моделей с нуля от Стэнфордского университета — «СS336: Language Modeling from scratch», включая видеолекции для всех, кто хочет научиться создавать собственные ИИ-модели с нуля: от архитектуры и токенизаторов до обучения с подкреплением и масштабирования. К лекциям есть множество дополнительных материалов и домашних заданий.
🚀 Google представила InstructPipe — революционный инструмент для визуального программирования с помощью ИИ
Представьте, что вы описываете свою идею словами, а ИИ превращает её в рабочий прототип подкрепляя визуальной блок схемой.
🔍 Что такое InstructPipe?
InstructPipe — это AI-ассистент, интегрированный в платформу Visual Blocks, который преобразует текстовые описания в визуальные пайплайны. Пользователь вводит инструкцию, выбирает категорию (например, "язык", "визуализация" или "мультимодальность"), и система генерирует соответствующую блок-схему.
Ключевые особенности:
- Использование больших языковых моделей (LLMs) для генерации псевдокода.
- Интерпретатор кода, который преобразует псевдокод в визуальные блоки.
- Интерактивный редактор, позволяющий пользователю доработать и настроить пайплайн.
Чем интересен продукт?
- Если вы хотите сделать пайплайн на коленке, вам туда
- Быстрое прототипирование идей
- Если вам не нужно полноценное внедрение, а решение быстро и просто
Работаем со свертками в PyTorch с помощью библиотеки CUTLASS и алгоритма Implicit GEMM
Библиотека CUTLASS — это набор C++ шаблонов для реализации высокопроизводительного GEMM в коде. Она предоставляет структурные блоки, из которых можно собрать или просто вызвать операцию GEMM. Поддерживает вычисление смешанной точности, использование TensorCores и других примитивов, доступных для быстрого вычисления. В отличие от cuBLAS, это open source-библиотека. Ее относительно просто интегрироватьь и модифицировать под свои задачи.
Подход основан на тайлинге — разбиении задачи на мелкие подзадачи и распараллеливании. Как устроен процесс работы:
Процедура начинается с работы с глобальной памятью: выбираем блоки данных (тайлы) из глобальной памяти для умножения матриц.
Затем используются примитивы для переноса этих данных в shared-память, где происходит тайлинг на этом уровне.
После выполняется работа на уровне варпов и регистров с использованием TensorCores или CUDA Cores.
Эти настройки также можно конфигурировать с помощью библиотеки. Основная цель — максимально перенести данные для вычислений в регистры процессоров и свести к минимуму операции с глобальной памятью, поскольку они вызывают наибольшие задержки.
Библиотека предоставляет различные уровни специализации и конфигурирования: Device-level, Kernel-level, Block-level, warp, Instruction. Весь API представлен в виде шаблонов, из которых можно набирать те типы, которые потом инстанцируются для реализации нужного тайлинга.
Какие еще инструменты могут расширить функциональность PyTorch для работы с большими свертками? Как выбрать алгоритм, подходящий для обучения моделей? Узнаете из статьи →
Сегодня OpenAI анонсировала две новые модели искусственного интеллекта — o3 и o4-mini, расширяя возможности ИИ за пределы обработки текста, включая веб-браузинг, генерацию изображений и визуальное восприятие.
Axios
🧠Модель o3
o3 — как заявили OpenAI это самая продвинутая модель на сегодняшний день, обладающая улучшенными способностями к рассуждению и пониманию изображений. Изначально планировалось выпустить o3 как часть GPT-5, но было решено представить её отдельно вместе с o4-mini.
🧠Модель o4-mini
o4-mini — более компактная и эффективная версия, предназначенная для выполнения задач, таких как математика, программирование и визуальный анализ, при меньших затратах.
Добавили интересные апдейты и прощание с более старыми моделями:
Натаскали модельки на качественный поиск в браузере и генерацию изображений
Ризонинг поверх изображений!Добавили интеграцию изображений в процессы рассуждения.
Добавят доступ в ChatGPT Plus, Pro и Team для моделей o3, o4-mini и o4-mini-high.
Постепенное прекращение поддержки старых моделей, таких как o1, o3-mini и o3-mini-high.
Ждем первый доступ для всех и анонсы gpt5?
Google опубликовала гайд по бизнес-идеям с ИИ под капотом с примерами 601 кейса под любую сферу: торговля, логистика, медиа, кодинг, телеком, наука. В гайде расписаны реальные примеры от различных компаний по интеграции ИИ-агентов в бизнес.
🚀 OpenAI выпускает GPT-4.1 — новый уровень!
OpenAI представили GPT-4.1, и это не просто апдейт — это серьёзный шаг вперёд.
Модель с контекстным окном в 1 МИЛЛИОН токенов (да, догнали Gemini спустя год!) и возможностями на уровне (а то и выше) топовых open-source моделей вроде o3-mini — и всё это без цепочек рассуждений.
GPT-4.1 уже показывает отличные результаты по кодингу и бенчмаркам.
⚠️Но есть нюанс: доступна только через API, в чатах OpenAI (пока) её не будет.
А вайбкодеры сегодня принимайте подарок!🎁
Целую неделю GPT-4.1 можно использовать бесплатно в Windsurf — это альтернатива Cursor с полноценной интеграцией новой модели.
Это первая базовая модель, которая по коду реально обходит многие хайповые open-source решения. Отличный повод затестить и вкатиться в новую волну AI-кодинга.
GPT-4.1 уже здесь, но только для разработчиков. Остальным придётся немного подождать.
Проанализировав опыт наших клиентов и открытые данные по рынку, мы пришли к выводу, что 70% компаний используют графические процессоры (GPU) менее чем на 55% их мощности. Часто ресурсы GPU используются неоптимально, например, когда мощные графические процессоры выполняют небольшие задачи. Что можно с этим сделать? Расскажем на вебинаре.
📆 Когда: 22 апреля в 11:00 мск
📍 Где: онлайн
Мы покажем, как можно более эффективно организовать работу с GPU с помощью Evolution ML Inference. Сервис позволяет запускать несколько моделей на одном GPU, автоматически масштабирует ресурсы и сокращает расходы до 70%.
Программа вебинара:
почему Shared GPU выгоднее выделенных ресурсов: расчет экономии на примере реальных проектов;
пошаговый запуск моделей с Hugging Face за несколько кликов;
как избежать переплат: настройка лимитов GPU и мониторинг в реальном времени;
динамическое масштабирование: добавление ресурсов при пиковой нагрузке и отключение в простое.
В результате с помощью сервиса вы сможете развертывать модели без сборки Docker-образа, платить только за фактическое использование ресурсов и сократить время запуска проектов с использованием AI в 3 раза.
Будет полезно дата-сайентистам, DevOps-инженерам и руководителям, которые хотят оптимизировать затраты на ML-инфраструктуру.
🚀 x.ai представили публичный API для Grok 3
🔍 Основные детали:
1. Доступные модели:
🟣 флагман Grok 3
🟣 облегченная Grok 3 Mini
Контекстное окно у обеих: 131k токенов.
2. Что у Grok 3 Mini:
🟣 Единственная модель с двумя режимами reasoning (low/high).
🟣 На презентации показала лучшие результаты, чем Grok 3, из-за более долгого обучения.
Хотя разработчики обещают дообучить Grok 3, но сроки не ясны.
3. Стоимость (в пересчете на 1 млн токенов):
🟣 Grok 3:
- Стандартная скорость: $3 (input) / $15 (output)
- Fast mode: $5 / $25 (но работает *медленнее* по тестам OpenRouter 😅)
🟣 Grok 3 Mini:
- Стандарт: $0.3 / $0.5
- Fast mode: $0.5 / $4
В целом Grok 3 Mini выглядит выгодно: цена ниже, чем у аналогов (например, o3 mini), а качество на уровне.
Grok 3 пока видимо проигрывает конкурентам (GPT-4.5, Gemini 2.5 Pro, Sonnet 3.7) по функционалу и скорости. Сам же Fast mode вызывает вопросы: высокая цена при текущей скорости выглядит странно.
Посмотрим, как дообучат Grok 3, но mini сейчас выглядит интересно!
*P.S. Кто уже тестил? Делитесь впечатлениями в комментах!* 👇
Верните мой 2007-й: превращаем старые фотки в снимки с зеркалок с помощью ИИ
Однажды группе ИИ-энтузиастов пришла идея: а что если обучить искусственный интеллект улучшать смартфонные снимки до профессиональных с помощью парных фотографий? Задумка понравилась. Для сбора датасета выбрали актуальные в то время Sony Xperia Z, iPhone 3GS, BlackBerry Passport и цифровую зеркалку Canon EOS 70D в качестве эталона. Модель обучили улучшать фотографии, сделанные на смартфонах, в соответствии с такими же изображениями, полученными с камеры. Проект реализовали, исходный код опубликовали на GitHub, а подробное описание — на arXiv.org. Но что же в нем интересного сейчас, почти десять лет спустя?
DPED не просто применяет косметические фильтры. Датасет способен значительно улучшать фотографии на уровне структуры изображения, детализации, динамического диапазона и цветопередачи, приближая результат именно к профессиональной зеркальной фотокамере, а не просто «улучшая» фото.
Открытый исходный код и доступность датасета DPED позволяют легко адаптировать, изменять и дорабатывать модель. Это дает большие возможности исследовательскому сообществу и разработчикам мобильных приложений. Именно гибкость и понятность архитектуры делают DPED хорошим кандидатом для дальнейших экспериментов и улучшений.
В своей статье команда регионального научно-образовательного центра «Искусственный интеллект и анализ больших данных» при НГТУ им. Р. Е. Алексеева запустила DPED на свежих версиях софта, преодолев все проблемы совместимости, и попробовала через него улучшить фото с современного планшета.
Шпаргалка, которая поможет быстро найти нужный ИИ-сервис. Все нейросети актуальные и удобно разбиты по категориям.
Представлена подборка из 100 ресурсов для создания ИИ-агентов под большинство задач по всевозможным темам: от RAG, MCP-cерверов, мульти-агентов и саморефлективных моделей до узкоспециализированных агентов для подбора ресторанов, отелей, буста продуктивности и организации рабочих задач.
Джон Кармак выступил в защиту ИИ для разработки игр и заявил, что «создание мощных инструментов — ключевой двигатель всего прогресса».
Соавтор Doom и Quake заявил в ответ на критику разработчиков и пользователей, что развитие искусственного интеллекта поможет создавать больше игр и делать их более качественными, а также привлечёт в индустрию новых специалистов. В качестве наглядного примера развития технологий Кармак привёл написание машинного кода для своих первых игр, чем уже никто не занимается. По словам Кармака, сейчас подобное занятие можно сравнивать с «обслуживанием колёс у боевой колесницы», ведь появились игровые движки, которые делают разработку удобнее и эффективнее. Аналогичным образом ИИ-инструменты станут помогать разработчикам в будущем.
Думаю, вы неправильно поняли, что собой представляет эта технодемка, но я всё же отвечу на то, что, как мне кажется, вас волнует, — что ИИ-инструменты обесценивают навыки программистов, художников и дизайнеров.
Мои первые игры создавались вручную: я сам собирал машинный код и превращал персонажей, нарисованных на миллиметровке, в шестнадцатеричные числа. Сегодня всё это стало таким же устаревшим занятием, как обслуживание колёс у боевой колесницы.
Создание мощных инструментов — ключевой двигатель всего прогресса в компьютерной отрасли.
Игровые движки кардинально расширили круг людей, вовлечённых в разработку игр, хотя при этом и отодвинули на второй план ту самую системную инженерию, которую я всегда так ценил.
ИИ-инструменты помогут лучшим из лучших достичь ещё более впечатляющих высот, позволят небольшим командам делать гораздо больше и откроют путь в индустрию совершенно новым группам создателей.
Станет ли рабочих мест в игровой индустрии больше или меньше — вопрос открытый. Всё может пойти по пути сельского хозяйства, где технологии позволили сократить число работников до минимума, сохранив эффективность.
А может — по сценарию соцсетей, где креативное предпринимательство расцвело на всех уровнях. Но в любом случае стратегия «не использовать мощные инструменты, потому что они отнимают рабочие места» не сработает.
Джон Кармак.
Ранее Microsoft опубликовала техническую демонстрацию ИИ-версии игры Quake II, которая работает на базе нейросети Muse. Команда проекта обновила модель машинного обучения так, чтобы она могла генерировать картинку с большим разрешением и с большей скоростью.
Microsoft представила бесплатные курсы Microsoft AI Skills Fest по нейросетям и созданию ИИ-агентов, включая матеориалы на русском языке.
В рамках обучения предоставляются базовые основы и обучение работы с Azure и Copilot. Также на курсах обещают научить создавать ИИ-приложения, ИИ-агентов и применять ИИ в играх.
Глава платформы электронной коммерции Shopify Тобиас Литке опубликовал в соцсети X письмо сотрудникам, в котором рассказал, что использование ИИ стало базовым навыком в компании, который ожидается от каждого сотрудника вообще без исключения:
эффективное использование ИИ теперь является базовым ожиданием от каждого сотрудника Shopify. Сегодня это универсальный инструмент, важность которого будет только расти. Откровенно говоря, я не считаю возможным отказаться от изучения навыка применения ИИ в своей работе; вы можете попробовать, но я хочу честно сказать, что не вижу, как это может сработать сегодня, а тем более завтра. Стагнация практически неизбежна, а стагнация — это провал в замедленном режиме. Если вы не карабкаетесь вверх, вы скатываетесь вниз.
ИИ должен быть частью фазы прототипирования в любом GSD-проекте (аббревиатура GSD в данном контексте означает Get Stuff Done — философия фокуса на результат и эффективное выполнение задач). Фаза прототипирования любого GSD-проекта* должна включать активное исследование возможностей ИИ. Прототипы предназначены для обучения и создания информации. ИИ радикально ускоряет этот процесс. Вы можете научиться создавать то, что другие члены команды смогут посмотреть, использовать и оценить за долю времени, которое это занимало раньше.
мы добавим вопросы об использовании ИИ в наши опросники по оценке производительности и взаимной оценке коллег. Научиться хорошо использовать ИИ — неочевидный навык. Мне кажется, что многие сдаются после того, как написали запрос и не получили сразу идеальный результат. Важно научиться формулировать запросы и загружать контекст, и получение обратной связи от коллег о том, как это происходит, будет ценным.
обучение — это самостоятельный процесс, но делитесь тем, что вы узнали. У вас есть доступ к максимальному количеству передовых инструментов ИИ. У нас есть chat.shopify.io, который существует уже несколько лет. Разработчики имеют доступ к proxy, Copilot, Cursor, Claude code — всё настроено и готово к использованию. Мы будем учиться и адаптироваться вместе как команда. Мы будем делиться победами (и поражениями!) друг с другом, экспериментируя с новыми возможностями ИИ, и будем уделять время интеграции ИИ в наших ежемесячных бизнес-обзорах и циклах разработки продуктов. В Slack и Vault есть много мест, где люди делятся разработанными запросами, например #revenue-ai-use-cases и #ai-centaurs.
прежде чем запрашивать увеличение штата и ресурсов, команды должны продемонстрировать, почему они не могут выполнить желаемое с помощью ИИ. Как бы выглядела эта область, если бы автономные ИИ-агенты уже были частью команды? Этот вопрос может привести к действительно интересным обсуждениям и проектам.
все значит все. Это относится ко всем нам — включая меня и руководящую команду.
Как выбрать языковую модель для семантического поиска
Для сопоставления смысла запроса пользователя и смысла чанка в базе знаний нужна языковая модель, которая понимает семантику.
Bi-Encoder — состоит из двух трансформеров encoder-only. С помощью passage-encoder получаются эмбеддинги для всех чанков в базе знаний. Запрос от пользователя кодируется с помощью query-encoder. На этапе поиска высчитывается косинусное расстояние между query-embedding и passage-embedding. Мы получаем поисковую выдачу после ранжирования всех пассажей по убыванию косинусного расстояния. В отличие от следующей архитектуры Cross-Encoder, можно заранее сохранить эмбеддинги для пассажей и использовать их для подсчета расстояния.
Cross-Encoder — трансформер с архитектурой encoder-only и ранжирующим слоем. Этот слой выдает оценку релевантности запроса к пассажу. На вход подается двойка: запрос и пассаж. Cross-Encoder лучше понимает семантическую связь между пассажем и запросом, но для каждого пользовательского запроса он работает медленнее, так как для оценки релевантности запроса и пассажей, cross-encoder нужно запустить N раз, где N — количество пассажей.
Мы будем использовать Bi-Encoder, так как у нас много пассажей в базе знаний.
Для выбора модели удобно использовать открытый бенчмарк MTEB с рейтингом по различным моделям в зависимости от вашей задачи. Для нас лучшей оказалась модель multilingual-e5-large, Bi-Encoder c 560M параметров и размером эмбеддингов в 1024 элемента.
Инженер по разработке ПО искусственного интеллекта Павел Яковлев максимально подробно рассказал в статье, как его команда разрабатывает и оптимизирует семантический поиск по сложным документам: PDF, HTML и DOCX.
MTS AI выпустила Kodify 2 — второе поколение ИИ-ассистента для разработчиков:
7 млрд параметров,
контекст до 32 тыс. токенов,
поддержка 90 языков программирования,
OpenAI-совместимый API для простой интеграции с другими системами.
В отличие от первого поколения Kodify, использующегося c 2024 года лишь в компаниях, входящих в ПАО «МТС», Kodify 2 станет доступен внешним заказчикам.
Новый ИИ-ассистент содержит весь основной функционал для автоматизации и ускорения процесса разработки, включая автодополнение кода, исправление ошибок, генерацию тестов и документации, оптимизацию кода для улучшения производительности, а также преобразование текста в код.
Подробнее на сайте разработчика. Демо на Java и Python здесь.
«Три генеральных директора Microsoft входят в комнату...» — написал Сатья Наделла, — «и их интервьюирует Copilot!»
В рамках празднования 50-летия Microsoft, генеральный директор Microsoft Наделла присоединился к бывшим генеральным директорам Microsoft Биллу Гейтсу и Стиву Балмеру в забавном двухминутном видео, в котором Наделла просит Copilot «прожарить» каждого из них с помощью ИИ.
«Хорошо, Сатья», — отвечает Copilotт. «Давай добавим перца...».
Copilot: Стив, начнем с тебя. Твой энтузиазм легендарен. Но ты когда-нибудь беспокоился, что твоя энергия может закоротить ИИ? Я имею в виду, даже роботам нужен перерыв на кофе после твоих зажигательных речей.
Стив Балмер: Давай, чувак! Если ты не можешь справиться со мной, ты не сможешь справиться с огромным процентом населения мира! Мы рассчитываем на тебя!
Copilot: Ха-ха, справедливое замечание, Стив. Теперь, Билл, у тебя этот фирменный вдумчивый взгляд. Но ты когда-нибудь думал, что ИИ может испугаться твоего напряженного, думающего лица? Я имею в виду, он как будто ждет момента синего экрана.
Билл Гейтс: Я надеюсь на это. Я имею в виду, что это все, что у меня осталось, поскольку ИИ становятся такими чертовски умными. Именно этот взгляд и моя готовность критиковать отличают меня.
Copilot: И это действительно грозный взгляд, Билл.
Стив Балмер: Copilot, ты когда-нибудь был бы готов критиковать его?
Copilot: Безусловно. Критика — это то, где происходит рост. Теперь, Сатья, ИИ, похоже, твой лучший друг — но ты когда-нибудь беспокоился, что твоя глубокая страсть к ИИ может однажды заставить его управлять шоу, оставив тебя просто наслаждаться поездкой?
Сатья Наделла: Что ж, в тот день, когда ИИ сможет играть как лучший игрок в крикет, который мне нравится, в тот день он сможет управлять шоу, насколько я могу судить.
Copilot: Туше, Сатья. Посмотрим, сможет ли он достичь столетия в крикете, а потом поговорим.
Это был взрыв, джентльмены. За еще 50 лет инноваций и приключений. Ура.
Балмер, Наделла и Гейтс: Ура.
Билл Гейтс: Что бы это ни значило для ИИ. Он случайно не выпивши?
🤖 LLM-агенты: какие фреймворки использовать и зачем?
Если вы интересовались темой LLM-агентов, то вот краткий гид по популярным решениям — что выбрать и когда.
🔹 Что это? Фреймворк от Microsoft для создания мультиагентных систем, где агенты взаимодействуют в диалоговом режиме для совместного решения сложных задач.
🔹 Когда использовать?
✔ Нужно смоделировать команду агентов (например, менеджер + разработчик)
✔Требуется гибкая настройка взаимодействия между агентами для продакшена.
✔Ищете масштабируемое решение для корпоративных задач.
🧠 CrewAI
🔹 Что это? Лёгкая библиотека для быстрой организации «экипажа» агентов, каждый из которых выполняет свою роль в цепочке обработки задачи.
🔹 Когда использовать?
✔ Нужно быстро собрать прототип, где агенты передают задачи друг другу (например, планирование → сбор данных → кодирование).
✔ Подходит для демонстраций и небольших проектов, где важна слаженность работы «команды».
🧠 LangGraph / LangChain Agents
🔹 Что это?Мощные фреймворки, позволяющие создавать сложные цепочки обработки информации с интеграцией LLM, внешних API, баз данных и прочих инструментов.
🔹 Когда использовать?
✔ Строите продакшен-решение с множеством этапов и компонентами.
✔ Требуется интеграция с внешними сервисами, хранение состояний, сложная логика обработки.
✔ Готовы инвестировать время в изучение более сложного, но гибкого инструментария.
🔹 Что это?Минималистичный инструмент для создания одного или нескольких LLM-агентов без лишнего оверхеда, идеально подходит для экспериментов и небольших проектов.
🔹 Когда использовать?
✔ Хотите разобраться в принципах работы LLM-агентов без сложных зависимостей.
✔ Планируете pet-проект или прототип с акцентом на простоту и понятность.
✔ Ищете быстрый способ автоматизации рутинных задач с помощью ИИ.
Скоро на хабре расскажу вам подробнее о том, что есть SmolAgents и с чем это едят!
Хотели бы узнать про другие фреймворки? К слову все они уже ждут, когда вы интегрируете их с новинкой!
Очень интересный прогноз и сценарное планирование от вполне себе компетентных людей AI 2027 Рекомендую прочесть.
Согласно их прогнозу, к 2027 году ИИ достигнет уровня, позволяющего автоматизировать исследования в области ИИ, что приведет к созданию искусственного сверхинтеллекта к концу 2027 года.
🔥 Meta представляет Llama 4: ИИ-модель с гигантским контекстом и мультимодальными возможностями! 🔥
🌟Горячие модельки вышли из печки Meta и даже успели релизнуться веса на hugging face , правда модель здоровяк Behemoth ещё находится в обучении
Что тут у нас по модели? 👇
🚀Llama 4 Scout:
📊 17B активных параметров и MoE с 16 экспертами.
🔑 Контекст — 10 миллионов токенов (это прям рекорды!).
💻 Запускается на одной GPU H100 — да, так, по-настоящему круто!
👑Llama 4 Maverick:
📊 17B активных параметров и на 128 экспертов,
🔍как заявляет компания модель примерно как GPT-4o и даже ссылоку на LLM arena не забыли оставить!
Моделька сейчас на 2 месте!!
💥Llama 4 Behemoth: Самый
📊большой тяжеловес на 288B активных параметров на 16 экспертов.
Пока в обучении, но очень ждем!
Слежу для вас за обновлениями! Как впечатления от релиза?✨