Искусственный интеллект

Что делать, если нейросеть из 2500 слоёв выглядит как чёрный ящик, а привычные методы анализа не помогают? В статье разбираем, как по весам и структуре модели удалось восстановить скрытую программу, распознать MD5 и дойти до ответа через механистическую интерпретируемость, SAT и несколько тупиковых гипотез.

В воскресенье, 16 августа, в одной из пекинских пожарных частей прошел финал аварийно-спасательной дисциплины вторых Всемирных игр гуманоидных роботов (WHRG). Год назад роботы на первых играх бегали, танцевали и играли в футбол в декорациях, теперь их впервые вывели на настоящую площадку — с настоящим огнем, настоящими пожарными и, как выяснилось, настоящим дождем. Из двенадцати команд, стартовавших в тот день, до конца испытания дошли только три.

ИИ‑чаты стали рабочим инструментом наравне с почтой — а вместе с ними появился новый канал утечек, которого три года назад не существовало. Договоры, резюме, пароли и клиентские данные уезжают на чужие серверы не через взлом, а через обычное поле ввода. Блокировать доступ пробовали многие — люди просто уходят на личные устройства, и риск становится невидимым.

Мы решили задачу иначе: расширение для браузера в Chrome Web Store, которое перед отправкой заменяет чувствительные данные обезличенными метками, а ответ ИИ расшифровывает обратно — прямо на экране, незаметно для человека.

В статье расскажу, какие подходы мы перепробовали и почему они не сработали, как выглядит путь пользователя и что у решения под капотом — от контрольных сумм до локального распознавания сканов.

Привет, на связи команда Яндекс Практикума. Приёмная кампания в онлайн-магистратуру «Управление продуктом в цифровом бизнесе» ИТМО в партнёрстве с Практикумом вот-вот закончится: 28 августа — последний день приёма документов. Но вы ещё успеете поступить, в статье расскажем, как это сделать и что входит в программу.

Пока LLM-индустрия наращивает масштабы дата-центров и обучающих датасетов, всё чаще возникает вопрос, а что дальше? Энергия, знания, деньги не бесконечны. Что будет, когда что-то из них кончится? 

Топы надеются на AGI, который, внезапно появившись из тераваттов и петабайтов, решит все проблемы и ответит на все вопросы. К сожалению, есть сомнения в столь чудесном событии.

Проблема в том, что нет предпосылок, что AGI появится в текущей архитектуре. Потому что горизонт не расширяется изнутри вычислимой системы, нужен внешний источник, невыводимый из состояния. Поэтому всё чаще исследователи пытаются найти нужное направление поиска в философии. 

Эта статья о том, поможет ли философия, а если нет, то кто?

Привет! Меня зовут Саша Журавлев. Я венчурный инвестор и основатель фонда Mento VC. Мы инвестируем в технологические компании на стадиях Seed / Series A в США, а в своем телеграм-канале рассказываю, как вижу рынок и принимаю инвестиционные решения.

Введение. Парадокс современных технологий

Прошло четыре месяца с момента выхода в свет моей книги «Живое слово от истоков до современности. Этимология русского языка на основе методов системного анализа». Пятое издание. Книга-анонс.» У части моих друзей, знакомых с искусственным интеллектом (ИИ), нейронными сетями появились вопросы по комментариям ИИ в отношении книги. Это важный вопрос, поэтому подготовил данный материал.

Но начну по порядку: когда я писал книгу «Живое слово от истоков до современности», исходил из того, что главный читатель — это живой человек, готовый размышлять и проверять факты. Однако после публикации столкнулся с неожиданным эффектом: оказывается между мной и читателями имеются иные действующие лица и критики в виде ИИ.

Современные большие языковые модели (LLM) — такие как ChatGPT, Gemini или DeepSeek и другие — обладают колоссальной вычислительной мощностью. Однако продвинутые студенты, преподаватели и исследователи, пытающиеся проанализировать с их помощью мою книгу «Живое слово от истоков до современности», сталкиваются с разочаровывающим парадоксом.

Вместо глубокого анализа алгоритмы ИИ часто выдают шаблонный ответ: «это фолк-лингвистика», «альтернативная этимология», «не признаётся академической наукой» и т.д. Интерес к исследованию угасает, так и не начавшись.

Почему так происходит, как устроен цифровой барьер между ИИ и новыми научными идеями, и как заставить нейросеть работать с максимальной квалификацией? Это важно и является общим не только применительно к моей теме.

Недавно я читала материалы о сжатии данных, и меня внезапно озарила безумная мысль: по сути своей, алгоритмы сжатия и LLM предназначены для решения одной и той же задачи.

В этом посте я познакомлю вас с основами сжатия, чтобы вы могли понять его глубокую связь с моделированием языка. Возможно, вас это изумит.

Один хакер полтора часа исследовал поддельный Bitrix-сервер: нашёл конфигурацию, извлёк ложные учётные данные базы, попытался выгрузить таблицы и записать PHP-файл.

Другой клиент отправил в открытый Ollama-compatible API 27 тысяч реальных задач. Самый большой промпт содержал 919 тысяч символов. Модели за API при этом не было.

Я три месяца наблюдал за двумя среднеинтерактивными ханипотами — традиционным SCADA/Bitrix-стендом и поддельным AI gateway. В статье разбираю 2,5 млн событий Cowrie, стотысячный MySQL password spray, 183 сохранённых payload, массовую эксплуатацию AI API и MCP-разведку.

14 августа 2026 года, 15:00 UTC.

CEO Anthropic Дарио Амодей срочно созвал заседание. Экс-глава Apple Тим Кук пожалел, что встроил в айфоны облачную Gemini, так и не дождавшись локальной модели нужного уровня. Где-то в датацентрах Alibaba щёлкнул рубильник, на Hugging Face слетел обратный отсчёт, и в мир вышла Qwen3.8-27B – новая dense-модель на 27 миллиардов параметров, которую даже прозвали «локальным Opus’ом», поскольку она позиционируется как одно из самых мощных открытых решений для локальной генерации.

Ждали её всем миром: обратный отсчёт на huggingface, первые пиксельные пеликаны на великах – всё как положено.

Если вкратце, это открытая (Apache 2.0) мультимодальная модель, которая понимает текст, картинки и видео, влезает в одну ооочень мощную домашнюю видеокарту, а временами по бенчмаркам обгоняет закрытые облачные модели уровня Claude Opus 4.6.

Если не вкратце – читайте дальше, потому что там есть и триумф, и зависания на 49 минут раздумий!

Самое опасное в больших языковых моделях — то, насколько легко с ними можно что-нибудь сделать. Вернее, даже не так: прототип продукта с LLM сделать удивительно легко, а вот хорошее приложение на его основе — удивительно трудно. Именно об этот подводный камень и спотыкаются большинство разработчиков на этапе перехода от минимально работоспособной модели к созданию полноценного продукта. Причина, на самом деле, банальна: между «смотрите, я за вечер навайбкодил работающего чат-бота» и «этим ботом ежедневно пользуются десять тысяч человек» лежит примерно такая же пропасть, как между собранным в гараже прототипом карта из водопроводных труб с мотором от триммера и гоночным болидом «Формулы-1».

Именно эта проблема рассматривается в книге Сухаса Пая «Разработка приложений на базе больших языковых моделей. Целостный подход к LLM», вышедшей недавно в издательстве «БХВ».

Как современные LLM получают разные настройки reasoning effort: системные промпты, SFT, RLVR, штрафы за длину, reasoning budgets и on-policy-дистилляция. Разбираем DeepSeek V4, Nemotron 3 Ultra, Kimi K2.5 и K3, GLM-5, Qwen3 и Inkling.

У меня есть RAG‑сервис: проверяет фактологические утверждения в бизнес‑отчётах против реальных источников — SEC EDGAR, World Bank, FRED, Wikipedia. Это капстоун LLM Zoomcamp (DataTalksClub). Курс закончился, оценку поставили (peer review, 42/42), а я решил дотянуть проект до состояния «не стыдно показать на собеседовании как рабочий код», а не просто «закрыл критерии оценки курса».

Garmin записывает почти всё: сон, HRV, стресс, Body Battery, пульс на тренировке, каждый подход в зале. ChatGPT ничего этого не видит. Чтобы спросить у него, как прошла неделя, нужно было сначала открыть Garmin Connect, переписать цифры руками и вставить их в чат.

Один вечер, один скрипт. Забрать сон и HRV за сегодня, сложить в файл. Никакой архитектуры, просто раздражение от того, что данные есть, а спросить их некому.

Сейчас это открытый пайплайн: локальный кэш, агентный Telegram-бот, локальная модель на Ollama, веб-мастер настройки, Windows-дистрибутив и заявка на акселератор Sber500. По пути пришлось несколько раз пересобрать саму задачу.

Привет, Хабр!

17 сентября 2026 года в Москве и онлайн пройдет AI R&D DAY. Это конференция для исследователей, ML‑инженеров, AI‑архитекторов, руководителей R&D‑команд и специалистов, которые превращают экспериментальные разработки в работающие продукты.

Один из фокусов конференции — NextGenAI, проект команды R&D SberAI, посвященный технологиям следующего поколения. Команда поделится результатами исследований, расскажет о развиваемых продуктах и представит технологические направления, над которыми работает сейчас.

В программе 22 доклада на двух сценах, панельная дискуссия, постерная сессия и выставка. Участие бесплатное.

Привет, на связи команда GigaChain! Мы занимаемся агентными системами и развиваем набор open source-решений для подключения агентов к GigaChat API.

LangChain развивается с 2022 года и выросла в одну из самых популярных экосистем для агентов: у основной библиотеки более 140 тысяч звёзд на GitHub. Благодаря LangGraph — движку, который исполняет агента как граф с состоянием, — с её помощью собирают и простые цепочки вызовов, и сложные автономные агенты, ведущие задачу на сотни шагов. Поверх этого стека команда LangChain выпустила Deep Agents — готовую агентную обвязку (agent harness): рабочую среду с файловой системой, оболочкой, планировщиком, субагентами и памятью, в которую остаётся лишь поместить модель.

Сегодня мы подробно разберём эту обвязку: из чего она состоит и как собрать на ней агента, работающего на GigaChat.

Если посмотреть на главные тренды EdTech в 2026 году, будущее образования выглядит почти неприлично удобным: искусственный интеллект создаёт учебный контент на лету, подбирает персональную траекторию, отвечает на вопросы в любое время суток и терпеливо объясняет одно и то же столько раз, сколько потребуется;¹ длинные курсы распадаются на короткие модули, которые можно проходить между двумя созвонами, по дороге на работу или буквально внутри рабочего процесса;² симуляции позволяют тренировать навыки без риска испортить отношения с живым клиентом, а компании наконец получают возможность не просто отправлять сотрудников учиться, но оценивать их компетенции, видеть дефициты, собирать индивидуальные планы развития и измерять результат.²³

Всё это звучит разумно — особенно если помнить, каким мучительным, дорогим и часто бессмысленным было корпоративное обучение ещё совсем недавно. Сотню очень разных людей сажали в один зал перед одним преподавателем, выдавали одинаковую программу и потом искренне удивлялись: почему половина участников проверяет почту, вторая половина мысленно решает рабочие задачи, а применять полученные знания не собирается вообще никто. На этом фоне персонализация, микрообучение, AI-тьюторы и обучение в рабочем потоке выглядят не очередной технологической модой, а долгожданным возвращением здравого смысла: человек получает именно то знание, которое ему нужно, именно тогда, когда оно понадобилось, и в форме, которую он способен воспринять.

Проблема в другом. Почти все разговоры о будущем EdTech начинаются с возможностей технологии и заканчиваются ими же — как будто по ту сторону интерфейса находится не живой человек со своим опытом, страхом, усталостью, гордостью и конечным запасом внимания, а достаточно исправный приёмник образовательного контента, которому прежде просто неправильно подбирали частоту. Мы обсуждаем, как сделать обучение доступнее и точнее. И значительно реже задаёмся вопросом, почему взрослый человек вообще должен хотеть бесконечно учиться — и сколько раз за одну профессиональную жизнь он способен без серьёзных потерь пересобрать самого себя.

Привет Хабр! На связи Вика Чекалина из команды «Мультимодальный ИИ» AIRI. Сегодня мы поговорим о том, как выкручиваться, когда вычислительных ресурсов мало и для деплоя необходимо сжать LLM, но так, чтобы потеря в качестве была минимальной. Логично, что нужно использовать дополнительную информацию — например, матрицу Фишера (FIM), которая содержит в себе информацию о важности и взаимодействии параметров модели. 

Но FIM реальных LLM слоев просто огромные, и работать с ними напрямую вычислительно тяжело или просто невозможно. Люди придумывают различные упрощения: например, можно отталкиваться от предположения, что матрица Фишера диагональна — это сильно сокращает объём памяти, однако корреляция между различными параметрами слоя теряется навсегда. Мы решили не идти на такие компромиссы и придумали метод, который быстро и легко позволяет параметризировать полную недиагональную матрицу Фишера без потери информации о корреляции.

14 августа Anthropic опубликовала второй Risk Report — 186 страниц о том, насколько опасны ее собственные модели. В разделе с будничным названием «Заметки о невыпущенных моделях» компания между делом сообщила: внутри работает модель под кодовым именем Model 2. Она сильнее Claude Mythos 5 — самой мощной модели, к которой Anthropic вообще кого‑либо подпускает; ею пишут код и генерируют данные; выпускать ее не планируют. Axios подал эту строчку как главную новость отчета. Но если дочитать документ, новость там другая — и куда менее уютная.

В последние недели собрал и протестировал 15 пользовательских ¹ моделей (CM). Не претендую на полноту изучения опции, но надеюсь, что кому-то мой опыт сэкономит время. Основной вопрос: как на поведение модели влияют материал для тренировки (DS), стили, Lyrics и параметры.

¹ идея витала в воздухе, как только народ услышал генерации очень похожие на известных артистов. В Udio/ Suno требовались танцы с бубном, в Sonauto (ныне Treblo) достаточно было ввести имя в промпт. В конце 2024 г. один проф. певец задал мне вопрос: "Как генерить с моим голосом и манерой?". Сделал его RVC-модель, он: "Тембр точно мой, но манера не везде", а с DS для Suno v3.5: "... похоже, и тембр, и манера. А можно, чтобы вообще как я и чистый звук?" Ответ: "Нужна ваша собственная модель".

Кажется, первыми CM предложили Mureka (Personalized Model): DS из 100+ треков (до 4 мин.), разовый платеж $100-200, тренировка ~3 ч. (сам не пробовал). Zaptrem (основатель Sonauto) на запрос о CM ответил, что не раньше v3. Локальные/ "открытые" инструменты я не смотрел (в своё время помучился с RVC на Google Colab и HuggingFace), но … как-нибудь попробую.

Во всех экспериментах с муз. ИИ меня интересовало 2 момента: а) как это устроено; б) как облагородить свои треки — придать правильное и "живое" звучание. Я не профессионал, но мне не нужно, чтобы ИИ за меня сочинял. Думаю, композитору важно самому отвечать за каждую ноту. Хотя можно и так: "Сгенери в моём стиле, а я выберу".

"Наевшись" вариативности с Persona, Your Voice, да и вообще с генерацией в Suno, я решил тестировать CM сразу на ярком материале. У меня не было и нет планов создавать несуществующие песни знаменитостей ², но с DS из треков известных певцов поведение CM (похоже/ непохоже) должно быть очевидным для многих. Suno не работает с хитами, но пропускает генерации от Sonauto/ Treblo, т.к. мелодия и текст другие. Треки очень близки к реальным артистам — если не фанат, решишь, что просто не слышал эту песню.