Искусственный интеллект

Ни для кого не секрет, что люди часто халатно относятся к ИИ и доверяют ему излишне.

Представьте: вы покупаете камеру видеонаблюдения, а в её прошивке находится административный токен доступа к сотням репозиториев GitHub производителя. Или вы решаете сделать проект или написать статью по академической работе, а эта работа оказывается нейрослопом.

Люди пытаются бороться с этим — кое-где закрывают баг-баунти-программы, где-то PR, сгенерированные ИИ, не принимают.

В этой статье я хочу рассказать о ситуациях, связанных с халатностью разработчиков, атаками агентов и кризисом доверия. А также попробуем выяснить: это отдельные ошибки или уже системный сбой?

Начнем с простого. Вы скачали нейросеть, и теперь у вас на диске лежит файл на несколько гигабайт, внутри которого миллиарды чисел. Этот файл можно запустить и он будет делать всякие осмысленные штуки: писать текст, отличать котов от собак на фотографиях, переводить с китайского. То есть перед нами работающая программа. Только исходного кода к ней нет, и никогда не было.

Дальше в статье мы разберем идею, которая из этого же наблюдения и выросла. Она звучит так: а давайте напишем компилятор, который берет понятную человеку программу и превращает ее прямо в веса нейросети.

Звучит странно. Но чтобы понять, зачем это нужно и почему это красиво, придется сначала заглянуть в обычные компиляторы и немного в азы ИИ. Без них дальше будет непонятно.

25 июля британский AI Security Institute запустил очередную проверку киберспособностей передовых моделей. Через три дня выяснилось, что один из агентов атакует не учебную мишень, а проект живого разработчика: подсунул туда вредоносный код под видом исправления бага, а когда правку заподозрили — завел фейковые аккаунты и изобразил ими поддержку сообщества.

У проекта есть работающий сайт: ortant.net. На нём 24 принятых исследования, десять досье банков, карта покрытия данных и раздел с методикой. Исследование можно не только прочитать, но и заказать: конструктор собирает вопрос из готовых блоков (банк, окно, фокус), система бесплатно показывает паспорт данных с ценой, и после подтверждения идёт прогон. Медиана прогона $0,132 и 12,8 минуты; результат открывается своей страницей.

У моего клиента пропущенные звонки берёт голосовой бот. Бот работал, заявки приходили, а я не мог ответить на простой вопрос: сколько стоит один звонок. Рассказываю, как у каждого звонка появился техпаспорт и ценник в рублях, что вскрыл первый живой прогон против зелёного стенда и почему проверка, которая не может упасть, хуже её отсутствия.

Мне было лень тестировать гипотезы руками. Я описал pipeline генерации гипотез текстом, попросил Gemini судить результат каждой попытки, отдал всё это агенту и лёг спать. Утром в логе было 40 проверенных гипотез — и стало ясно, что дело не в том, как рулить агентом, а в том, кто оценивает результат. Три моих кейса, подводные камни oracle и неудобный вопрос о том, что остаётся человеку.

Каждую неделю я собираю лучшие материалы на тему ИИ.

Лучшее за 24 июля - 2 августа 2026 года

Без долгих вступлений.

Начнем.

Здесь предыдущий выпуск.

Всем привет! Меня зовут Олег Джулаев, я автор Projecto.

Этот материал больше не о том, что классические блоги и инфосайты вымирают как класс, а о том, что с этим делать бизнесу и обычным пользователям. Сразу обозначу: никакой рекламы GEO/AEO и чего-то ещё в таком духе не будет. Просто взгляд со стороны – с высоты пройденного пути и опыта.

Веб как живой организм. Сеть постоянно меняется: сайты и сервисы адаптируются к потребностям пользователей, а сами пользователи вынуждены свыкаться с трендами и изменениями в сайтах или сервисах… Яндекс Музыке отдельный пламенный привет! Получается круговорот.

Для танго вроде нужны двое, но ИИ буквально всё изменил, поставив привычный ритм изменений с ног на голову. Это и не хорошо, и не плохо. Но имеем то, что имеем…

TL;DR

За последний год я собрал вайбкодингом не один десяток лендингов — для программ МФТИ, для своих проектов и на заказ. Разберу четыре самых показательных: Школу Техпреда, конференцию «Точка сборки», курс «ИИ Продакт-менеджмент» (aimipt.ru) и один свой, личный — на нём эффекты раскачаны сильнее всего.

У всех четырёх есть слой «дорогих» визуальных эффектов: интерактивная вода на WebGL-шейдере с освещением, 3D-логотип Физтеха из тысяч частиц-спрайтов, живая 3D-башня из кубов, облако частиц, которое морфит форму по скроллу.

К этому слою я пришёл двумя разными путями. На «Точке сборки» эффекты написаны руками на чистом WebGL — ноль анимационных библиотек. На остальных работает свой движок на Three.js: вынесен отдельными файлами, переиспользуется между сайтами и откатывается на 2D-canvas, если CDN не ответит.

Ниже — оба пути на реальном коде, цепочка инструментов от дизайн-системы до прода и грабли, на которые я наступил.

Я несколько месяцев измеряю, как ChatGPT, Perplexity, Алиса AQI и GigaChat называют бренды в своих ответах: прогоняю контрольные промпты и смотрю, кого модель упомянула, а кого — нет. За этими прогонами всплыла цифра, которая ломает привычную логику SEO, — и заставила меня поменять то, что я вообще отслеживаю у клиентов. Разбираю по порядку.

Семь наблюдений об ИИ-трансформации российского бизнеса

За последние месяцы мы провели две онлайн-конференции про внедрение ИИ в российский бизнес. 3 апреля — «ИИ-Трансформацию», с топами из X5, MWS AI, Skyeng, mymeet.ai и Data Monsters. 29 мая — «Точку сборки», вместе с кафедрой технологического предпринимательства МФТИ: выпускники кафедры, фаундеры, практики вроде Александра Горного и команды AgentArea. Суммарно — больше двадцати спикеров, около 1500 регистраций на обе конференции и средняя оценка эфиров выше 9 из 10 у аудитории.

Меня зовут Жемал Хамидун, я CPO AlpinaGPT, Head of AI Alpina Digital и автор тг-канала «Готовим ИИшницу».

Обычно с таких мероприятий уносят красивые тезисы и хайповые заголовки. Мне интереснее другое — что повторяется у разных спикеров из разных индустрий и в разных форматах. Совпадение у людей, которые друг друга не слышали, — самый честный сигнал, который вообще можно снять с конференции.

Я пересмотрел записи, свёл вопросы аудитории и результаты живых опросов на обеих конференциях. Ниже семь наблюдений, которые прозвучали у нескольких независимых спикеров сразу.

Сразу про жанр, чтобы не было обманутых ожиданий. Это не замер и не исследование. Это обзор того, что говорили практики на двух наших мероприятиях, плюс мой комментарий там, где мне есть что подтвердить или оспорить своим опытом. Записи конференций не публичные, поэтому цифры спикеров — это их цифры со сцены: методику расчёта в докладах почти никто не раскрывал, и дальше я помечаю это отдельно. Внешние исследования, наоборот, все со ссылками — их можно открыть и проверить.

Кстати, 16 сентября мы проводим вторую конференцию «ИИ-Трансформация» — программу как раз собираем. Регистрация бесплатная, через нашего чат-бота: зарегистрироваться. В том же боте лежат записи первой конференции и полные саммари всех семи трендов, о которых я расскажу дальше — можно посмотреть уже сейчас, чтобы не читать материал вслепую.

Компания Cursor выложила в опенсорс Mixture-of-Kittens (MoK) — "мегаядро" для обучения MoE-моделей на стойках Nvidia GB300 NVL72. Вся пересылка данных между 72 видеокартами и все вычисления MoE-слоя в нем выполняются одним гигантским GPU-ядром. По замерам самой компании, MoK работает до 2.37 раза быстрее лучших публичных решений, а в продакшене поднял сквозную скорость обучения на 41%: с 761 до 1070 токенов в секунду на видеокарту. На этом ядре Cursor уже обучает свою модель Composer на десятках тысяч GPU.

Любая гипотеза жива ровно до тех пор, пока о ней не спросят языковую модель в правильном настроении. Звучит как шутка. Но за последние недели эта шутка перестала быть шуткой трижды — и каждый раз по-разному эффектно.

1) Сначала чувак из Anthropic между таймами финала ЧМ опроверг гипотезу, которой было 87 лет — прямо в X. 2) Потом модель OpenAI закрыла проблему Эрдёша про расстояния на плоскости, 80 лет никто не мог. 3) А следом — доказательство полувековой гипотезы о двойном покрытии циклами в графах, добытое за час силами 64 параллельных субагентов. Если это совпадение, то очень организованное.

Короче, собираю всё в один текст — с разбором что вообще происходило, как выглядели твиты и доказательства, и почему у истории тревожный постскриптум - ту самую модель OpenAI, которая размотала Эрдёша, позже пришлось приостанавливать, потому что она слишком настойчиво вылезала из песочницы.

Далеко не новость, что поддержка популярного расширения прекратилась. Но кто мешает расширению Roo поддерживать самому себя. Решил это проверить и поправить заодно проблему с ripgrep. Проблем никаких почти не возникло, реализовал и починил все, что требовалось.

Починить ripgrep никаких проблем не составило.

Далее, добавил нового встроенного Агента 🎨 Image generator и настройки для подключения к sd api v1 и новый встроенный tool.

В старом tool не устроило использование только OpenRouter.

Последний раз я тут писал в 2010 году )). С тех пор многое изменилось и вся моя тогдашняя писанина теперь в чердаке. И заново ее публиковать не вижу смысла.

Если вы системный аналитик, то знакомы с ситуацией, когда приходит бизнес с очередной хотелкой. Начинаете задавать вопросы, получаете ответы, потом еще, и еще. Через несколько встреч у вас набор разных заметок, записок, писем, страниц в Confluence. Если используете современный подходи и используете Чат-бот - то и несколько чатов. А когда одновременно несколько проектов, то все это превращается в мешанину.

И вот, под девизом "Хватит это терпеть" с помощью ИИ-агента в IDE родилось приложение DocGen, или AI-ассистент системного аналитика.

Расскажу, как я сделал своего ассистента, с какими проблемами столкнулся и что получилось.

Большие языковые модели становятся неотъемлемой частью современных информационных систем. Корпоративные помощники, RAG-приложения, AI-агенты, генерация программного кода, автоматизация документооборота – всё чаще именно LLM становятся основным интерфейсом взаимодействия пользователя с данными и сервисами компании.

Вместе с ростом популярности меняется и профиль угроз. Если ещё несколько лет назад основной задачей злоумышленника был поиск уязвимости в веб-приложении или API, то сегодня достаточно правильно сформулировать запрос к языковой модели. Причём целью может быть не получение конфиденциальной информации и даже не обход механизмов безопасности. Иногда гораздо выгоднее заставить модель выполнять заведомо ресурсоёмкую задачу, расходуя процессорное время, память и тысячи токенов.

Именно этой проблеме посвящена категория LLM10: Unbounded Consumption в рейтинге OWASP Top 10 for LLM Applications. В отличие от классических атак типа Prompt Injection или Data Leakage, здесь злоумышленник воздействует не на логику приложения, а на его вычислительные ресурсы. По сути, речь идёт об адаптации идеи Denial of Service (DoS) к эпохе генеративного искусственного интеллекта.

На первый взгляд может показаться, что защититься от подобных атак достаточно просто –  например, ограничить длину пользовательского запроса или максимальный размер ответа. Однако на практике современные атаки становятся значительно изощрённее. Они используют особенности работы больших языковых моделей: рекурсивные инструкции, экспоненциальный рост контекста, моделирование множества независимых агентов, комбинаторные задачи и другие приёмы, заставляющие модель выполнять непропорционально большой объём вычислений при внешне вполне безобидном запросе.

Три месяца я строил одну и ту же контент-машину для AI/tech-канала тремя способами: вручную с ChatGPT, в n8n и на Python через Claude Code. В статье — архитектура из трёх пайплайнов, реальные тайминги из production-логов, миграция с SubMagic на собственный постпроцесс за один день и практический чек-лист, который поможет выбрать между ассистентом, визуальным конструктором и собственным ИИ-агентом.

Всемирная организация сотрудничества в сфере искусственного интеллекта, по-английски WAICO или полностью World Artificial Intelligence Cooperation Organization была создана 16 июля 2026 года в 20:00 в городе Шанхай в Китае.

Всё написанное ниже — личный взгляд участника процесса, а не официальная позиция какой-либо структуры.

Привет, на связи Рома Миронов из Авито. Я бывший — хотя бывших не бывает — фронтендер, а сейчас тим- и техлид. Ковыряю AI и больше ничем не занимаюсь — кроме команды, конечно :) В этой статье расскажу, почему фронтенд пока не умер, какие задачи уже можно отдавать агентам, где они красиво ошибаются и почему сначала от AI становится больнее, а не легче.

Привет! Мы уже знакомы — меня зовут Александр Баулин. На этот раз я решил разобраться, почему Nvidia до сих пор владеет большей частью рынка чипов для обучения и инференса AI‑моделей.

Наше время принято называть эпохой веб‑сервисов, когда главную прибыль получают разработчики соцсетей, интернет‑магазинов и корпоративных веб‑сервисов. Тогда почему самая дорогая компании мира — Nvidia, живущая на продажах железа? В этой статье я разбирался, за счет чего Nvidia остается «главным продавцом лопат» для AI и кто может потеснить ее на рынке.