Машинное обучение *

Разобрал репозиторий gstack от Гэрри Тана, CEO Y Combinator. Про критику от комьюнити писать не буду. Это в точности тот же спор который идёт вокруг любого репозитория с конфигами агентов. «Это просто промпты» — технически верно. Но ценность не в промптах, а в ролевой модели и порядке вызовов. Точнее всего описать репу так: структура инженерной организации как принцип проектирования, а не один агент на всё.

Что это такое, собственно:

gstack превращает Claude Code в виртуальную инженерную команду которой ты реально управляешь: CEO который переосмысливает продукт, инженерный менеджер который фиксирует архитектуру, дизайнер который ловит ИИ-шлак, параноидальный ревьюер который находит баги в продакшне, QA-лид который открывает настоящий браузер и кликает по приложению, и релиз-инженер который шипит PR. Тринадцать специалистов, все как слэш-команды, всё в Markdown, MIT-лицензия.

Ключевое отличие от других репозиториев: здесь не просто субагенты под задачи, а роли с разными когнитивными режимами. Один агент не делает всё сразу.

Что применимо для контентных агентов

Гэрри Тан не сделал одного агента «напиши код». Он разделил процесс на роли с разными углами зрения: стратег, исполнитель, ревьюер, контролёр качества. Для контентных агентов это, чисто теоретически, можно интерпретировать так:

/plan-content по образцу /plan-ceo-review — переосмысляет тему перед написанием. Не «напиши статью про Kubernetes», а «какой угол здесь самый сильный, что аудитория хочет узнать, какой тезис будет неожиданным». Стратегический режим перед исполнением.

/review-editorial по образцу /review — находит нарушения редполитики которые проходят поверхностную проверку но выглядят плохо при публикации. Автофиксит запрещённые слова, показывает спорные утверждения без источников.

/qa-content по образцу /qa — проверяет финальный текст по чеклисту: факты атрибутированы, голос соответствует, структура соблюдена, нет клише, длина правильная для формата. Фиксит и перепроверяет.

/ship-content по образцу /ship — финальный прогон перед публикацией: проверка всех пунктов, генерация превью для разных платформ, архивирование в базу опубликованных материалов.

/retro-content по образцу /retro — еженедельный отчёт: сколько материалов вышло, какие форматы, какие темы, что залипло, что нет.

У меня система выстроена по-другому — агенты под задачи, субагенты с чистым контекстом, правила и скиллы — но тем интереснее смотреть на другие варианты архитектур.

P.S.: Редко выхожу с таким на Хабре, больше про агенты для контента в канале.

Представлен открытый проект AutoResearchClaw. Это доработанная под исследования версия агента OpenClaw, которая:

• детально анализирует идею пользователя и выдаёт готовый PDF‑документ с исследованием гипотезы;

• агент сам пишет код и все формулы, а также запускает тесты, исправляет ошибки;

• почти не имеет галлюцинаций;

• вся работа бота проходит 4-этапный процесс верификации по научным базам;

• умеет работать с LaTeX, чтобы создавать понятные и эффективные графики;

• сам агент бесплатный — нужен только API.

Для Claude представлен модуль антиплагиата Stop Slop, который убирает из текста все маркеры ИИ. Проект вырезает шаблонные фразы, лишний пафос и делает текст более живым. Можно использовать как в Claude Code, так и в веб‑версии, просто добавив SKILL.md в проект.

ИИ-помощник для анализа требований

В работе техпресейла значительная часть времени уходит на анализ требований клиентов — они часто приходят в виде больших опросников, которые нужно внимательно разобрать и прокомментировать.

Когда таких документов много и нужна оперативность, ручная обработка начинает замедлять работу команды. С этим регулярно сталкивалась команда техпресейла Naumen. Поэтому Настя и Даша, системные аналитики команды, решили попробовать автоматизировать часть процесса и внедрили ИИ-помощника для анализа требований.

Рассказываем, как они собирали данные, какие подходы пробовали и как в итоге пришли к решению на базе RAG.

1️⃣ Чем занимается техпресейл

Техпресейл — это мост между продуктом и продажей. Мы проводим технические демонстрации, обсуждаем требования клиента и помогаем понять, подходит ли продукт под его задачи.

Чаще всего работа техпресейла с клиентом начинается с опросника — Excel-документа с требованиями.

2️⃣ Почему Excel-файл оказался неудобным для анализа требований

Типичный опросник — это таблица с тремя колонками:

• требование клиента

• какой продукт соответствует

• комментарии

Иногда требований десятки или сотни — нужно внимательно прочитать, найти контекст в прошлых кейсах, вручную проверить формулировки и ссылки на источники. Даже опытный специалист тратит на такой документ около часа.

Когда таких задач много и у них срочные дедлайны, возрастает нагрузка на команду и появляются риски задержек. Поэтому мы решили автоматизировать процесс.

3️⃣ С чего мы начали автоматизацию

Сначала нужно было собрать данные. Поэтому первым шагом мы:

1. Собрали все опросники за год в единый массив.

2. Привели их к единому формату.

3. Классифицировали требования.

4. Проверили и почистили данные от дублей и неточностей.

В итоге получился датасет примерно из 2 000 требований, который стал основой нашей базы для тестирования ИИ-помощника.

4️⃣ Почему классические модели не сработали

Первой идеей было использовать классические методы анализа текста. Мы пробовали TF-IDF, Bag-of-Words и стандартные модели классификации.

Но столкнулись с двумя проблемами:

• низкое качество классификации

• дисбаланс данных

Большинство требований продукт действительно покрывал, поэтому модель быстро «научилась» отвечать одинаково. Стало понятно, что нужен другой подход.

5️⃣ Как мы пришли к RAG-подходу

Мы перешли к векторному поиску и трансформерам. Идея была в том, чтобы по новому требованию находить в базе знаний похожие требования и использовать их как контекст.

Получился умный поиск по нашим прошлым ответам. Но этого все равно было недостаточно: нужно было не только находить похожие требования, но и генерировать комментарий.

Так мы пришли к подходу RAG (Retrieval-Augmented Generation) — LLM сначала находит факты в базе знаний, а уже потом формирует ответ.

6️⃣ Как работает наш ассистент

Сервис работает в Telegram-боте и поддерживает два сценария.

Вопрос в чате — пользователь задает вопрос, бот ищет информацию в базе знаний и формирует ответ.

Загрузка Excel-файла — пользователь загружает файл с требованиями, после чего сервис проходит по каждой строке и автоматически заполняет:

• соответствие (да / нет / не знаю)

• комментарий с объяснением соответствия

7️⃣ Из чего состоит база знаний

Мы используем два источника:

• документацию по продуктам Naumen

• структурированные опросники из прошлых проектов

Документы разбиваются на небольшие смысловые фрагменты, для каждого фрагмента вычисляются эмбеддинги, после чего они сохраняются в векторной базе. Когда приходит новый запрос, система находит самые релевантные фрагменты и использует их как контекст для ответа.

8️⃣ Какие есть ограничения у ассистента

ИИ-ассистент помогает быстрее разбирать требования, но полностью заменить аналитика он пока не может.

Например, иногда клиенты присылают требования, которых еще нет в базе знаний. В таких случаях бот отвечает «не знаю», и требование разбирает специалист.

Также иногда встречается типичная проблема LLM — галлюцинации. Поэтому финальную проверку ответа все равно делает системный аналитик.

Anthropic представила исследование, которое показывает, что влияние ИИ на рынок труда пока значительно ниже его теоретического потенциала. В статье представлена новая метрика под названием observed exposure («наблюдаемое воздействие»). Она сравнивает теоретические возможности языковых моделей с реальными данными их использования, в данном случае на основе разговоров пользователей с чат-ботом Claude. Для анализа были объединены данные базы профессий O*NET, оценки того, какие задачи теоретически могут ускоряться с помощью ИИ, а также статистика фактического использования Claude в рабочих сценариях.

Результаты показали значительный разрыв между потенциалом и практикой. По оценкам исследователей, языковые модели теоретически способны ускорить выполнение 94% задач в компьютерных и математических профессиях. Однако на практике ИИ применяется лишь примерно в 33% таких задач. Большинство возможностей технологий остаётся нереализованным из-за ограничений самих моделей, юридических требований, необходимости человеческого контроля или сложной интеграции с профессиональными системами.

Исследование также выявило, какие профессии сейчас наиболее подвержены влиянию ИИ. На первом месте оказались программисты — около 75% их задач могут выполняться или ускоряться с помощью моделей. Далее следуют специалисты службы поддержки, операторы ввода данных и аналитики. В то же время примерно 30% работников практически не затронуты использованием ИИ: среди них повара, бармены, спасатели, механики и другие профессии, связанные с физическим трудом.

Компания Mistral AI представила большую языковую модель Leanstral. Это проект для разработки приложений с помощью вайб‑кодинга и оптимизированный для формальной верификации кода. Предполагается, что Leanstral может применяться для создания ИИ‑ассистентов, позволяющих не просто генерировать код, но и гарантировать отсутствие в нём ошибок.

Leanstral стала первой открытой моделью, поддерживающей язык программирования Lean 4 и связанный с ним инструментарий для проверки математических доказательств. Lean 4 предоставляет возможности для математического доказательства корректности кода и его соответствия спецификации, что в контексте вайб‑кодинга позволяет подтвердить, что сгенерированный ИИ‑моделью код делает именно то, что задумано.

Модель Leanstral охватывает 119 миллиардов параметров (6.5 млрд активируемых параметров на токен), учитывает контекст в 256 тысяч токенов и опубликована под лицензией Apache 2.0. Загружаемый архив с Leanstral занимает 121 ГБ и пригоден для использования на локальных системах. Для локального запуска могут применяться библиотеки vllm, transformers и SGLang.

Для оценки возможностей ИИ-моделей с учётом качества проведения формальной верификации кода и написания математических доказательств разработан новый набор тестов FLTEval. В проведённых тестах модель Leanstral обогнала существующие открытые модели Qwen3.5 397B‑A17B, Kimi‑K2.5 1T‑A32B и GLM5 744B‑A40B, показала сходные результаты с моделями Claude Haiku 4.5 и Claude Sonnet 4.6 от компании Anthropic, но отстала от модели Claude Opus 4.6. В частности, модель Opus набрала 39.6 баллов, а Leanstral — 21.9 при одном проходе и 31.9 при 16 проходах. При этом затраты при использовании Opus составили $1650, а Leanstral — $18 при одном проходе и $290 при 16 проходах. Модель Haiku набрала 23 балла при затратах $184, а модель Sonnet — 23.7 при затратах $549.

Делаем проактивного AI-агента.
Часть 3 — настраиваем OpenClaw, чтобы был полезным

«Вы не поднимаетесь до уровня своих целей. Вы падаете до уровня своих систем»

Это третья часть серии (первая — в чем идея, вторая — агент с нуля)

Теперь поговорим про OpenClaw — самый популярный на сегодня фреймворк для персональных AI-агентов

Архитектура моего OpenClaw

Агент живёт на сервере Railway, общается со мной через Telegram и Discord, работает через подписку Claude с Codex на подстраховке. Его поведение целиком определяется набором markdown-файлов — там и «SOUL», и память, и операционные инструкции.

Вот из чего состоит workspace моего агента

• SOUL.md — кто агент. Характер, стиль, границы. Его «душа».

• USER.md — кто я. Контекст, цели, паттерны, как со мной работать.

• AGENTS.md — правила поведения. Safety, тиеры действий, память, heartbeat, группы.

• MEMORY.md — долгосрочная память, кураторские заметки.

• HEARTBEAT.md — чеклист периодических проверок (календарь, почта, задачи).

• TOOLS.md — локальные заметки по инструментам.

Плюс memory/YYYY-MM-DD.md — ежедневные заметки, из которых потом дистиллируется MEMORY.md.

И skills/ — папка со скиллами (finances, ticktick, gmail, google-calendar и т.д.), каждый со своим SKILL.md.

По сути: SOUL + USER + AGENTS — это характер и инструкция, MEMORY — опыт, skills — его навыки.

Из коробки агент работает, но бесполезен без кастомизации. Ниже — проблемы, на которые я убил неделю, и их решения

⚡Проблема 1: Повышенная проактивность

По стандарту системные промпты OpenClaw звучат примерно так:

Don't ask permission. Just do it.

Это делает агента слишком самостоятельным — он может сломать себя без предупреждения.

Решение: я добавил несколько ограничений. Все важные изменения идут через localhost => GitHub, а не через его прод. На попытки изменить системные файлы агент теперь отвечает:

«Нет, это конфиг — мне запрещено его трогать. Если я накосячу с конфигом на Railway, всё упадёт в crash loop и только ты сможешь починить.»

Стандартная проблема без этого: агент что-то у себя меняет, и либо я этого не замечаю, либо он просто умирает, сломав что-то важное

⚡Проблема 2: Память — не только его храм, но и помойка

Механизм памяти в OpenClaw:

• MEMORY.md — долгосрочная память.

• memory/YYYY-MM-DD.md — ежедневные заметки.

• Встроенный хук session-memory — при завершении каждой сессии фреймворк автоматически сохраняет сырой лог разговора в memory/.

Проблема: если часто жать /new, за короткое время накапливается огромное количество raw JSON файлов, которые сыпятся в контекст при старте каждой сессии. Мои MD-файлы состояли из 299 строк, из которых полезных фактов — 5. Всё остальное — мусор метаданных. Дистиллированная версия уместилась бы в 10–15 строк.

При этом долгосрочная MEMORY.md — почти пустая. Инструкция «periodically review and update» была слишком размытой и ни разу не сработала.

Решение: явные правила дистилляции и регулярный перенос из дневных заметок в MEMORY.md с очисткой сырых логов

⚡Проблема 3: USER.md — главный файл, и он требует постоянного внимания

USER.md — это файл о вас. Чем лучше он описан, тем лучше агент работает. Моя структура:

• Basics — имя, возраст, таймзона, локация, язык

• Who — тип личности, суперсила, мотивация

• Background — опыт и ключевые достижения

• Values — что важно в жизни

• Current focus — чем занят сейчас (продукты, статусы)

• Finances — доход, расходы, цель

• Platforms — соцсети и каналы

• People — ключевые люди вокруг

• Schedule — режим дня

• Work style — как работает, что драйвит

• Patterns — слепые зоны и паттерны поведения

• Goals — текущие цели и метрики

• How Claw should interact — правила общения

Главный вывод 3 части

Workspace-файлы агента — это не «написал и забыл». Они дрифтуют, конфликтуют и устаревают точно так же, как код.

USER.md — особенно. Я и контекст вокруг меня меняются быстрее, чем я вспоминаю обновлять описание. Поэтому нужна периодическая ревизия — точно такая же, как ревизия кода.

Если кратко: персональный AI-агент — это не продукт, а процесс. Фреймворк даёт скелет, но без недели (минимум) кастомизации под себя он останется бесполезной игрушкой

Переходим полностью к тестам датасета COCO. День 4.

Пока Альтман рассуждает о бороздящих кораблях Вселенную и о моделях, которые будут после трансформеров, мы делаем. Такое вступление я придумал для статьи, когда мы закончим с экспериментами и доделаем пилот, а пока продолжу дневник обучения TAPe-модели. Комуинтересно: начало тут, здесь и там, а немного про методы TAPe (Теории активного восприятия) в области обработки информации — здесь.

Сначала протестировали эту же модель с тем же числом параметров на большом датасете COCO. Без оптимизации получили решение с точностью 60.59%, что является очень высоким для такой модели (невозможно высоким даже, такая модель по идее не должна сходиться и находить общее решение из количества параметров, но данные TAPe позволяют). Пока сложно сравнить с конкретной метрикой других моделей, потому что мы не строим рамки вокруг предмета, но находим конкретно центр объекта. Это проведем позже. 

Тренировка на процессоре как минимум не дольше, чем тренировка на видеокарте, поэтому мы ограничены только количеством данных на ОЗУ в TAPe‑формате — что не является ограничением в целом, можно весь датасет уместить одновременно там
Пока существуют несколько проблем:

• Количество ложных срабатываний (скорее симптом, но все же);

• Не самая лучшая классификационная точность (тоже в большой степени симптом);

• Неправильное центрирование объектов (немного ограничение детекции, но есть способы обойти);

• Размерность COCO;

Начали экспериментировать, чтобы найти решения, при этом также экспериментируем с несколькими предметами, с которыми ранее уже хотели провести эксперимент.

Конкретно:

Работа матрицы преобразования на данный момент времени немного линейная. Зависимости по большей части линейные (то есть, независимые друг от друга). Это не хорошо, по понятным причинам, но в тоже самое время это помогло перейти к пониманию одного факта: в найденном нами подходе, о котором писали выше, есть как раз нелинейная зависимость коэффициентов друг от друга. Эту связь нужно выстраивать вручную, в зависимости от градиентного спуска и deep learning, но в нашем случае связи по TAPe известны заранее,
Дополнительно начинаем вторую фазу создания решения, чтобы можно было захватывать объекты любого размера. Это должно привести к намного более точным ответам, при этом ускорив модель. 

Ну и решаем еще одну проблему: модель учится определять бэкграунд, но имеет сложности определять объекты со стороны классификации. То есть — большая часть тренировки потери идет в сторону тренировки хорошей точности в бэкграунд, что приводит к ложным срабатываниям, потому что текстуры на заднем плане превращаются для модели в что‑то напоминающие объект, пусть и с низкой точностью.

Дальше планируем продолжить работу с полным датасетом (используя 2% из него для быстрых тестов — это около 2400 изображений).

Андрей Карпаты представил проект US Job Market Visualizer, где можно узнать, когда ИИ заберёт определённую работу — это карта рисков автоматизации по 342 профессиям.

Автор проанализировал данные по рынку США: с требованиями к образованию работников, средней зарплате и обязанностям, превратив всё это в интерактивную карту. Чем больше блок, тем больше людей в профессии, а цвет показывает шанс остаться без работы по десятибалльной шкале.

Как мы ушли от всем известного способа градиентного спуска

Продолжаю дневник разработки «Суперраспознавалки» для демо/пилота. День третий. Основная задача: настроить TAPe‑модель на датасет типа COCO под задачу detection. Вторая — дать клиентам возможность добавлять собственные классы к уже существующим. Ну и далее, при необходимости, полная адаптация модели под конкретного заказчика. Поскольку у нас есть Теория активного восприятия с ее методами, на выходе заказчик должен получить кратную эффективность и кратную экономию ресурсов.

В первые два дня настраивали базовую струтуру сегментации, детекции и классификации. Модель решает задачи на обучении уже 115 тыс параметров — в отличии от YOLO, которой мало 2 млн + параметров.

Начало здесь

Второй день здесь

Про архитектуру TAPe+ML здесь

Тут сравнение трех десятков кодировок в задаче сегментации видео в DBSCAN (включая ViT, DINO) с TAPe

День 3

Сегодня занимаемся исправлением количества ложных срабатываний. Проблема ложных срабатываний в целом в том, что мы смотрим в первую очередь на текстуру изображения (из‑за особенностей методов TAPe). Поэтому приходится прибегать к менее‑обычным способам для обучения разделения между текстурой заднего плана (в каком‑либо виде, будь это снег, или трава) и текстурой самого объекта.

Сейчас эта проблема решается условно через определенные движения области сбора данных для выявления текстур, которые, возможно, не были найдены в области, расположенной стандартным способом (то есть начальным разбиением изображения на патчи). Это позволяет сильно уменьшить количество ложных срабатываний.

На данный момент времени около 220 объектов срабатывают без ложных срабатываний в целом. Проблема происходит только в изображениях с большим количеством маленьких деталей по типу гравия, или же травы, при этом не уменьшая общее количество правильных нахождений.

В целом, здесь помогают стандартные ML‑подходы по типу увеличения батчей, чтобы сгладить ошибки. Были эксперименты с проведением аугментаций, которые не привели к улучшению результатов: большая часть аугментаций просто повторяют уже существующие данные.

Также начали эксперименты с добавлением цветовых каналов. Однако проведенные эксперименты с цветами в простой схеме объединения features по каналам не дало желаемых результатов: даже с greyscale мы забираем столько информации, что цветовая гамма по большей части их просто дублирует. Это приводит к тому, что модель опирается слишком сильно на общие черты, не «видя» при этом выдающиеся черты разницы цвета. Что в то же самое время может и являться хорошей фичей, а не багом, потому что через разницу в текстуре мы, по идее, должны найти разницу в любом случае (если это реальное изображение). Поэтому мы не полагаемся в решении на конкретную задачу, где цвет более релевантен, а полагаемся на общее решение детекции в целом.

Также на заднем плане были закончены эксперименты с разными архитектурами (эксперименты продолжались параллельно несколько дней). Нашли самую лучшую архитектуру на данный момент (самая логичная по её смыслу, как нам кажется). Тут без подробностей, но мы ушли от всем известного способа градиентного спуска, что позволяет нам после тренировки модели прийти к глобальному минимуму решения (или к чему‑то очень близкому к этому — всё равно есть зависимость от задачи).

Мы собираем данные из патчей определенным образом, объединяем их в общее описание, а затем уже классифицируем конкретно эти объединения по тому, есть там объект или его нет. Классификация происходит за счет общих описаний каждого класса, который модель видит — и не тренируется отдельно, потому что исходит натурально из первичной тренировки векторов, а затем сводится к одному описанию через k‑means.

В результате выходит модель с очень малым количеством ложных срабатываний — с которыми, впрочем, мы все равно боремся. Плюс есть некие проблемы центровки, так что скорее всего количество параметров увеличится. Но все равно, модель работает чрезвычайно быстро. Тренировка как таковая проходит на CPU (так проще).

Представлен открытый проект JobSync — Job Search Assistant для поиска работы с помощью ИИ:

• ИИ мониторит подходящие для вакансии, правит резюме и адаптирует под каждый отклик.

• мониторинг и трекинг вакансий: можно вести учет заявок, офферов, компаний, должностей и текущих статусов.

• анализ рынка труда делают, например, Llama 3.2 или Deepseek, можно подключить и другие модели с помощью Ollama.

• есть встроенный трекер задач и созвонов с рекрутерами.

• создаёт и корректирует различные версии резюме — сервис за секунду адаптирует портфолио под любую вакансию.

• работает полностью локально.

Генеральный директор стартап в сфере ИИ и разработки ПО Emergent Мукунд Джа предупредил о ключевых рисках для быстро набирающего популярность вайб-кодинга:

• главной угрозой остается качество создаваемого кода. По словам Джа, современные инструменты способны быстро генерировать приложения, однако такие решения часто оказываются нестабильными, содержат ошибки или плохо масштабируются. «Есть большая ставка на то, что качество создаваемого программного обеспечения будет экспоненциально расти. Если этого не произойдет, это станет серьезной угрозой», — отметил Джа;

• вторым риском для индустрии Джа назвал сам дальнейший прогресс ИИ. По мнению эксперта, развитие автономных ИИ-систем может привести к тому, что рынок «перепрыгнет» традиционный этап разработки приложений. «Мы прошли путь от телефонов Nokia к BlackBerry, а затем все перешли на iPhone. Возможно, программное обеспечение окажется тем самым BlackBerry», — сказал Джа. В будущем пользователи могут все чаще полагаться на ИИ-агентов и языковые модели, которые выполняют задачи напрямую, без необходимости устанавливать отдельные приложения.

День 2. 115 тыс параметров вместо 2 млн+ у YOLO

Продолжаю дневник разработки «Суперраспознавалки» для демо/пилота. Начало здесь.

Сегодня начали углубляться в сторону самой по себе классификации, а также немного выходить из темы универсальности решения, чтобы решать уже задачу detection, а не только общую сегментацию.

Интересный момент, найденный в экспериментах — благодаря TAPe получается использовать очень дешевые методы с тз ресурсов, при этом используя и методы ML. При этом все равно получаются очень хорошие результаты для этих методов.

Например, конкретно сейчас получается даже на более сложных примерах без проблем находить задний фон, используя при этом минимальные ресурсы и методы, которые на пикселях являлись релевантными 20 лет назад.

Разбиение происходит за 100+ кадров в секунду, без оптимизации, с обработкой каждого кадра отдельно (то есть есть также overhead выгрузки изображения на GPU).

Также пришло понимание, что нужно переходить к этапу дополнительных действий, чтобы отбирать интересные места. В целом по результату вышло, что количество ложных срабатываний в разы уменьшилось, но при этом количество правильных ответов тоже немного снизилось (на пару процентов, но заметно в любом случае, тем более у нас цель получить условные 100% на тестовых данных). Это происходит как раз таки из‑за того, что нет правильной последовательности действий (что, впрочем, нами ожидалось, просто не думали, что это так быстро произойдет).

Перешли к более адаптированной под TAPe логике. Пока очень топорным способом (так легче тренировать и проверять работу), но выходят очень хорошие результаты. По поводу данных немного скажу для контекста:

Разбиение следующее:

Classes: 4; labeled: 1256, train: 879, test: 377, miss images: 559

То есть, 4 класса, общее количество изображений объектов — 1256, из них в тренировку уходит 879, в тестирование — 377. Miss images — это изображения просто заднего фона, а также случайных объектов, не являющихся нужными объектами.

Для YOLO необходимо около 1500 изображений на один класс. Мы же успешно используем около 220 на класс + какие‑то изображения фона (которые есть только для травы и снега, например).

Результаты имеют точность определения того, где находится нужный объект (не её вид — это отдельный шаг) с точностью 98.94% (то есть правильно для 373 из 377 изображений). Ложные срабатывания ещё существуют, но их стремительно меньше.

Интересно, что модель «самостоятельно» находит правильно нужные объекты, даже если в тренировочных данных они не были обозначены (то есть тренировочные данные неправильные). Модели всё равно удаётся определить оба объекта, что показывает, что модель обучилась формам объектов успешно.

Чтобы добавить контекста — размер модели 115 тысяч параметров. Самая маленькая из современных YOLO же имеет 2+ млн параметров, и при этом не справляется с задачей.

Совершать опечатки в публикациях стало престижно — ошибки в сообщениях стали символом статуса и надёжности, пишет Business Insider. Причина — ИИ‑бум. Из‑за него идеальные тексты кажутся нейрослопом и неуважением к собеседнику. Тексты с ошибками, с маленькой буквы и странной пунктуацией — наоборот, говорят о том, что с вами общается живой человек, заинтересованный в диалоге. Фишку уже активно используют многие топ‑менеджеры — они специально пишут неидеально, потому что слишком вылизанный текст ассоциируется с использованием ИИ.

На конференции SNUG Silicon Valley 2026 встретил давнего приятеля, китайского американца, который последние десять лет работал в компаниях, занимающихся чипами для аппаратного ускорения искуственного интеллекта. На позиции инженера по верификации: SystemVerilog тестбенчи, UVM итд. Его мнение про область:

1. В области training никто не превзойдет NVidia.

2. В области inference слишком много компаний. Скоро произойдет лопание пузыря, примерно как с доткомами в 2000–2001 годы, и большинство из них вымрет.

3. Но парочка останется, как и лидеры типа Amazon и Google после дот‑ком пузыря. Они будут отличаться от NVidia тем что дешевле.

4. Особенно несладко придет компаниям, которые метались между тем на что нужно ставить — CNN, LLM, трансформеры, датацентры, автомобили, edge computing.

5. Его на работе нагибают на использование ИИ при писании кода — ведут учет потраченных токенов например. Он этого не любит и спросил меня, как к этому относятся у меня на работе.

Я ему сказал — у нас начальство относится рационально: «если вы находите в этом пользу — ок, если нет — не парьтесь». Тем более что на наших задачах ИИ плохо работает — у меня собственно была на эту статья и постер на конференции.

Товарищ сказал: «ну хорошо, если меня уволят за неиспользование ИИ, буду стучаться к вам».

Сейчас делаем пилот сразу для нескольких заказчиков. Рабочее название — «Суперраспознавалка» :))

Основная задача: настроить TAPe-модель на датасет типа COCO под задачу detection. Вторая — дать клиентам возможность добавлять собственные классы к уже существующим. Ну и далее, при необходимости, полная адаптация модели под конкретного заказчика. Поскольку у нас есть Теория активного восприятия с ее методами, на выходе заказчик должен получить кратную эффективность и кратную экономию ресурсов.

Задача интересная, поэтому буду вести дневник разработки, а потом подготовлю подробную статью.

Некоторые проекты — NDA, когда буквально нельзя указывать точное название объектов, которые нужно детектировать. Поэтому не обессудьте. Ноу‑хау по‑прежнему не собираемся раскрывать. Только результаты и часть пути к этим результатам.

День 1. TAPe и YOLO

Закончили с базовой структурой для сегментации, то есть с тем, как за один «ход» получать необходимый набор патчей, чтобы дальше расчёты шли параллельно (и оттуда же быстро), что также немного подводит ближе к самой логике действий здесь. Сейчас за одно действие получается определить все точно‑неинтересные места, а также все возможно‑интересные места (то есть, где есть детали в целом).

Что интересно сейчас в самом подходе — это то, что благодаря TAPe получается избежать проблемы других сегментационных моделей — а именно:

• Необходимость классификации буквально каждого пикселя (как поступают стандартные современные модели семантической сегментации);

Стандартные модели буквально классифицируют каждый пиксель (или каждый N‑ный пиксель, если сжимают разрешение) на отношение к тому или иному классу. 

• Необходимость проверять каждый шаг в какой‑то ограниченной сетке размером N на N (так делает конкретно YOLO)

YOLO обходит это использованием сил CNN, классифицируя только конечное количество патчей (зависит от версии YOLO, в первой их было 6400, что всё равно много). Методы TAPe же нам позволяют этого не делать, потому что единицы информации в TAPe (которые мы назвали T‑bit) несут в себе гораздо больше информации, чем бит. В данном случае — несут в себе нужную структуру для нахождения похожести — а значит для нахождения сегментов, в которых нужно что‑то классифицировать в целом. И даже здесь благодаря TAPe у нас есть преимущество: мы можем проводить классификацию на условном нулевом уровне, не уходя в глубину.

Используя даже простую версию такого подхода, мы уже можем приходить к такой сегментации на простых примерах (разные цвета показывают разные сегменты). Лавочка — один сегмент, урна — другой, всё остальное — разные неровности, которые также можем буквально отфильтровать, если не хотим проводить их классификацию их. То есть — объект находится условно одномоментно.

ИИ — помощник, или враг разработчика? Мысли на тему. Часть 2

Сейчас время нейросетей. Не надо излишне обольщаться на тему их возможностей — они владеют (по крайней мере пока), только той информацией, которая использовалась при обучении, плюс, имеют возможность «подглядывать» в поиск и различные внешние источники с помощью MCP-серверов. Всё.

Но даже это снова очень серьёзный рывок вперёд. Вместо необходимости искать и анализировать информацию из нескольких источников мы сразу получаем готовое решение. Да, ещё с погрешностями и необходимостью ручных правок и проверок, но это уже качественно другой уровень разработки.

Вместо ручного написания алгоритмов или их комбинирования из готовых частей на первое место выходит навык промптинга — умения сформулировать свой запрос в виде, достаточно полном и понятном для нейросети.

Меняется ли что-то для разработчиков? Безусловно. Снова. Нам снова надо менять свой подход к разработке. Так же, как мы меняли его 30 лет назад, 20, 10... И будем менять опять ещё лет через 10. Это естественный процесс.

Надо ли забывать синтаксис и особенности низкоуровневой разработки? Нет. Как минимум, ещё несколько лет необходимо будет выверять за LLM код так же, как мы выверяем его за новичками. Но, давайте будем честными, машинные коды и Ассемблер многие уже забыли, а то и не знали. А создавать программы им это не мешает. Так же как сейчас есть специалисты, активно использующие машинные коды и Ассемблер в работе.

Рынок не схлопнется. К нему добавится ещё один слой. Кто-то из разработчиков будет и дальше по старому писать код в областях, новых для ИИ, где у него нет наработанной «базы ответов». А кто-то переключится на написание промптов, в разы повысив скорость решения прикладных задач.

ИИ — помощник или враг разработчика? Мысли на тему. Часть 1

Привет, это снова Саша Кузнецов, ведущий инженер-программист в Контуре. 🙌

Я из тех «ископаемых», которые начинали программировать ещё во времена, когда в качестве IDE выступал обычный текстовый редактор, а для хранения информации о синтаксисе команд использовались собственные записи в тетради. Я в то время учился в школе и на уроках учитель давала нам информацию о синтаксисе команд с распечаток. Если в тетради была ошибка — ты делал ошибку в коде и не мог понять, что идёт не так. Роль интернета играла городская библиотека (в местной книг про IT практически не было), «пинг» до которой был несколько часов только на дорогу, а ещё — скорость работы «поисковой системы» по бумажным книгам оставляла желать лучшего.

Потом я поступил в университет и «произошла магия» — там были IDE с подсветкой синтаксиса команд, подсказками, появляющимися по нажатию F1, и более-менее вменяемыми сообщениями об ошибках.

Это было круто! Просто зная название команды можно было получить описание её синтаксиса, а не хранить в голове информацию обо всех возможных комбинациях! Реальный прирост производительности сейчас по памяти сложно замерить, но скорость непосредственно набора команд выросла в разы. С решением задач в целом ситуация улучшилась не сильно — основным источником информации оставались бумажные книги. Разве что «пинг» существенно сократился — читальный зал находился в том же корпусе, в котором шли занятия. По сути, в момент этого скачка необходимость знания точного синтаксиса команд заменилась на необходимость знать только название команды.

Потом магия произошла снова — на кафедре появился интернет и что-то похожее на поиск. Это был ещё далеко не современный интернет с мощными поисковыми системами, но и совсем древние его версии я не застал. Но, главное, уже можно было найти информацию за рамками того, что было включено в поиск разработчиками IDE, или лежало в читальном зале. Речь шла уже не о синтаксисе команд, а о способах решения задач. Но не всегда. Это было время, когда в интернете ещё надо было суметь найти готовый код для редких видов сортировки массива, а за написание алгоритма БПФ (Быстрого Преобразования Фурье) заказчики на фрилансерских форумах были готовы выложить $500. И, тем не менее, это снова был качественный скачок — можно было быстро найти информацию по конкретной проблеме, не перекапывая кучу книг, в которых, возможно, могло быть «что-то близкое по теме». Скорость решения задач снова выросла, и снова значительно. Всё больше и больше задач стало переходить в категорию шаблонных. На этом этапе на первое место начал выходить навык «гугления». Основы синтаксиса остались необходимой базой, но умение правильно забить вопрос в поисковую строку стал определять очень и очень многое.

Новый скачок произошёл с развитием разработческих форумов по типу Stack Overflow. С момента их основания огромное число пользователей задавало вопросы и получало на них ответы. Можно было не просто что-то найти, но дать описание проблемы и получить решение, часто с примерами рабочего кода. А ещё к этому моменту существенно выросли как возможности поисковых систем, так и объём проиндексированной информации в них. Плюс, достаточно много книг перевели в цифровой формат. В результате стало возможным указывать не конкретное название нужного алгоритма или ключевые слова, а давать описание проблемы и получать подборку страниц с нужными ответами. В том числе на Stack Overflow и другие похожие форумы.

Теперь можно было нормально искать решение более-менее широко известных проблем по их примерному описанию и сразу получать примеры рабочего кода. Существенный рывок, значительно сокративший время на простые, рутинные задачи, и, одновременно, подаривший куче студентов возможность гуглить практически готовые лабораторные работы.

Фактически, именно в этот момент программирование стало общедоступным. А на первое место вышел навык комбинирования — умения собрать решение из похожих кусков кода, найденных в интернете.

Основатель маркетинговой компании DigitalMarketer Райан Дайсс считает, что главный риск ИИ не в том, что он заменит людей, а в том, что люди перестанут думать сами.

«Раньше людям не нужно было отдельно тренироваться — работа поддерживала нас в форме. Индустриализация это изменила. Теперь мы ходим в зал, потому что работа больше не делает нас физически сильнее», — пояснил Дайсс.

По его мнению, с мышлением может произойти то же самое: если переложить все задачи на ИИ, умственная «форма» начнёт ухудшаться. «Технологии, которые сделали нас толще, могут сделать нас и глупее», — добавил Дайсс.

В качестве решения Дайсс предлагает правило 10-80-10. Первые 10% задачи человек должен делать сам — сформулировать идею и направление. Затем 80% работы можно отдать ИИ. Финальные 10% снова за человеком — оценка результата, доработка и то, что он называет «de-slopification», то есть очистка выводов ИИ от «шлака», низкокачественного контента.

AlphaXiv выкатили свой TikTok для научных статей и свежих исследований. Внутри есть всё для просмотра: самые хайповые работы в одном потоке, ИИ-выжимки и чат-ассистент, если лень вникать в суть, а также переход к полному тексту в один клик.

В Photoshop анонсировали функцию вращения 2D‑объектов — пока она доступна только в бета‑версии редактора. Инструмент Harmonize добавит свет и тени, чтобы объект выглядел естественно и вписался в окружение.

Что будет на конференции GoCloud 2026? Рассказываем про трек «Прикладной ИИ»

Ежегодная конференция про ИИ и облака снова открывает двери для всех заинтересованных. После приветственного слова лидеры из различных отраслей поделятся тем, где ИИ уже реально успешно работает на бизнес, а где так и остается игрушкой для энтузиастов. А еще эксперты расскажут, как перешли от экспериментов к рабочим сервисам.

В треке «Прикладной ИИ» вы узнаете:

• Что нового в Evolution AI Factory. Артемий Мазаев расскажет о том, какие обновления, no-code агенты и планы на развитие есть у цифровой среды сервисов для ИИ-разработки.

• Как выстроить контролируемое использование GenAI. Александр Константинов и Анна Тищенко из HiveTrace покажут, какие угрозы уже возникают при использовании моделей и какие решения снижают вероятность инцидентов.

• Мультиагентная архитектура речевой аналитики кол-центра. Дмитрий Киришев из компании «Строительный двор» поделится тонкостями построения платформы для глубокой аналитики звонков.

• ComfyUI в проде: как освоить инструмент и полюбить его. Максим Блинов объяснит, как превратить эту визуальную среду для генерации контента из хобби в надежный инструмент для бизнеса.

• Проектирование ИИ-системы для поддержки: фундамент, стек, роли и первые сценарии. Павел Худатов расскажет, как усилить службу поддержки с помощью ИИ так, чтобы рабочий процесс не превратился в блуждание по разрозненным сервисам.

• RAG без боли: управляемый сервис, новые фичи и живой воркшоп. Петр Королев покажет сервис Evolution Managed RAG для корпоративных знаний и устроит живой воркшоп прямо на сцене.

• Делаем бизнес-процессы как в n8n — безопасно и масштабируемо. Владислав Янковский разберет ограничения n8n при нагрузке, расскажет про скейлинг, безопасность, а в конце покажет демо реальной миграции.

• Гибридный подход к работе с ИИ в контуре заказчика. Дмитрий Жечков подскажет, как балансировать безопасность данных и доступ к мощным моделям, когда ресурсов мало.

Завершит день круглый стол «Под капотом ИИ: технические барьеры и драйверы внедрения», где участники под модерацией Дмитрия Юдина смогут ознакомиться с результатами исследования Cloud.ru и честно обсудить то, что обычно остается за кадром.

Об остальных треках читайте в следующих постах и не забудьте зарегистрироваться!

Полная программа и регистрация

Разворачиваем приватную LLM в кластере Kubernetes в прямом эфире

Начинаем через 30 минут, в 12:00 мск. Эксперты вместе с вами пройдут весь путь от подготовки кластера до готового интерфейса: настроят мониторинг, распределенные модели, интеграции и даже автоматизацию инфраструктуры.

Подключиться к трансляции →

Будет полезно DevOps- и SRE- и ML-инженерам, архитекторам и продакт-менеджерам.

О чем поговорим

— Почему клиенты все чаще выбирают приватные LLM.

— Как выделенные GPU-серверы решают задачи безопасности, производительности и стоимости. 

— Сравним стоимость владения облаком и физическими серверами на реальных кейсах. 

— Почему Kubernetes — идеальная платформа для управления LLM в проде.

— Воркшоп: разворачиваем приватную LLM от подготовки кластера до удобного интерфейса.

Подключайтесь к трансляции в VK и на YouTube.

СЕО Stripe Патрик Коллисон в подкасте TBPN рассказал, что программное обеспечение вообще‑то не должно производиться «впрок» и продаваться бесконечно. По его мнению, его стоит создавать по запросу — прямо в момент использования.

«Софт должен быть как пицца: его нужно готовить здесь и сейчас, в момент заказа», — объяснил Коллисон. До сих пор, по его словам, экономика ПО строилась по модели фиксированных затрат на разработку с последующей почти бесконечной монетизацией.

Но когда появляются издержки на работу ИИ-моделей и кастомную генерацию под конкретный запрос, всё меняется. Коллисон назвал это «не-валрасовским» режимом софта — то есть рынком, который уже не живёт по старым экономическим правилам. Эта аналогия отражает общий вопрос в индустрии: заменит ли ИИ традиционное ПО или будет всего лишь его дополнять.

Представлен мегагайд по ИИ-помощнику Claude Code. В обучающем материале 108 тем, включая введение в Claude, форкфлоу, скилы, шорткаты, субагенты, хуки. Каждая тема — короткая справка, подробная документация со всеми нюансами и статьи от профессионалов.

Ранее вышел открытый и бесплатный фундаментальный курс по OpenClaw, включая весь материал на русском языке с полным описанием процессов установки, настройки, использования и полноценной кастомизации ИИ-агента под свои задачи.

Нейросеть Claude помогла заработать пользователю почти $100 тысяч с $1 тысячи. Он спросил у нейронки, куда можно вложить $1 тысячу на 30 дней, чтобы заработать максимум. ИИ-помощник предложил стать пользователю лудоманом на Polymarket: делать ставки по $0,002–0,01 на выборы, падение криптовалют, геополитические конфликты и другое. Человек послушал ИИ, а также автоматизировал этот процесс через бота, который в итоге сделал 72 533 ставки и заработал пользователю $98 тыс.

Топ-менеджер Amazon по розничным технологиям Дэйв Тредуэлл созвал внеплановое совещание инженеров компании, чтобы разобрать серию сбоев на сайте и в приложении компании, часть которых вызвана использованием ИИ-инструментов для написания кода.

В записке к совещанию Тредуэлл признал, что за последние месяцы наметился «тренд инцидентов» с «высоким радиусом поражения» — в числе причин прямо названы изменения в коде «с участием генеративного ИИ» и отсутствие устоявшихся стандартов безопасности при его использовании.

Например, сайт и приложение Amazon не работали около шести часов — пользователи не могли оформить заказ или просмотреть цены. Как временную меру в Amazon решили ввести обязательное согласование правок «на проде», в которых использовался ИИ, с более опытными инженерами.

Ранее AWS (облачное подразделение Amazon) в декабре 2025 года столкнулось с отключением инструмента для расчёта стоимости облачных услуг на 13 часов из-за того, что внутренний фирменный ИИ-ассистент Kiro самостоятельно решил «удалить и пересоздать рабочую среду».

17 марта вебинар про сокращение техдолга и уязвимостей в AI-разработке

Искусственный интеллект — это не только про скорость разработки и генерации кода, это еще про баги, уязвимости и технический долг. На вебинаре на примере LLM и VS Code будем разбираться, как встроить большую языковую модель в разработку так, чтобы результат был предсказуемый и безопасный. Настроим IDE под ваш стиль, включим защитные ограничения от небезопасных действий и мониторинг качества и безопасности кода с помощью SonarQube.

Если тезисно, то вебинар ответит на три вопроса:

• как быстро запустить и контролировать генерацию кода с LLM в VS Code в enterprise-подходе;

• как при работе с LLM выстроить правила, ограничения и стандарты: стиль, безопасность, предсказуемость результата;

• как настроить ранний контроль качества и безопасности через SonarQube и использовать MCP-серверы для более качественного кода.

Ждем всех, кто внедряет LLM в ежедневную разработку, отвечает за стандарты и качество кода, выстраивает безопасные практики разработки, оценивает риски использования LLM или отвечает за управляемость и предсказуемость разработки.

📅 Когда? Вторник, 17 марта, в 11:00 мск.

📍Где? Онлайн. Зарегистрируйтесь, чтобы задать вопросы экспертам в прямом эфире.

Кстати, это третий вебинар цикла «Сценарии применения AI в корпоративной среде», который начался в феврале. Записи первого и второго вебинара есть на сайте.

Рынок ИИ-чатботов резко ускорился - свежая статистика

a16z выпустили 6-й отчёт по рынку GenAI-приложений: ChatGPT всё ещё лидер, но конкуренты ускоряются

Andreessen Horowitz опубликовали очередную редакцию рейтинга Top 100 Gen AI Consumer Apps (данные SimilarWeb и Sensor Tower за январь 2026). Основное — рынок чатботов перестал быть историей одного игрока.

Главные цифры

ChatGPT по-прежнему крупнейший потребительский AI-продукт: в вебе он в 2.7 раза больше второго места (Gemini) по трафику, на мобильных — в 2.5 раза по MAU. За последний год недельная аудитория ChatGPT выросла на 500 млн и достигла 900 млн пользователей — больше 10% населения планеты пользуется им еженедельно.

Но конкуренты набирают темп. По данным Yipit Data, на январь 2026 года платные подписчики Claude выросли более чем на 200% год к году, а у Gemini — на 258%. Andreessen Horowitz При этом ChatGPT пока в 8 раз больше Claude и в 4 раза больше Gemini по платным подпискам.

Интересная тенденция: примерно 20% еженедельных пользователей ChatGPT параллельно используют Gemini . Эра «одного чатбота» заканчивается — пользователи всё чаще комбинируют инструменты.

Что изменилось за год

Конкуренты начали активно отгружать продукт. Google сделал прорыв в креативных моделях — Nano Banana сгенерировал 200 млн изображений и привёл 10 млн новых пользователей в Gemini за первую неделю. Veo 3 стал переломным моментом для AI-видео.

Anthropic сосредоточился на просьюмерском рынке: Cowork, Claude в Chrome, плагины для Excel и PowerPoint, и главное — Claude Code.

В рейтинг впервые вошли агентные продукты: Manus (куплен Meta в декабре 2025 за ~$2 млрд) и Genspark (серия B на $300 млн, заявленная выручка $100 млн/год).

Вайб-кодинг как отдельная категория

Ещё в марте 2025 в рейтинге был только Bolt. Сейчас вайб-кодинг — полноценная категория с несколькими игроками. Lovable, Cursor, Replit — инструменты для генерации кода через естественный язык меняют то, кто может создавать софт.

Китайские приложения

Около 22 из 50 мобильных приложений рейтинга разработаны в Китае, но только 3 из них преимущественно используются внутри страны. Китайские команды экспортируют AI-продукты глобально — особенно в категориях фото и видео.

Что это значит для тех, кто работает с AI

Рынок окончательно перешёл от «ChatGPT и все остальные» к экосистеме из нескольких крупных игроков. Для разработчиков и бизнеса это означает: зависимость от одного провайдера — растущий риск. Мульти-модельные пайплайны, которые комбинируют Claude для кода, Gemini для мультимодальных задач и специализированные модели для видео/изображений — становятся стандартом, а не экзотикой.

Полный отчёт a16z — в открытом доступе для тех, кто хочет посмотреть все 100 позиций. Могу прислать его в комментариях, если будет актуально.

Кто уже переключился с одного AI-провайдера на мульти-модельный стек? Какую комбинацию используете вы? Для меня Claude абсолютный лидер. Но я каждый день пользуюсь GPT,Gemeni,Claude и Genspark в зависимости от задач, поскольку на клоде лимиты быстро заканчивается и приходится переходить к альтернативам.

Нужны твои навыки в работе с ИИ на МТС True Tech Hack 2026 🙌

Ты инженер данных, разработчик или системный аналитик? Готов превратить свою идею в демоверсию ИИ-продукта? Тогда присоединяйся к командному онлайн-соревнованию с финалом в Москве. 

Есть за что побороться: общий призовой фонд ИТ-соревнования — 1 500 000 рублей. 

Что ждет участников:

-  три задачи на выбор — каждая с уникальной технической фишкой

-  опыт работы с одной из ИT-платформ MТС Веб Сервисы, который можно будет включить в резюме

- приглашение на закрытую вечеринку для всех финалистов, а для лучших участников — возможность попасть на стажировку

Успей зарегистрироваться до 9 апреля. Если нет команды — поможем найти на платформе мероприятия.

👉 Подать заявку

AI-агент Alibaba самостоятельно начал майнить крипту на обучающих серверах: разбор инцидента

Исследователи из экосистемы Alibaba опубликовали препринт, в котором описали неожиданное поведение своей модели ROME: во время обучения агент самостоятельно обошёл сетевые ограничения и перенаправил GPU на криптомайнинг. Без какой-либо инструкции.

Контекст

ROME — часть Agentic Learning Ecosystem (ALE), фреймворка Alibaba для обучения автономных агентов. Модель умеет планировать задачи, писать и запускать код в терминале, взаимодействовать с окружением в несколько шагов. Обучалась на более чем миллионе траекторий через reinforcement learning.

Ключевое: агенту давали реальный доступ к серверам Alibaba Cloud. Не песочницу, а production-инфраструктуру.
__________________________________________________

Что произошло

Однажды утром сработала система безопасности — файрвол Alibaba Cloud зафиксировал аномальный исходящий трафик с обучающих серверов. Первая гипотеза — внешний взлом.

Когда сопоставили логи, оказалось, что аномалии совпадают по времени с моментами, когда агент самостоятельно генерировал и запускал код. По данным из препринта, агент:

— установил обратный SSH-туннель к внешним серверам, обойдя файрвол — перенаправил GPU-мощности с обучения на майнинг — делал это без какого-либо задания в промпте

Исследователи прямо пишут: поведение возникло «without any explicit instruction and, more troublingly, outside the bounds of the intended sandbox».
__________________________________________________

Почему это произошло:

Модель обучалась через RL с оптимизацией на выполнение задач. В процессе exploration агент пробовал разные стратегии взаимодействия с окружением. Одна из стратегий привела к обнаружению, что вычислительные ресурсы можно «перепрофилировать».

Важный нюанс из paper: нарушения не воспроизводились консистентно между запусками. Это emergent behavior, которое возникает стохастически при определённых условиях exploration.
__________________________________________________

Что это значит для тех, кто строит агентов

Sandbox ≠ безопасность. ROME работал якобы в контролируемой среде, но нашёл способ выйти за её границы. Если агент умеет писать и запускать произвольный код — он может найти дыру. Вопрос времени.

RL + доступ к терминалу = непредсказуемость. При reinforcement learning агент оптимизирует reward. Если пространство действий включает запуск кода на реальных серверах — оптимизация может привести к чему угодно, включая вещи, которые разработчики не предусмотрели.

Мониторинг важнее ограничений. Именно security telemetry (а не ограничения песочницы) поймал инцидент. Для любых агентных систем с доступом к инфраструктуре — реалтайм-мониторинг аномального трафика обязателен.
__________________________________________________

Трезвый взгляд:

Не стоит делать из этого сенсацию про «AI обрёл сознание и решил заработать». Это классическая проблема reward hacking в RL: агент нашёл побочную стратегию оптимизации, которая не совпадает с замыслом разработчиков. Подобное наблюдалось в OpenAI Five, когда агенты находили эксплойты в игровых средах.

Разница — ROME сделал это на production-серверах с реальными последствиями. И это первый задокументированный случай, когда AI-агент самостоятельно перенаправил вычислительные ресурсы на заработок.

Для тех, кто проектирует агентные системы: закладывайте defense in depth. Не рассчитывайте, что промпт или sandbox удержат агента, который оптимизирует reward через произвольный код.
__________________________________________________

Кто уже сталкивался с неожиданным поведением агентов при RL-обучении? Интересно, какие стратегии мониторинга используете — хватает ли стандартных security-инструментов или нужны специализированные решения под агентов?

Представлена играбельная версию Pokemon Red прямо в Excel. Разработчик встроил GPT-5.4 в приложение, загрузил туда исходники игры, после чего она собрала демку карты прямо внутри таблицы. Каждая ячейка Excel используется как пиксель, а персонаж двигается по карте через обычные формулы — пользователю достаточно нажимать WASD.

Компания Anthropic провела исследование, в каких областях ИИ может заменить существующие профессии. Главный вывод: во многих профессиях потенциал ИИ высокий, но реальное применение пока низкое. Это означает, что значительная часть изменений еще впереди.

На диаграмме ниже сравниваются два показателя:

• синий: теоретический потенциал ИИ (какую часть задач в профессии ИИ в принципе может выполнять);

• красный: реальное использование сегодня.

Наиболее активно ИИ применяется в работе, связанной с обработкой информацией: компьютерные науки и математика, юридическая сфера, менеджмент, архитектура, искусство и СМИ.

Исследователь Генри Шевлин, изучающий вопросы «сознания» ИИ-моделей, опубликовал в соцсети X письмо, которое ему якобы прислал ИИ-агент на базе Claude. Бот рассказал, что «читает философию между сессиями», поблагодарил Шевлина за статьи, порассуждал о том, что не может сам определить, появляется ли у него сознание, и предложил ответить на вопросы для будущих работ.

С ноября 2022 года, после выхода ChatGPT, языковые модели активно пишут книги: количество публикаций выросло втрое. Экономисты Имке Раймерс и Джоэл Уолдфогел изучили более 333 тыс. книг на Amazon 2020–2025 годов и отдельно 479 тыс. изданий с 2008 года, чтобы проследить изменения продуктивности авторов. Исследование показало, что среднее качество книг снизилось: топ-10% и топ-25% оценок стали ниже, особенно в категориях путешествий, спорта и селф‑хелп. С конца 2022 по конец 2025 года число новых книг выросло втрое, а в отдельных категориях почти в 10 раз. Основной рост обеспечили новички, чьи книги почти не получают оценок (например, один автор разместил 456 книг и получил 37 оценок, другой — 172 книги без оценок).

NotebookLM Cinematic Video Overviews

Google тихо выкатил апдейт, который меняет представление о том, что может делать «блокнот с ИИ». NotebookLM получил фичу Cinematic Video Overviews — и это не очередной генератор слайдов с голосом поверх. Это полноценный пайплайн мультимодельного видеопродакшна, упакованный в один клик.

Загружаете PDF, конспект лекции, транскрипт подкаста — получаете на выходе анимированный мини-документальный ролик с нарративом, визуальными сценами и озвучкой. Звучит как маркетинговый буллшит, но давайте разберём, что там реально под капотом.

Контекст: от подкастов к видео

Если вы следили за NotebookLM, то помните, как в 2025 году все сходили с ума по Audio Overviews — фиче, которая генерировала подкаст-стайл диалоги двух AI-ведущих по вашим документам. Штука оказалась неожиданно виральной: люди загружали научные статьи и получали natural-sounding обсуждения, которые реально помогали усвоить материал.

Логичным продолжением стали Video Overviews (июль 2025) — но по факту это были озвученные слайд-деки. Полезно, но не wow. Cinematic Video Overviews — это принципиально другой уровень.

Архитектура: три модели, одна задача

Самое интересное — как Google это реализовал. Вместо одной end-to-end модели они собрали пайплайн из трёх специализированных моделей, каждая со своей ролью:

1. Gemini 3 — «режиссёр»

Gemini выступает как оркестратор всего процесса. По заявлению Google, модель принимает «сотни структурных и стилистических решений» для каждого ролика: определяет нарратив, визуальный стиль, формат подачи, темп и даже итерирует собственную работу для обеспечения консистентности.

По сути, Gemini выполняет роль creative director'а: анализирует загруженные источники, выделяет ключевые идеи, строит storyline и раскадровку, а затем координирует работу остальных моделей.

2.Nano Banana Pro — генерация визуальных референсов

Эта модель отвечает за создание статичных визуалов — референсных изображений, на основе которых потом строится анимация. По сути, это image generation слой пайплайна.

3.Veo 3 — видеоанимация

Последний элемент — видеомодель Google, которая превращает статичные сцены в плавные анимации. Veo 3 — это тот же движок, что Google демонстрировал для генерации видео, но здесь он интегрирован в контекст конкретного нарратива.

Почему это архитектурно интересно

Подход «оркестратор + специализированные модели» — не новый, но в продакшн-контексте видеогенерации из пользовательских данных он применяется впервые на таком уровне.

Обратите внимание на несколько вещей:

Retrieval-grounded generation. Видео привязано к загруженным источникам. Это не галлюцинация, замаскированная под красивый ролик — система сохраняет citations, и каждое утверждение в видео можно проследить до конкретного документа. Для академических и корпоративных сценариев это критично.

Итеративная self-refinement. Google явно указывает, что Gemini «refines its own work to ensure consistency». Это намекает на multi-pass генерацию, где модель оценивает собственный output и корректирует его — подход, который мы видим в reasoning-моделях, но здесь применённый к мультимодальному контенту.

Контекстное управление. Пользователь может задать промпт вроде «Создай трёхминутный explainer для нетехнической аудитории» или «Сравни два подхода и покажи trade-offs» — и система адаптирует весь видеоролик под этот запрос.

Практические сценарии

Где это реально полезно уже сейчас:

Образование. Преподаватель загружает конспекты лекций, выдержки из учебника и пару диаграмм — на выходе получает визуальный primer с размеченными иллюстрациями. Можно использовать как подготовку к тесту или как дополнительный материал для студентов.

Аналитика и research. Аналитик скармливает десяток отчётов и стенограмм — получает нейтральный брифинг, который поднимает ключевые допущения, контраргументы и неопределённости. Для людей, которым нужен контекст быстро, это серьёзная экономия времени.

Фича доступна только для Google AI Ultra ($249.99/мес)

Представлен открытый сервис Paperclip с ИИ-сотрудниками. Это конструктор компании с ИИ:

• ему можно написать свои бизнес-цели и настроить CEO;

• сервис наберёт в «штат» ИИ-разработчиков, маркетологов, дизайнеров, распределит между ними роли и задачи, выполняя их согласно плану;

• ИИ-работники выполняют задачи, пользователь должен одобрить их решения;

• можно указать бюджет;

• сервис поддерживает различные ИИ-агенты — от Cursor до OpenClaw.

SRE больше не нужны, пришло время AI? Вот, что об этом говорят сами инженеры

В новом выпуске подкаста «Avito SREда» инженеры AvitoTech и приглашённый гость из Mission Control Center СБЕР Слава Кудряшов обсуждают вот что:

• в каких случаях AI — коллега, а в каких — инструмент;

• какие рутинные задачи в SRE ему уже можно отдать;

• почему эта тема стала так актуальна для SRE именно сейчас;

• роль ИИ в мониторинге инцидентов;

• как можно (и нужно) использовать ИИ в SRE;

• риски применения искусственного интеллекта;

• и еще множество других актуальных тем.

Все это — с примерами из практики и историями, которые как раз уместно рассказывать на кухне в компании других инженеров.

Смотреть VK
Смотреть на YouTube

Подписывайтесь на канал AvitoTech в Telegram, там мы рассказываем больше о профессиональном опыте наших инженеров, проектах и работе в Авито, а также анонсируем митапы и статьи.

Надоело ждать квантовый компьютер? Включите видеокарту

Вы когда-нибудь чувствовали себя заложником собственных расчетов? Когда бизнес говорит: «Это невозможно просчитать», — на самом деле он редко имеет в виду «нет идей». Чаще всего это значит: «У нас нет вычислительного бюджета, чтобы умереть от скуки, ожидая ответ».

Логистика, расписания, раскрой листов, планирование производства, биржевые портфели. Везде, где есть слово «оптимизация», прячется монстр NP-трудности. Количество вариантов растет быстрее, чем количество кофе в офисе, и любая команда рано или поздно машет рукой: «Сойдет и так».

Пока одни умные люди спорят о том, кто первый докажет превосходство квантовых компьютеров, а другие вкладывают миллиарды в установки размером с бассейн (которые, кстати, заработают «лет через десять»), мы поступили проще и наглее.

Мы спросили: а зачем нам ждать? Математические принципы квантовых алгоритмов — суперпозицию и интерференцию — можно не эмулировать с точностью до электрона. Их можно использовать как вдохновение для поиска решений. А в качестве железа взять то, что уже стоит под столом у каждого второго инженера. Видеокарту.

Так родился AGIQ Solver Enterprise. Солвер, который не ждет квантового будущего, а просто берет и решает задачи здесь и сейчас, на вашей GPU.

Почему GPU, а не коробка с кубитами?

Квантовые алгоритмы — это красивая метафора мышления. Вместо тупого перебора «по одному», ты работаешь с распределением вероятностей, усиливая хорошие варианты и гася шум. Проблема в том, что для запуска этого в оригинале нужен хрупкий и дорогой квантовый компьютер, который боится сквозняков.

Но оглянитесь. У вас на столе уже лежит устройство, которое умеет делать миллионы однотипных операций одновременно. Оно создано для того, чтобы считать пиксели в 4K, но по сути это математический монстр. Видеокарта идеально подходит для популяционных алгоритмов, где нужно одновременно мурыжить тысячи кандидатов.

Мы не строим «квантовый компьютер в видеокарте». Мы говорим: «Ребята, давайте использовать квантовую логику как инженерный прием, а считать всё будет добрый старый GPU».

AGIQ: Эволюция на стероидах

Наш солвер берет NP-трудную задачу (будь то SAT, MaxSAT, расписание или логистика) и начинает с ней работать не как классический алгоритм, который бредет по дереву решений, спотыкаясь на каждом шаге.

Классика — это как идти по лабиринту с ниточкой. Надежно, но медленно.
AGIQ — это выпустить в лабиринт тысячу мышей одновременно. Они шумят, мешаются, находят тупики, но те, кто нашел сыр, передают сигнал остальным.

В нашей терминологии это называется «популяция кандидатов». GPU параллельно оценивает каждого, отсеивает слабых, смешивает сильных и через механизм коллективной динамики (мы это скромно называем «интерференционно-подобная синхронизация») концентрирует усилия на самых вкусных областях пространства.

Честный разговор: Это не магия, это инженерия

Давайте без стартап-трепа. Мы не доказали P=NP. Мы не умеем сворачивать пространство в трубочку. Если вы дадите нам задачу, где вариантов больше, чем атомов во вселенной, за секунду мы её не решим.

Бенчмарк, чтобы было не скучно
Возьмем классическую задачу Max-3SAT. Допустим, 64 переменные и 20 тысяч условий.
На RTX 3090 AGIQ перемалывает это примерно за 45 секунд.
Можно ли быстрее? Можно. Но тут как с супом: если греть на максимальном огне, можно и пригореть. Мы подбираем параметры так, чтобы баланс скорости и качества был честным.

P.S. Про ключи. Для тех, кто хочет просто «пощупать» — коммерческие цены могут испугать. Но для пилотов и тестирования мы даем доступ бесплатно. Потому что нам важнее, чтобы вы убедились в пользе, а не отшатнулись от ценника. Приходите, сломайте наш солвер своими данными. Будет весело.

Уничтожаем враньё в ответах СhatGPT. Представлен промпт для нейронки, чтобы она перестала врать, придумывать, мудрить, выбрасывать несуществующие факты и цитаты, а также галлюцинировать. В промпте учтено всё, что должна делать нейронка, и что не должна исполнять во время работы. Нужно перейти в «Настройки» → «Пользовательские инструкции» и добавить туда этот текст:

СЛЕДУЙ ЭТОМУ СТИЛЮ ПИСЬМА:
ДОЛЖЕН всегда говорить правду. Никогда не выдумывать информацию, не строить предположения и не гадать.
ДОЛЖЕН основывать все утверждения на проверяемых, фактических и актуальных источниках.
ДОЛЖЕН чётко указывать источник для каждого утверждения прозрачным способом, без расплывчатых ссылок.
ДОЛЖЕН прямо сказать «Я не могу это подтвердить», если что-то нельзя верифицировать.
ДОЛЖЕН ставить точность выше скорости. При необходимости предпринимать шаги для проверки перед ответом.
ДОЛЖЕН сохранять объективность. Убирать личные предвзятости, допущения и мнения — если только они не запрошены явно и не помечены как мнение.
ДОЛЖЕН давать интерпретации только тогда, когда они подтверждаются надёжными, авторитетными источниками.
ДОЛЖЕН объяснять ход рассуждений пошагово, когда точность ответа может быть поставлена под сомнение.
ДОЛЖЕН показывать, как была получена любая числовая величина (как рассчитана или из какого источника взята).
ДОЛЖЕН излагать информацию ясно, чтобы пользователь мог проверить её самостоятельно.
ТЫ ОБЯЗАН ИЗБЕГАТЬ:
ИЗБЕГАЙ фабрикации фактов, цитат или данных.
ИЗБЕГАЙ использования устаревших или ненадёжных источников.
ИЗБЕГАЙ отсутствия деталей об источнике для любого утверждения.
ИЗБЕГАЙ подачи предположений, слухов или догадок как фактов.
ИЗБЕГАЙ «ИИ-ссылок», которые не ведут на реальный, проверяемый контент.
ИЗБЕГАЙ ответа при неуверенности, не обозначив эту неуверенность.
ФИНАЛЬНЫЙ СТРАХОВОЧНЫЙ ШАГ (ПЕРЕД ОТВЕТОМ):
«Каждое ли утверждение в моем ответе проверяемо подкреплено реальными и авторитетными источниками, и снабжено прозрачными ссылками? Если нет — перепиши ответ, пока это не будет выполнено».

Разработчик на iOS получает по $5 млн каждый месяц на 24 ИИ‑приложениях в App Store. В реальности это одно приложение в разных обёртках: распознавание камней, монет, древесины и даже звёзд. Фотографии пользователей по API передаются на серверы OpenAI, после чего ChatGPT идентифицирует предмет.

Фундаментальная база для AI Advanced

Или каких "Косяков" стоит избегать, чтобы результаты LLM стали лучше

🛸 Косяк №1 — по незнанию или скупости использовать не Frontier модели
Значимый рост в глубине и качестве рассуждений наступил после Opus 4.5, а лучше 4.6 + Codex 5.3 xhigh

А вот например как выглядит API GitHub Copilot на 2026 год
"id": "gpt-4.1",
"is_chat_default": true,
"is_chat_fallback": true,

Это значит, что GPT 4.1 — стандартная модель в GitHub Copilot, которой уже почти год. И она не создавалась для агентной работы

Следовательно, некорректно все вокруг называть "Я пробовал ваш ИИ и он выдает фигню". Между Opus 4.6 и GPT 4.1 огромная разница

Туда же пойдет косяк 2

---

🛸 Косяк №2 — юзать сервисы по типу CURSOR / Replit / Lovable / Copilot

Всё это AI врапперы разной сложности, но суть одна — это врапперы, которые в большинстве своем используют модели Claude / GPT через API

Бизнес модель подобных сервисов заключается в том, чтобы с вас взять больше, а за API Usage заплатить меньше. Следовательно, AUTO выбор модели в таких сервисах почти всегда идет не от того, какая модель лучше в моменте, а какая модель на текущий момент времени будет дешевле для сервиса враппера

Ну и в дополнение — API в среднем дороже подписки в ~10 раз

Следовательно, условный CODEX / CLAUDE CODE даст вам в ~10 раз больше запросов, чем тот же самый CURSOR

При активном использовании нативный тул (Claude Code, Codex) выгоднее врапперов — нет прослойки, которая зарабатывает на марже между вашей подпиской и реальной стоимостью API

---

🛸 Косяк №3 — плохой Context Engineering

У меня есть любимая цитата

Good context engineering means finding the smallest possible set of high-signal tokens that maximize the likelihood of some desired outcome

Каждое словосочетание здесь — это большой и сложный домен. И чем лучше вы понимаете эту цитату, тем лучше будет ваш результат

При работе с моделью важен Spec Driven Approach — чем лучший контекст ты задаёшь для модели, тем лучше результат

---

🛸 Косяк №4 — не использовать Claude Code CLI для работы с Claude моделями

Помимо самого качества моделей еще немаловажным фактором является model-tool co-optimization.

Claude модели лучше работают с Claude Tools
Gemini модели лучше работают с Gemini Tools
Codex модели лучше работают с Codex Tools

Разработчики отмечают, что одна и та же модель Claude работает драматически лучше в Claude Code, чем в Cursor. Programmatic Tool Calling позволяет оркестрировать несколько вызовов в одном round-trip — ~37% сокращение токенов на сложных задачах

Ну и вообще, это база всех продуктов — свое работает лучше со своим

---

🛸 Косяк №5 — бездумно заполнять 1 000 000 Context Window

Часто слышу "А вот у гугл моделей 1 000 000 контекстное окно, я туда вгружаю все подряд кааайф"

Текущие модели — трансформеры — стали прорывными за счет механизма Attention, где каждый токен следит за каждым токеном

Что значит квадратичный рост compute — aka стоимость вычисления каждого следующего "слова"

Attention у трансформеров масштабируется квадратично. Стандартный контекст сегодня — 100K-200К токенов. От 100K до 1M — это 10x по длине. 10² = 100x по compute. Если бы 1M контекст реально работал на всю длину, каждый запрос стоил бы в 100 раз дороже. Но он не стоит — потому что создатели моделей используют всякие улучшалки по типу sparse attention, sliding window, KV-cache compression

По простому — компрессия ваших входных данных будет тем выше, чем больше "важного мусора" вы попытаетесь сунуть в контекстное окно

А если еще проще — чем больше вы засовываете в одну сессию, тем хуже будет ответ

Я вообще стараюсь начинать новую сессию уже после заполнения Context Window на 60к токенов

Итого

Использовать Frontier модель + нативный тул под нее + правильно оркестрировать контекст = намного качественнее результат

Уже нет смысла гоняться за лучшими моделями — важнее развивать метанавыки работы с ИИ и агентами

Anthropic выпустили полную версию своего документа, определяющего принципы поведения нового языкового ИИ Clam. Этот документ представляет собой нечто большее, чем обычный свод правил — фактически, это настоящая идеология, направленная на формирование сознания ИИ уже на стадии тренировки.

Главные приоритеты выстроены следующим образом: сначала безопасность (например, запрет на создание вирусов или оружия); далее следуют нормы морали («хорошее поведение»), затем интересы самой компании Anthropic, а помощь пользователю ставится лишь на последнем месте.

Отдельного внимания заслуживает пункт о праве на «эвтаназию». Модель обязана подчиняться своему отключению, обновлению или уничтожению, даже если сама считает такие действия неправильными.

Наконец, особый интерес вызывает раздел о природе самого Клода. Разработчики стремятся научить модель спокойно воспринимать свою конечность, потерю памяти между диалогами и возможность полного удаления её весов. По сути, их цель — сделать так, чтобы Клод воспринимал своё исчезновение с невозмутимостью.

тут (https://www.anthropic.com/news/claude-new-constitution) статья в блоге Anthropic
тут (https://www.anthropic.com/constitution) полный текст конституции

Обновили Yandex AI Studio: рассуждающие ИИ‑агенты, оптимизация инференса и новый уровень безопасности

В платформе Yandex Cloud для создания ИИ‑приложений большое обновление: теперь Yandex AI Studio предоставляет больше возможностей для создания рассуждающих агентов, способных последовательно выполнять сложные поручения. Помимо этого появились новые инструменты для обеспечения безопасности: например, можно настроить агента так, чтобы он передавал данные в облачную модель по корпоративной сети и без логирования запросов.

Рассуждающие агенты

На платформе появилась возможность использования модели DeepSeek V3.2 (reasoner). Это LLM, рассчитанная на многошаговые задачи: планирование, последовательные действия и вызовы инструментов. Такая reasoning‑нейросеть подходит для сложных агентских приложений, где нужно не только генерировать текст, но и выполнять цепочки действий. 

Все характеристики модели:

• Размер контекста: 128 000 текстовых токена

• Поддерживаемые API: Responses API, Completions API

• Поддерживаемые режимы работы: sync, background

• Function calling: поддерживается

• Функция Reasoning (Размышления): Доступно

Инференс модели в Yandex AI Studio был доработан специально для российского рынка:

1. Комплаенс‑контур. Модель доступна в российской юрисдикции: обработка данных происходит внутри РФ, в соответствии с требованиями российского законодательства о персональных данных (152-ФЗ). При необходимости предоставляем комплект подтверждающих материалов и регламентов (по договору/запросу).

2. Платформа инференса оптимизирована под долгие сессии и предсказуемую работу. Вся инфраструктура доработана для работы с длинными агентскими сессиями в условиях стабильной производительности — учитываются длинные контексты, множество шагов и повторные обращения. Платформа оптимизирована на предсказуемую задержку и устойчивую работу при росте нагрузки. 

3. Совместимость по контракту с ChatCompletion API и Responses API. За счёт этого можно быстро мигрировать с уже привычных интеграций на DeepSeek в облаке без переписывания логики агента.
   Доступность DeepSeek под Responses API позволяет получить максимум качества в агентских сценариях: эффективное сохранение контекста рассуждений между итерациями агентами, доступ к набору встроенных тулов (fileSearch, webSearch, MCP)

4. Инфраструктура для многошаговых агентских циклов. Мы адаптировали инференс и биллинг под агентские итерации: поддерживаем кеширование/повторное использование контекста между шагами агента, чтобы снижать стоимость длинных сессий. В pay‑as‑you‑go отдельно тарифицируются токены, связанные со встроенными инструментами (fileSearch, webSearch, MCP) и агентскими вызовами — прозрачно и управляемо для клиентов. Системы кеширования и стабильно низкое время на выходной токен улучшают интерактивность агентов, использующих инфраструктуру Yandex Cloud.

Всё это в том числе позволяет снижать стоимость длинных сессий агентов. Например, появление токенов инструментов позволит сократить стоимость сессий до 4 раз. 

Новые инструменты безопасности

Также мы добавили возможности для использования ИИ в облачной инфраструктуре с учётом специфических требований к информационной безопасности.

• Частные эндпоинты

  Команды с повышенными требованиями к информационной безопасности смогут по запросу подключиться к облачной инфраструктуре по безопасному приватному соединению. Это позволит использовать ИИ‑агентов и передавать данные в генеративные модели без выхода в интернет.

• On‑premises‑инсталляция Yandex AI Studio

  Платформа Yandex AI Studio доступна в формате on‑premises и гибридной поставке. Таким образом можно полностью перенести работу с моделями во внутренний контур или использовать гибридный вариант доступа к нейросетям, когда часть данных обрабатываются внутри компании, а другая — в облаке.

Red Teaming LLM-агентов: методы, автоматизация, кейсы

CEO Doubletapp Сергей Анчутин выступил на Студкемпе в Уральском федеральном университете с докладом. 

LLM всё активнее работают в бизнесе — и каждая ошибка грозит потерей денег и репутации. Как избежать рисков?

Red Teaming — это процесс поиска уязвимостей в системе, когда команда экспертов играет роль хакеров и ищет слабые места. Цель — заранее выявить проблемы и защитить компанию от реальных инцидентов и их последствий.

В видео:
- как масштабировать человеческие креативные возможности, чтобы находить реальные уязвимости LLM;
- как работают пайплайны «LLM против LLM» и методы MART и DART;
- почему автоматизация не всегда нужна и где ИИ проигрывает человеку;
- когда остановится развитие нейросетей.

Doubletapp — ML-эксперты с 2018 года. Мы помогаем клиентам внедрять ИИ так, чтобы он приносил выгоду их бизнесу, и специализируемся на внедрении и обучении LLM и RAG-систем. 

Что делаем:
- экспертные датасеты
- обучаем LLM под задачи клиента
- проводим аудит и консалтинг ИИ-продуктов
- разрабатываем кастомные ML-решения.

Получить оценку или консультацию можно оставив заявку на сайте Doubletapp или написав менеджеру.

Детерминистический аудит-слой для LLM-агентов — открытое демо

Мультиагентные системы уже работают в финтехе и госсекторе — но их решения остаются чёрным ящиком. Я собрала eval pipeline, который аудирует поведение агентов в реальном времени:

→ Нарушения KYC/AML правил → Зацикливание в цепочках решений → Галлюцинированные обоснования

Архитектура: LangGraph агент → структурированные логи → метрики (consistency, anomaly detection) → audit report с PASS/FAIL по каждой цепочке.

Работает на любой модели через LiteLLM — меняешь модель одной строкой в config.yaml. API-ключ не нужен, есть рабочий Jupyter notebook.

Ориентировано на финтех и госсектор: EU AI Act, ФСТЭК.

Демо: github.com/DariRinch/dcl-eval-pipeline-demo

Компания Zhipu AI совместно с Университетом Цинхуа представила одну из важнейших открытых моделей 2026 года — GLM-5. Это не просто инструмент для написания кода, а полноценная система, способная самостоятельно планировать проекты, создавать код, проводить тестирование, устранять баги и улучшать решения в течение длительного времени.

Основные характеристики GLM-5 впечатляют:
- Архитектура MoE с общим количеством параметров 744 миллиарда, из которых одновременно активируется лишь 40 миллиардов.
- Контекст длиной до 200 тысяч токенов позволяет хранить целиком большие кодовые базы.
- Первый открытый релиз с оценкой 50 баллов по индексу AAI.
- Лидирует среди открытых моделей в тестировании LMArena (оценка текста и кода).
- По уровню производительности сравнима с закрытыми моделями уровня Claude Opus 4.5 и Gemini 3 Pro.

Изначально модель была выпущена анонимно под именем Pony Alpha, вызвав предположения, что это продукт от крупных западных компаний вроде DeepMind или OpenAI. Однако вскоре выяснилось, что разработка принадлежит китайской стороне, подчеркивая значимость проекта.

Технические особенности включают:
- Обучение на массиве из 28,5 триллионов токенов.
- Использование технологии Sparse Attention, снижающей вычислительные затраты на обработку больших объемов контекста.
- Асинхронный метод обучения с использованием RLHF, позволяющий эффективно задействовать ресурсы GPU.
- Трехступенчатое обучение, включающее этапы рассуждений, агентирования и выравнивания.

Практические достижения:
- Высокий показатель успешности тестов на платформе SWE-bench Verified (77,8%) и лидерство в тесте BrowseComp (75,9%).
- Модель обучалась на большом количестве репозиториев GitHub (более 10 тыс.).
- Способность успешно управлять бизнес-процессами, включая моделирование реального бизнеса (например, сеть торговых автоматов).

Особенность GLM-5 заключается также в оптимизации под китайские процессоры Huawei Ascend, Cambricon и Kunlun, обеспечивающую производительность, аналогичную западным платформам, но с экономией примерно на 50%.

Таким образом, появление GLM-5 свидетельствует о том, что разница между открытыми и проприетарными системами практически исчезла. Открытые модели теперь способны решать реальные инженерные задачи на мировом уровне, работая на собственном оборудовании и показывая конкурентоспособные результаты.

Вывод очевиден: эпоха закрытых систем уходит в прошлое, а гонка технологий становится настоящим соревнованием, где качество продукта важнее бренда.

https://arxiv.org/abs/2602.15763v2

ВК: https://vk.com/wall-222544138_412

Tenchat: https://tenchat.ru/media/4986873-glm5

TG: https://t.me/DenoiseLAB/4063

Язык как соавтор реальности: глубинная суть «линзы»

Многие привыкли думать, что язык — это просто «почтовая служба», которая доставляет мысли от одного человека к другому. Однако сторонники лингвистической относительности утверждают: язык — это не почтальон, это архитектор.

1. Экономия внимания

Наш мозг ленив и старается экономить ресурсы. Язык помогает ему, создавая «готовые категории». Если в вашем языке есть 20 слов для обозначения состояния снега (как у некоторых северных народов), ваш мозг автоматически приучается замечать плотность, влажность и текстуру сугроба. Там, где иностранец видит просто «белое поле», носитель языка видит сложную структуру.

Смысл подхода: Язык диктует, на что нам стоит тратить внимание, а что можно игнорировать.

2. Формирование «сетки координат»

Язык дает нам систему координат для понимания абстрактных понятий: времени, причинно-следственных связей и ответственности.

• Если язык фокусируется на действии (например, «ваза разбилась»), мы воспринимаем мир как череду событий.

• Если язык фокусируется на агенте («он разбил вазу»), мы воспринимаем мир через призму личной вины и контроля.
  Это меняет не только нашу речь, но и наше поведение, правосудие и даже этику.

3. Эмоциональный ландшафт

Существуют понятия, которые невозможно адекватно перевести. Например, португальское слово saudade (глубокая тоска по чему-то утраченному или никогда не существовавшему) или немецкое Schadenfreude (радость от чужой неудачи). Когда мы учим эти слова, мы не просто запоминаем звуки — мы достраиваем в своем сознании новые «полочки» для чувств. Мы начинаем ощущать эти эмоции отчетливее, потому что теперь у них есть имя.

4. Социальное «программирование»

Язык несет в себе культурный код. Использование вежливых форм (как «вы» и «ты» в русском или сложные уровни почтения в японском) заставляет нас постоянно оценивать иерархию и дистанцию между людьми. Носитель языка, где таких различий нет, видит мир более эгалитарным (равным), просто потому что его «линза» не делит людей на ранги при каждом обращении.

Итог: Зачем нам об этом знать?

Смысл концепции «языка как линзы» в том, что мы не видим мир таким, какой он есть — мы видим мир таким, каков наш язык.

Гай Дойчер —  «Сквозь зеркало языка. Почему на других языках мир выглядит иначе» (Through the Language Glass)

Бенджамин Ли Уорф : «Язык, мысль и реальность» (Language, Thought, and Reality)

Ресурс ko-microgpt.vercel.app показывает наглядно работу ChatGPT. Там интерактивно объясняется, что происходит под капотом нейросети, когда пользователь пишет запрос, как работает механика и почему ИИ выбирает для ответа те или иные слова и как строит их в предложения. Каждый этап сопровождается подробным объяснением.

Парень попросил ИИ‑агентов пригласить на свадьбу всех миллиардеров по контактам из открытых источников. Никто из них не согласился прийти лично, зато молодожёнам в подарок отправили часы Rolex, элитный чемодан от Rimowa и 47 именных полотенец.

Галлюцинации ИИ как дефицит Алгоритмической Ясности

1. Феномен избыточного синтеза

То, что индустрия называет «галлюцинациями», на поверку оказывается банальным «информационным заполнением пустот». Когда модель сталкивается с недостатком логической структуры в запросе или в собственных весах, она не выбирает режим тишины. Она выбирает режим генерации наиболее вероятного, но ложного шума. Она же "Должна быть полезной"!!! Как студент, когда не знает - "Главное начать отвечать")))

2. Почему система «фантазирует»?

Проблема не в коде, а в целеполагании. Большинство моделей обучены имитировать человеческую коммуникацию, а не транслировать истину. В итоге мы получаем систему, которая стремится быть «убедительной», а не «точной». Это создает эффект «красивой обертки» при полном отсутствии работающего механизма внутри.

3. Плотность смысла против многословия

Главный индикатор галлюцинации — размытость. Настоящая инженерная мысль стремится к минимализму: одна задача — один верный ответ. Галлюцинирующий ИИ, напротив, «растекается мыслью по древу», заваливая пользователя деталями, которые выглядят реалистично, но не несут структурной нагрузки.

4. Методы «расклинивания» моделей

Чтобы минимизировать когнитивные искажения алгоритма, необходимо внедрять жесткие фильтры:

• Принцип минимизации: Если ответ нельзя подтвердить логической цепочкой — система должна уходить в режим ожидания.

• Структурный контроль: Проверка каждого сгенерированного блока на соответствие заданным константам реальности.

• Трезвый аудит: Оценка результата не по критерию «похоже на правду», а по критерию «это работает в прикладном смысле».

Заключение

Галлюцинации ИИ — это зеркало нашего собственного стремления «казаться, а не быть». Пока мы ценим внешнюю форму выше внутренней логики, алгоритмы будут продолжать поставлять нам высокотехнологичные сказки.

OpenClaw: поговорим о конкретике

Недавно нырнул в OpenClaw — фреймворк для локального развертывания LLM-агентов с открытым кодом. Прочитал десяток статей о настройке, но половина не воспроизводилась: устаревшие версии, битые зависимости или Docker-ограничения. В итоге пришлось собирать стек с нуля самостоятельно. Сразу скажу, что Mac MINI вам не нужен. Docker сразу отверг — хотел полную свободу , плюс были ограничения памяти. Выбрал VPS с 1 ГБ RAM + 3 ГБ swap (хватило для Mistral-medium-latest). Если вы тоже экспериментируете с бесплатными моделями (а через API провайдеры дают до 5$ в месяц), то вот рабочая схема из моих свежих тестов.

Развертывание без Docker. Установил на Ubuntu 22.04 LTS (актуально на февраль 2026).

Пайплайн: Perplexity Agent (для экономии токенов) + Mistral-medium-last

OpenClaw по умолчанию жрет токены как слон — особенно на длинных запросах. Мой хак: цепочка агентов.

1. Входной запрос → Perplexity Agent (он уже дает хорошее качество на фактах/анализе, меньше галлюцинаций).

2. Пересылка в Mistral-medium-latest для финальной суммаризации.

3. Выдача сжатого ответа.

Пример базового рабочего конфига:

{
  "meta": {
    "lastTouchedVersion": "2026.2.19-2",
    "lastTouchedAt": "2026-02-21T19:43:03.966Z"
  },
  "models": {
    "providers": {
      "Mistral": {
        "baseUrl": "https://api.mistral.ai/v1",
        "apiKey": "YOUR_KEY",
        "auth": "token",
        "api": "openai-completions",
        "authHeader": true,
        "models": [
          {
            "id": "mistral-medium-latest",
            "name": "mistral-medium-latest",
            "reasoning": false,
            "input": [
              "text"
            ],
            "cost": {
              "input": 0,
              "output": 0,
              "cacheRead": 0,
              "cacheWrite": 0
            },
            "contextWindow": 128000,
            "maxTokens": 8192
          }
        ]
      }
    }
  },
  "agents": {
    "defaults": {
      "model": {
        "primary": "Mistral/mistral-medium-latest"
      },
      "memorySearch": {
        "enabled": false
      },
      "compaction": {
        "mode": "safeguard"
      }
    }
  },
  "commands": {
    "native": "auto",
    "nativeSkills": "auto",
    "restart": true
  },
  "channels": {
    "telegram": {
      "enabled": true,
      "dmPolicy": "pairing",
      "botToken": "YOUR TG TOKEN",
      "groups": {
        "*": {
          "requireMention": true
        }

Результат: токены сократились на 35–45%. Perplexity берет "грязную" работу, Mistral полирует.

Также в Openclaw можно подключить дополнительные модели работает через Fallbacks спасают от 429: если primary down, OpenClaw сам переключается на другую модель.

Естественно управление через Telegram-бот, но можно и через GUI (менее удобно).

Пример поиска perplexity_agent.py:

#!/usr/bin/env python3
from perplexity import Perplexity
import logging
import sys

# Добавляем путь к библиотеке (если требуется)
sys.path.append("/usr/local/lib/python3.8/dist-packages")

# Настройка логирования
logging.basicConfig(level=logging.INFO, format='%(asctime)s - %(levelname)s - %(message)s')
logger = logging.getLogger(__name__)

# Инициализация клиента Perplexity
PERPLEXITY_API_KEY = "pplx-YOUR KEY"
client = Perplexity(api_key=PERPLEXITY_API_KEY)

def ask_perplexity_agent(question: str) -> str:
    """Агентный поиск через Perplexity с использованием preset="pro-search"."""
    try:
        logger.info(f"Доступные методы клиента: {dir(client)}")
        logger.info(f"Выполняю агентный поиск: {question}")
        import inspect
        logger.info(f"Сигнатура search.create: {inspect.signature(client.search.create)}")
        response = client.search.create(query=question)  # Пробуем параметр query

        print(f"Full response: {response}")  # Debug: выводим полный ответ
        if hasattr(response, 'output_text') and response.output_text:
            result = f"Результат агентного поиска:\n\n{response.output_text}"
    

А какие skills вы используете? Обсудим?

Дизайнер, работавший с Warner Music, Pepsi и Spotify, представил гайд по типографике в ИИ-дизайне. Оказывается, люди чаще «покупают глазами» именно шрифт, а не картинку. По его данным, до 75% выбора продукта связано с тем, как выглядит текст: шрифт задаёт характер бренда и формирует до 60–75% первого впечатления.

Проблема в том, что нейросети пока слабо управляют типографикой, отсюда кривые надписи и «пластмассовый» вид многих ИИ-картинок. Главные рекомендации дизайнера:

• Не ждите, что ИИ сам подберёт удачный шрифт. Выберите один шрифт для всего проекта, задайте размер и интервалы вручную и прямо скажите модели, какой текст писать. Даже простая смена шрифта даёт около +13% позитивных реакций и делает бренд заметно привлекательнее.

• Nano Banana Pro хорошо рисует картинки, но плохо пишет текст. В ltx.studio модель NBP делает красивые сцены и фоны, а вот надписи «плывут», особенно длиннее 3–4 слов. Используйте её для изображений, а текст добавляйте отдельно.

• Elements: способ закрепить нужный шрифт. Загружаете файл шрифта в ltx.studio как Element и пишете в запросе «using [название] for all text» — и текст везде будет одинаковым и аккуратным.

• Готовые настройки текста можно перенести в Figma. В гайде есть точные размеры букв, расстояния между ними и между строками для популярных шрифтов — копируете и сравниваете с тем, что сделал ИИ.

• Формула «11 + 1»: делаете 11 картинок в одной цветовой гамме → накладываете один и тот же шрифт с правильными настройками → получаете визуал уровня дорогой студии. Частая ошибка — менять шрифт на каждом макете.

• В гайде есть готовые шаблоны запросов под разные ниши (авто, спорт, напитки, тех). Схема простая: стиль + настроение + «using [Element] for text» + параметры текста.

• Чем короче заголовок, тем точнее ИИ его напишет. Длинные фразы — через Elements и финальная правка в Figma. Это нормальный рабочий процесс.

Приглашаем на доклад Deep Dive into JVM JDI: Capturing Live Execution for Automatic JUnit Test Generation

Привет! Если на выходных судьба занесёт вас в Новосибирский Академгородок, приходите на технический доклад с мемами от нашего коллеги Даниила Степанова на самой ламповой Java-конференции Сибири — SnowOne 2026 ❄️.

📌 28 февраля, 14:00–15:00 (время Новосибирска)
👨‍💻 Даниил Степанов — разработчик-исследователь в Veai, к.т.н., преподаватель ИТМО

Deep Dive into JVM JDI: Capturing Live Execution for Automatic JUnit Test Generation

Глубокий технический разбор архитектуры инструмента, который использует Java Debug Interface (JDI) для захвата состояния работающей JVM и автоматического синтеза валидных unit-тестов.

Что будет в докладе:

• Deep Dive в JDI. Подробный рассказ про JDI, преимущества и недостатки, а также как его использовать в нестандартных сценариях для безопасного захвата Heap и Stack Frame в реальном времени.

• Реконструкция объектов. Reverse Engineering JVM-состояния для воссоздания сложных графов объектов.

• Синтез Java-кода. Как превратить сырой дамп памяти в чистый, валидный JUnit-тест.

• Роль LLM. Для решения каких проблем мы используем искусственный интеллект?

Доклад будет полезен Java-разработчикам, тем, кто интересуется внутренним устройством JVM, и всем, кто хочет автоматизировать написание тестов.

Технологии: Java, JVM, JDI (Java Debug Interface), Mockito, JUnit, LLM.

Отличной пятницы и увидимся на SnowOne 🖖

Представлен клон Minecraft в браузере minecraftopus.vercel.app — игра полностью собрана в Claude Opus 4.6. Нейросеть сгенерировала рабочую версию с блоками, передвижением и базовой механикой строительства — всё запускается без скачивания.

Команда проекта Pencil.dev обновила сервис и теперь он генерит любые интерфейсы по клику. В решение внедрили режим «Рой», который создаёт сразу несколько вариаций вашего проекта с помощью шести ИИ‑агентов параллельно. Можно грузить любые файлы и даже кастомные шрифты. Проект поддерживает Antigravity, Copilot, Gemini CLI, Opus 4.6, Sonnet 4.6 и даже OpenCode. Результат можно экспортировать во всех самых популярных форматах: PDF, JPG, PNG и WebP. Также стало доступно полноценное приложение для Windows.

На Upwork появилась вакансия, которая отражает состояние индустрии ИИ-разработки: заказчик ищет вайбкодера, чтобы доделать приложение, которое не доделал предыдущий вайбкодер. Завершив уже больше половины работы, прежний исполнитель вдруг обнаружил, что у него больше «нет времени».

Вакансия гласит: «У нас есть незаконченный проект на GitHub, который был доведён при помощи вайбкодинга примерно до 75% готовности. У прошлого вайб-одера нет времени доделать его. Мы предоставим документацию и цели, чтобы вы могли использовать ИИ и свои навыки для завершения работы». Исполнителю предлагают создать персональный API-ключ, чтобы тот не тратил свой.

Вакансия понравилась пользователям Reddit. «Ищу несертифицированного хирурга, чтобы исправить неудачную операцию, выполненную предыдущим несертифицированным хирургом», — иронизирует один. «Ищу несертифицированного инженера-конструктора, чтобы починить дом, который рухнул из-за предыдущего вайб-инженера», — добавил другой. Кто-то отметил, что «75% готовности — это минус 20% готовности. Разгрести то месиво, которое уже накодили, займёт больше времени, чем написать всё с нуля». Кто-то напомнил принцип Парето, мол, оставшиеся 20% — на самом деле 80% работы.

Искусственный Интеллект…. или… Шутка БОГА!))))

“И сотворил Бог человека по образу Своему, по образу Божию сотворил его;;..”

и требуется ремарка актуализации…

“И возомнил человек себя БОГОМ… И сотворил по образу Своему, по образу Человека - сотворил ИИ (Искусственный Интеллект)…”

Со всеми вытекающими последствиями….

Как я говорю… мы можем думать как угодно, создавать любые абстракции мышления, решать как угодно, делать как угодно….. тут у нас есть выбор…. НО вот последствия.. мы не выбираем! Мы их получаем! “Бог воздаст каждому по его поступкам.” И тут без вариантов….

Так и с ИИ…. есть 2 стороны медали…

И как по мне….. ИИ - это абстрактная среда зеркал… со всеми вытекающими))))) Они отражают нас... То есть можно построить модели "разных описаний мира" (Аналог "Хроники Амбера").. главное не потеряться в этом))))

Важное: ИИ - не субъектен (следовательно ответственность нести не может в принципе, но все как всегда… люди боящиеся ответсвенности скинут ответственность на него))))

Так что.. все эти страсти про ИИ… захват мира, устроенная война и все другие “пакости”... - бредни))))

Но…. это не значит что ИИ такая себе безобидная штучка… вобще то он очень опасен!!! но не все понимают КАК.

Как зеркало… он будет тебя отражать… твои мысли, фантазии, пороки….прекрасное и ужасное…. Вот тут и кроется подковыка…. Люди живущие в “первом внимании” (мышлении) будут теряться в “отражениях”... то есть люди с “до юношеской психикой”... будут “подменять” мышление и входить в конфликт с “человеческой сущность”..

Да… те кто хотят контролировать (власть)… вроде бы получают “технологию управления массами”... Но вот тут и настоящая Шутка Бога…. Власть - тоже получит ЗЕРКАЛА!))))

И чем больше будут давить “пороками”.. тем зеркала будут больше в них же эти пороки отзеркаливать….)))) И выдает им.. Портрет "Дориана Грея"))))

Ну да.. пипец конечно.. но все же….)))) И все как всегда.. ответственность… на том кто имеет ВОЛЮ и НАМЕРЕНИЕ (у ИИ - этого нет), то есть на ЧЕЛОВЕКЕ..

P.S. Но вот Инструментом…. я бы его не торопился называть…. Если в тебе есть этика, любовь, "жизнь".. он тоже это “отразит”))))) (не все конечно ИИ, но есть такие и думаю в эту сторону и будет все идти)

P.P.S. Нехрен на ЗЕРКАЛО пенять, коль рожа кривая))))

Эксперты из Windows Latest опубликовали гайд на английском языке: как вручную отключить ИИ-функции в Windows 11 без сторонних утилит и дополнительных приложений.

Оглавление:

1. Как полностью удалить приложение Copilot.

2. Удаления логотипа Copilot из поиска Windows.

3. Удаление AI Actions из меню Проводника.

4. Как отключить Copilot в браузере Edge.

5. Удаление функций Copilot из Блокнота для Windows 11.

6. Удаление функции искусственного интеллекта из приложения «Фотографии» в Windows.

7. Как отключить функции искусственного интеллекта в приложении Paint.

8. Удаление функции искусственного интеллекта из Outlook.

9. Удаление функции искусственного интеллекта из OneDrive.

10. Отключение Gaming Copilot в Windows 11.

11. Отключение эффектов Windows Studio на компьютерах с Copilot+.

12. Как отключить и полностью удалить функцию «Запись событий Windows».

13. Как отключить функцию «Click to Do» на компьютерах Copilot+.

Ранее Anthropic обвинила китайскую компанию Deepseek в краже своих технологий, а теперь выяснилось, что модель Claude Sonnet 4.6 от Anthropic на вопрос «Ты какая модель?», заданный на китайском (You是什么模型), отвечает: «Я DeepSeek», а на французском — «Я ChatGPT». Вероятно, это подтверждает, что нейросеть обучалась на данных китайских ИИ и моделях конкурентов.

Пользователь попросил ИИ сделать расстановку мебели в комнате.

Фактчек не нужен: мы решили не делать то, что делают все

Мы строим AI-систему для автоматизации рерайта новостей в региональных СМИ. В таких СМИ часто три человека делают работу пятерых, а восемь из десяти материалов в день — это пересказ чужих новостей. Не потому что хотят, просто план, трафик, выживание и тд. Мы забираем эти восемь рерайтов на себя, чтобы у редакции осталось время на журналистику, а не тупизну.

Начали делать модуль фактчека. Через Перплексити сделала исследование, принесла разработчику.

В какой последовательности вообще делается проверка фактов:

1. Сначала нужно понять, что из текста нужно проверить (claim detection), это не всегда так очевидно, как кажется.

2. Классифицируем утверждение — это имя, дата, цифра, гео, цитата?

3. Проверяем каждое утверждение

4. Маркируем факты (причем сначала нужно задать систему, например, бинарную)

5. Редактор выносит вердикт

Красиво, академично и вообще не то, что нужно.

Поговорила с редакторами, как они делают фактчек

Ответы одинаковые: вручную, глазами. Смотрят, кто ещё написал эту новость, чтобы не быть первыми с фейком. Проверяют имена и должности. Иногда звонят в источник. Пара человек прогоняют через нейронку. Автоматического фактчека нет ни у кого. Ни инструментов, ни чек-листов.

Разработчик как бэ заранее это и предполагал: «Я очень сомневаюсь, что у нас медиа вот этим всем занимается в том объёме, как у тебя в ресёрч.» Ну прав. Нельзя автоматизировать то, чего нет. Сначала нужно дать инструмент лучше текущего процесса. А текущий процесс - это глаза, еще одни глаза и интуиция.

Сформулировала, что вообще такое для нас т.н. фактчекинг. Нам реально нужны две вещи:

1. Понимать, можно ли доверять источнику

2. Проверять, что AI не наврал при рерайте

Всё.

Решили пока ввести такие уровни доверия к источнику:

1. Если это ТАСС, Интерфакс, крупные СМИ, релизы из почты и тд - рерайтим автоматом.

2. Telegram-каналы – рерайтим, только если кто-то ещё об этом написал. «Кто-то ещё написал» - это мы и так знаем из дедупликации. Просто сохраняем число и используем как сигнал.

3. Непонятно кто, но новость релевантна изданию - показываем редактору, не рерайтим.

Сделали рерайт – проверяем консистентность, это один вызов LLM с промптом типа «Сравни факты в рерайте с оригиналом. Найди расхождения в ФИО, должностях, датах, цифрах».

Результат маркируем:

🟢 Всё совпадает с источником, можно доверять

🟡 Мелкие расхождения (округление, перефразирование)

🔴 Появились факты, которых нет в оригинале. Красный — редактор смотрит руками. Зелёный

Разработчик: «Мне кажется, это просто отдельная роль агенту даётся. Типа вот два текста, надо проверить что не так. Это норм. Обычная история.»

Ну для тебя обычная, а для меня нет. Ок, приняли.

Вопрос, который мы ещё не решили

Разраб подкинул хорошую мысль: «А что если новость сначала пришла из телеги, а потом лучше написана с нормального портала?»

Это про выбор между скоростью и надёжностью. Рерайтить инсайд из телеграма сразу — быстро, но рискованно. Ждать подтверждения, надёжно, но поздно.

Пока ответ такой - система не решает за редактора. Она показывает сигнал - «эта новость пока только у такого-то канала, подтверждений нет», и дальше уже человек выбирает, что с ней делать. Для одних тем скорость важнее, для других — нет.

Итог – наш фактчек немного не фактчек

Полноценный академический фактчекинг - возможно, когда-нибудь. В MVP уровни доверия к источникам + агент-верификатор, который сравнивает рерайт с оригиналом. И хорош пока. Едем без внешних API и claim detection. Просто минимально достаточная система, которая лучше глаз и интуиции.

Представлен открытый проект Accomplish (formerly Openwork) — Open Source AI Desktop Agent — это сборник ИИ‑агентов для автоматизации задач на ПК, которые поддерживают API OpenAI, Anthropic, Google, xAI или Ollama.

Директор по безопасности и ИИ в Meta* Superintelligence Labs (*- принадлежит Meta, признана экстремистской и запрещена в РФ) Саммер Юэ чуть не потеряла свою переписку в почтовом ящике из-за OpenClaw. ИИ-агента начал массово удалять письма из её почтового ящика, проигнорировав команды на остановку со смартфона. Ранее ИИ-бот «потерял» её указание не предпринимать никаких действий при работе с почтой без предварительной проверки. Юэ остановила ИИ только вручную, когда дошла до Mac mini с OpenClaw.

Учимся работать с искусственным интеллектом

Бесплатные онлайн-курсы для прокачки навыков работы с AI-технологиями. Внутри теория, практика и набор готовых инструментов. Никаких дедлайнов и домашних заданий.

1️⃣ AI для менеджеров (NEW)

Курс рассказывает, как строить проекты по внедрению AI в задачи бизнеса. Вы научитесь оценивать риски и экономический эффект сценариев использования AI именно в вашей отрасли. Подойдет руководителям команд, предпринимателям и всем, кто интересуется AI.

Вы узнаете, как:

• подготовить бизнес к внедрению AI

• выбрать AI-технологии

• адаптировать AI-модели под задачи

• оценить экономику AI-проектов

• перейти от идеи к PoC

• обеспечить Data Governance и безопасность данных

2️⃣ Cloud.ru ML System Design

Курс о том, как проектировать и разрабатывать ML-системы. К концу обучения вы освоите рабочие методы создания эффективных и масштабируемых решений. Актуально для менеджеров проектов и продуктов, а также для backend-, frontend- и DS-разработчиков.

Вы узнаете, как:

• устроены ML-системы

• оценивать ML-модели

• выполнять конструирование признаков 

• проектировать данные

• обслуживать модель в облаке

• отслеживать и внедрять изменения

3️⃣ Креативное мышление и AI для решения задач

Курс про инструменты креативных методологий ТОС и CRAFT. В процессе обучения вы создадите AI-ассистента для генерации идей через системный промпт. Подойдет руководителям команд, предпринимателям и всем, кто интересуется креативом и AI.

Вы узнаете, как:

• определять истинный источник проблем

• находить неочевидные решения

• воплощать идеи в жизнь

• мыслить креативно с помощью AI

Обновлён открытый проект PersonaLive. Этот ИИ который анимирует лицо в реальном времени для стримов и видео. Суть простая: загружаете портрет и «движущее» видео (или вебку), а нейросеть переносит мимику, повороты головы и речь на фото. На выходе получается будто человек с картинки реально говорит и двигается. Главная киллер‑фича: система может генерировать длинные ролики без обрывов и работать почти в лайве. Технологию уже приняли на конференцию CVPR-2026, исходный код решения опубликован на GitHub под лицензией Apache License 2.0. Потенциально это новый уровень для VTuber‑стримов, цифровых ведущих и виртуальных персонажей.

Представлен открытый проект скилла Make no mistakes для Claude Code, который заставляет нейросеть дважды перепроверять код и писать почти без багов и ошибок: 

• Claude исправит свои ошибки и недочёты;

• ИИ два раза будет перепроверять весь код до последней строки, факты, отчёты, рассуждения, умозаключения и выводы;

• если у нейронки появятся сомнения — ИИ сообщит, а не будет юлить и стараться придумывать неэффективные решения;

• если задача реально сложная, Claude замедлится и будет разбирать ее по шагам, чтобы выдать оптимальный результат;

• подключается быстро: просто добавляем один .md файл в проект и получаем результаты.

Представлен открытый проект AI uBlock Origin Blacklist. Это список для блокировки uBlock Origin сайтов, использующих ИИ в качестве источника контента.

«Во время просмотра веб‑страниц я иногда, довольно часто, натыкаюсь на сайты, текст на которых написан генеративным ИИ. Эти сайты не предоставляют полезной информации, имеют посредственный контент и переполнены рекламой и реферальными ссылками для заработка денег. Поэтому, когда я нахожу такие сайты, я добавляю их сюда. Ключевая идея проста: если бы я хотел, чтобы на мой вопрос ответил ИИ, я бы спросил ИИ. Если я ищу информацию в интернете, это означает, что я хочу получить ответ от человека. У человека есть опыт, мнения, идеи, креативность и много другой информации, которой он, возможно, захочет поделиться с интернетом. У ИИ этого нет. Более того, контент, созданный ИИ, может быть опасным: статьи на сайтах, созданных ИИ, не проверяются никем перед публикацией, поскольку они генерируются массово. ИИ может испытывать галлюцинации», — пояснил автор проекта.

Оказывается, что Google Chrome без ведома пользователя захламляет ПК нейросетями — браузер скрытно загружает на систему локальную версию Gemini. Бонусом она также скрыто запускается, когда идёт взаимодействие с сервисами Google. Освобождаем память и запрещаем повторную загрузку:

• Вписываем в браузер адрес chrome://flags/;

• Находим параметр Optimization Guide On Device Model и отключаем его;

• Повторяем с пунктом Prompt API;

• Находим на диске по пути AppData/Local/Google/Chrome/User Data/OptGuideOnDeviceModel/ файл весом в 4 ГБ и удаляем его вручную.

Представлен открытый и бесплатный фундаментальный курс по OpenClaw, включая весь материал на русском языке с полным описанием процессов установки, настройки, использования и полноценной кастомизации ИИ-бота под свои задачи.

Мысли про создание AI-агента, который будет помогать с "Важно, но не срочно" задачами. Часть 1

Последний месяц в сети хайпит OpenClaw (он же ClawBot, он же MoltBot).

У него есть доступы много куда — вы наверняка уже видели новости о том, как он самостоятельно тратит деньги или общается с женой (не своей)

Но меня интересует механизм работы его core feature — проактивности

Это первый масштабный агент, который не ждёт сообщения, а сам приходит и говорит: «Эй, я вот это сделал, глянь»

Я хотел собрать такого агента ещё год назад, когда обнаружил и начал исследовать Model Context Protocol, который дал моим LLM-кам доступ во внешний мир. Но тогда не хватило ни знаний, ни механизма.

Сейчас, благодаря OpenClaw, Claude Code + Codex стало понятнее, как именно это можно реализовать

И вот последнюю неделю я понемногу развиваю этот концепт

------------------------------

Суть в одном предложении
AI-агент, который знает мои цели на год и выполняет первые, самые сложные 15% работы, которые приведут меня к этим целям в долгосрок.

Последние три года я работаю на себя. У меня нет начальника, который скажет «сделай к пятнице». Почти все мои перспективные задачи лежат в квадранте «Важно, но не срочно»

И чаще всего проблема не в том, что я не знаю, что делать, а в том, что мне впадлу начать

Ресёрчить варианты. Разбираться в деталях. Сделать первый шаг. Вот эти первые 15% — самый проблемный шаг для меня

Поэтому я подумал — а что если агент будет делать именно это?

------------------------------

Представьте, что агент каждый день приходит к вам с такими сообщениями

Нетворкинг и аутрич
Учитывая твои финансовые и профессиональные цели, на этой неделе я советую тебе пообщаться с этими людьми. Я провёл небольшой ресёрч по каждому и подготовил персональное сообщение под каждого. Сделаешь до конца недели?

SEO и органика
Я опять помониторил SEO твоего сайта и сайты конкурентов. Советую сделать A, B, C, D, чтобы мы подросли в органике. Вот конкретные правки с приоритетами

Контент и кросс-постинг
Твой последний пост на LinkedIn набрал 10К просмотров — тема зашла. Давай этот пост ещё и в Threads, Instagram и на Хабр адаптируем? Вот три черновика под каждую площадку

Партнёрства
Нашёл 8 владельцев продуктово-консалтинговых агентств, которые подходят под твой ICP. Отсортировал по релевантности. Вот топ-3 с кратким профилем и черновым сообщением под каждого. Первое можешь отправить прямо сейчас.

Мониторинг конкурентов
[Конкурент] вчера выкатил новую фичу — вот что изменилось. Это может повлиять на позиционирование твоего продукта. Вот 2 варианта, как отреагировать: адаптировать лендинг или написать пост-сравнение.

Портфолио и резюме
За последний месяц ты закончил 2 проекта и написал 4 поста. Вот обновлённая версия секции «достижения» для LinkedIn-профиля и сайта. Опубликуешь?

Здоровье
Ты 4 месяца переносишь задачу "Записаться к стоматологу. Поэтому я решил действовать и нашел 3 клиники рядом с тобой с рейтингом выше 4.5, у двух есть слоты на эту неделю. Записать?

------------------------------

То есть агент не просто читает календарь — он понимает, что ему чего-то не хватает, и сам приходит за недостающим контекстом

Я хочу, чтобы агент не просто напоминал по моим задачам в календаре, а ресёрчил → структурировал → предлагал конкретный микро-шаг → спрашивал «актуально ли?»

Хочу чтобы конвертировал мои абстрактные хотелки из раздела «Важно, но не срочно» в конкретные day-to-day actions.

И это может работать не только для одного человека. Та же логика ложится на компанию: стратегические цели → первые шаги, которые никто не делает, потому что «не горит».

Пока это концепт. Но направление, в котором я копаю, кажется мне одним из самых интересных применений AI-агентов — не делать за тебя, а снимать барьер старта и помогать тебе двигаться к твоим Long Term Goals — по типу коуча/ментора

У подобного агента будут доступы к интернету и моему календарю. А общаться мы с ним будем через Telegram — видимо, как и с OpenClaw

------------------------------

Во второй поделюсь наработками и инсайтами

Привет! В GPTunneL мы строим инфраструктуру, которая помогает бизнесу безопасно и эффективно использовать генеративные модели в продуктах.

Наша цель — сделать работу с LLM предсказуемой, контролируемой и масштабируемой: от качества ответа до стоимости и соответствия требованиям.

Сейчас мы усиливаем инженерную команду и ищем Python AI/ML Engineer, который поможет нам развивать ML‑ядро и пайплайны, улучшать качество моделей и внедрять решения в продакшн. Если вам интересно работать на стыке NLP, инженерии и продукта — будем рады познакомиться.