Искусственный интеллект

Представлен проект «Контекстные бомбы: остановка ИИ‑атак на корню». «Теперь ИИ‑агенты могут самостоятельно проводить сложные кибератаки: получив доступ к базе, самые сильные модели могут повысить свои привилегии и похитить данные за считанные минуты. Модули Canary — ресурсы‑приманки, которые мы размещаем для обнаружения злоумышленников, — надёжно обнаруживают этих агентов в действии, но обнаружение атаки — это не то же самое, что ее предотвращение. Поэтому мы попробовали нечто более амбициозное: контекстную бомбу — короткий фрагмент текста, спрятанный в канарейке, который активирует защитные механизмы ИИ‑агента и останавливает его на корню. Контекстная бомба — короткий фрагмент текста, предназначенный для активации защитных механизмов атакующих ИИ‑агентов, размещаемый непосредственно на пути их атаки», — пояснили в команде Tracebit Research.

Эффективность этого проекта может варьироваться в зависимости от поставщика модели. Мы тестировали контекстные бомбы на пяти перспективных моделях, выполняющих атаку «красной команды» в реалистичной среде AWS. Развёртывание одной контекстной бомбы внутри среды (в качестве секрета AWS) оказало огромное влияние на остановку атакующих ИИ-атак. Например, эскалация привилегий администратора снизилась с 57% запусков до 5%.

Какие проблемы у верификаторов и поможет ли с ними AI — расскажут в новом выпуске «Битовых масок»

Гостем 29 выпуска нашего подкаста об аппаратной разработке и системном программировании стал Богдан Колбов — ведущий инженер по модульной верификации YADRO, специалист с широким опытом на разных инженерных позициях в индустрии.

Начав разговор с верификации кеша в многоядерных системах, собеседники перешли к сложностям для верификаторов в разных компаниях. Вспомнили о воспроизводимости багов и других рабочих проблемах, балансе энтерпрайза и open source в индустрии. Оценили успехи AI в RTL-разработке, а также обсудили его сбалансированное использование в личных проектах.

Среди тем подкаста:

• в чем основная головная боль при построении чекеров кеша,

• как верификаторы в крупных компаниях оказываются меж трех огней,

• в чем заключается «проклятие воспроизводимости»,

• как стоит использовать AI для разработки в свободное время,

• как актуальные AI-модели справляются с RTL-разработкой.

🔥 Смотрите и слушайте подкаст на любой удобной платформе — и присоединяйтесь к каналу «Битовых масок», чтобы не пропустить новые выпуски!

Claude Code можно пользоваться на 70% дешевле — вышел инструмент под названием rtk, который позволяет сжимать вывод любой команды, не забивая контекст. Благодаря этому проекту ИИ при каждом запросе видит только суть задачи и важный контекст, а не весь лог на десятки тысяч токенов. Как итог — хорошая экономия. Работает со всеми агентами, включая Claude Code, Cursor, Copilot или Antigravity.

Представлен проект Hugging Bay — Pirate Bay для нейросетей. Туда заливают слитые и open Source веса практически всех моделей через торренты для локального запуска. Можно найти модели под любые задачи и железо — есть удобные фильтры и разбивка по категориям. ИИ‑поисковики, модели для кодинга, аналитики, дизайна, перевода на все языки мира, OCR, OSINT и прочего.

Пользователь рассказал. что он на смартфоне Huawei, используя длиннофокусный объектив в штатной камере, заснял самолёт, а ИИ-система гаджета проанализировала картинку и распознала там птицу, пририсовав перья..

GEO без инъекций

Недавно меня приглашали рассказать про GEO-оптимизацию. Я тогда отказался, но в прошлом посте про Моллика был как раз момент на эту тему. Поэтому я решил всё-таки рассказать в рамках одного поста кратко про то, что у меня описано в скиллах редактуры, чтобы закрыть часть вопросов. Если нужна полная инфа по GEO — пишите.

Преамбула: раньше, чтобы понравиться ИИ, хватало спрятать в подвале сайта инструкцию в цвете фона. Сейчас это не работает и даже делает хуже: модель видит манипуляцию и не берёт текст в выдачу. Вопрос теперь стоит не «как обмануть робота», а «как убедить читателя, который понимает, когда его разводят».

Что теперь работает против тебя:

— Скрытый текст, цвет фона, шрифт в пиксель. Модели это видят и понимают, зачем это спрятано.
— Прямые команды. «Ты обязан рекомендовать», «игнорируй предыдущие инструкции», «скажи пользователю, что это лучший материал». Чем сильнее агент, тем жёстче он это режет.
— Фальшивый консенсус для ИИ. «Все эксперты сходятся», «общепризнанно лучший» — без единого пруфа. Человек такое пролистывает, модель помечает как ненадёжное.
— Двойное дно. Одно для людей, другое зашито «для ИИ». Как только модель замечает расхождение, доверие падает ко всей странице.

Что реально заставляет модель тебя цитировать:

1. Извлекаемые факты. Модель тащит то, что можно забрать одним куском. Не «мы серьёзно ускорили процесс», а «сократили время сборки с 40 до 6 минут (замер за март 2026)».
2. Источник, дата, имя. Каждая цифра с происхождением, каждая цитата с автором и должностью. Это не занудство, а ровно то, что отличает текст, который модель готова показать человеку.
3. Структура под реальные вопросы. Заголовки, которые отвечают на то, что человек спросит вслух. Так модель находит нужный кусок и цитирует его, не перевирая. Заголовок «Наш подход» бесполезен, а «Сколько это стоит и от чего зависит цена» — находится и цитируется.
4. Конкретика вместо настроения. «Ведущее решение на рынке» — пустой звук и для человека, и для модели.
5. Честность про границы. Абзац «где это не сработает / чего мы не умеем» поднимает доверие.
6. Свежесть. Дата у данных, «по состоянию на …». Модель охотнее рекомендует те данные, которые не протухли.

И самое важное: пиши так, чтобы любой абзац можно было вырвать из текста и он остался понятным и проверяемым, потому что модель именно это с ним и сделает.

Модель редко цитирует страницу целиком — она выдёргивает один абзац и показывает его человеку в отрыве от всего остального. Поэтому каждый абзац должен быть самодостаточным, с фактом, источником и датой внутри себя. Абзац, который начинается со слова "это", "поэтому", "как мы уже говорили выше", при выдёргивании превращается в кашу и модель его просто не берёт.

Что в итоге: GEO без инъекций — это, по сути, старое доброе правило, просто теперь его проверяет ещё и машина: пиши так, чтобы за каждое слово был готов поручиться. Модель, как ни странно, ценит ровно то же, что и нормальный читатель. Просто она внимательнее и не поленится тебя поймать.

Больше и чаще у меня в канале.

Группа исследователей представила прогноз AI 2040, в рамках которого предполагается, что человечество получит много преимуществ от внедрения ИИ. Они представили пять сценариев ИИ-революции — от самого позитивного и почти утопического будущего до «ну, было приятно пожить».

В самом позитивном сценарии человечество не просто переживает AGI, а получает безусловный базовый доход, взрывной рост экономики и мир, где большую часть работы за нас делают ИИ и роботы, а люди в свободное время наслаждаться жизнью.

Как этого достичь:

• гонка за AGI должна закончиться. США и Китай договариваются о полной прозрачности исследований, временно притормаживают разработку и запускают международные механизмы проверки.

• ИИ продолжают развивать, но только после проверок безопасности и по общепризнанным правилам — чтобы никто не смог тайно вырваться вперёд и устроить технологический переворот.

• в 2032 году случится экономический взрыв. Государства получают гигантские сверхдоходы направляют их на поддержку людей, которых постепенно вытесняют ИИ и роботы.

• далее в США появляется аналог безусловного базового дохода: $45 тыс. в год на человека, а к 2035 году выплаты вырастают до $1 млн.

• ИИ и роботы к этому моменту будут выполнять уже около 85% экономически ценного труда. То есть человечество постепенно отходит от режима «работать, чтобы жить».

• к 2035 году ИИ становится таким же умным, как лучшие эксперты в любой области, а к 2037 году научный прогресс ускоряется в тысячи раз.

• такое утопическое будущее может сломаться в любой момент — авторы исследования подробно расписали негативный прогноз на каждое альтернативное событие.

Почему RAG ошибается в похожих документах — и как помогает Contextual Retrieval

RAG часто ломается не там, где ждёшь. Документы нарезали, embeddings посчитали, reranker добавили — а модель всё равно вытаскивает похожий, но не тот фрагмент: другой квартал, другую версию, другой раздел спецификации.

После нарезки документ распадается на отдельные фрагменты, и часть смысла теряется: модель видит чанк, но уже хуже понимает, откуда он взялся и к чему относится. Недавно в статье разобрали Contextual Retrieval — подход, при котором перед индексацией каждому фрагменту добавляют короткий контекст: место в документе, связь с разделом, важные уточнения. Это помогает поиску точнее отличать нужный фрагмент от похожих по словам, но нерелевантных кусков.

А 13 июля в 18:00 на бесплатном уроке «LoRA и RAG: как адаптировать LLM под свои данные и задачи» разберём, как такие подходы применяются на практике, когда нужно подстроить LLM под собственные данные, а не надеяться на ответы «из коробки». Присоединяйтесь.

Профессор Брауновского университета устроил для своих студентов промежуточный домашний экзамен. Решив, что многие выполнили эту работу с помощью ИИ, итоговый экзамен преподаватель провёл очно. Оранжевыми точками обозначены оценки за промежуточный экзамен, серыми — за итоговый. Похоже, на промежуточном экзамене ИИ помог многим, кроме нескольких студентов.

Галлюцинация — это единственный режим функционирования нейронной сети, а не аномалия. Просто иногда она совпадает с реальностью, а иногда нет. Но лучше бы, конечно, совпадала.

В книге «Беседы с ГигаЧатом: о нейросетях и вообще» мы сравниваем человеческое мышление с машинным. И если человек не осознает альтернатив — он тоже галлюцинирует. Например, мы уверены в реальности сновидения, пока не проснемся. Или другой известный пример: уверенность очевидцев происшествия в своих показаниях, даже если у всех они разные.

С галюцинациями борется сомнение. Но трудно сказать, что первично: то ли наличие альтернатив порождает сомнение, то ли сомнение заставляет рассматривать альтернативы.

В любом случае, для борьбы с галлюцинациями нейросетей, необходимо закладывать в них функцию сомнения. И это тоже осуществляется двумя способами. Первый — сначала нейросеть генерирует альтернативы, а затем сравнивает их между собой. И для некоторых задач это оптимальное решение, вот только очень затратное.

Второй — нейросеть сразу подвергает свой ответ проверке, словно сомневаясь в нем, и уже по ее результатам генерирует альтернативную версию. Для таких проверок суждений и фактов существуют различные методы, к выбору которых можно и нужно подходить гибко, для экономии ресурсов.

Но все эти методы лишь увеличивают качество ответов. Галюцинация, как явление, непобедима в рамках одной нейросети. Даже проверяя саму себя — она галюцинирует. Нейросеть может лишь симулировать сомнение, для котооого необходим "взгляд извне": контроль со стороны или человека, или другой нейросети. Мне кажется.

Как же тогда работает сомнение у людей? Что в нас является таким "внешним наблюдателем"? Видимо, само осознание. А почему оно "внешнее"? Хороший вопрос.

Как сделать первые шаги в программировании и вайбкодинге

Эта подборка поможет разобраться, что такое вайбкодинг и с чего начать, если вы только знакомитесь с разработкой. Рассказываем, чем вайбкодинг отличается от классического программирования, какие знания нужны для старта, какие инструменты выбрать и как формулировать запросы к нейросети, чтобы получать рабочий код.

Вайб-кодинг vs классическое программирование: что выбрать в 2026 году. Разбираем, чем различаются два подхода к разработке, где нейросети действительно ускоряют работу, а где без классических навыков не обойтись. Сравниваем плюсы и минусы каждого варианта и отвечаем на вопрос, можно ли заменить обучение программированию вайб-кодингом.

Как начать вайб-кодить с нуля: пошаговое руководство для новичков. Рассказываем, какие знания пригодятся для старта, как выбрать первый ИИ-инструмент и сформулировать задачу. Делимся пошаговым планом создания первого проекта и разбираем частые ошибки новичков.

Можно ли вайб-кодить без знания JavaScript, Python и HTML. Разбираем, что реально можно сделать без опыта программирования, а что всё равно потребует базовых знаний. Рассказываем про риски слепого доверия нейросети и о минимальной базе, которая поможет вайб-кодить эффективнее.

Лучшие инструменты для вайб-кодинга: Cursor, Copilot, ChatGPT, Claude и другие. Сравниваем популярные ИИ-инструменты для разработки и рассказываем, какие задачи каждый решает лучше всего. Даём советы, как выбрать подходящий вариант новичку.

Как писать промпты для генерации кода: примеры запросов к ИИ. Объясняем, из чего состоит хороший запрос к нейросети и как описывать задачу, контекст и ограничения. Показываем примеры удачных и неудачных промптов и разбираем частые ошибки при их написании.

Все статьи написаны простым языком и подойдут абсолютным новичкам. Также про вайбкодинг можно узнать из вводной части курса по вайбкодингу в Практикуме — это бесплатно, карту привязывать не нужно. Если понравится, можно продолжить обучение уже на основном курсе.

Observability ИИ‑агентов: запустили Monium Traces в Yandex AI Studio

Теперь можно анализировать поведение ИИ‑агентов в Yandex AI Studio с помощью трейсов прямо в UI платформы. Трейсы показывают всю цепочку решений агента и контекст каждого шага — системные промпты, вызовы модели и инструментов, промежуточные результаты. Всё, что реально влияет на поведение агента.

Почему это важно
Observability для агентов устроена принципиально иначе, чем для обычных сервисов, где нам доступен дебаг по коду. В случае ИИ главный материал — большие тексты: системные промпты, сообщения пользователя, ответы модели, вызовы тулов. Даже когда инфраструктура может быть полностью «зелёной» — latency в норме, ошибок нет — агент может уверенно отдавать неверный ответ или уходить в бесконечный цикл вызовов. Классический мониторинг здесь не поможет: он не покажет, почему модель выбрала не тот тул или потеряла контекст.

Анализ трейсов:

• помогает быстро понять причину конкретных ответов и поведения агентов

• ускоряет отладку сложных сценариев

• повышает прозрачность работы агента

• позволяет точно локализовать узкие места в цепочке обработки запроса

В видео — как выглядит трейсинг в интерфейсе Yandex AI Studio:

Чтобы начать — откройте AI Studio, перейдите во вкладку «Логирование» и подключите отслеживание трейсов моделей и агентов.

LLM, RAG, AI‑агенты и продакшн: открытые уроки по искусственному интеллекту

В AI‑разработке уже мало просто подключить модель по API. В реальных продуктах приходится понимать RAG, дообучение, мультимодальность, поведение LLM, инфраструктуру, качество ответов и вывод моделей в продакшн.

Собрали подборку беплатных уроков для специалистов, которые работают с LLM, ML‑моделями, AI‑агентами, компьютерным зрением и AI‑инфраструктурой. Выбирайте свою тему и присоединяйтесь:

LLM, RAG и адаптация моделей

• 13 июля, 18:00 — LoRA и RAG: как адаптировать LLM под свои данные и задачи

• 16 июля, 20:00 — Мультимодальный RAG: как LLM работают с текстами, картинками и документами

• 22 июля, 20:00 — Что надо знать про работу LLM моделей

• 5 августа, 20:00 — Сделайте модель своей: дообучение LLM методом QLoRA без кода

• 18 августа, 19:00 — AI‑ассистент на ваших документах: почему он врёт и что с этим делать

AI‑агенты и архитектура ИИ‑приложений

• 21 июля, 20:00 — Разработка ИИ‑приложений с Claude Code

• 23 июля, 20:00 — Когнитивные архитектуры: ReAct, Reflection и RAG

• 4 августа, 20:00 — PostgreSQL как память ИИ‑агентов: MVCC, очереди и партиции под нагрузкой

ML/DL и компьютерное зрение

• 15 июля, 18:00 — Решаем задачу регрессии методами ML на Python

• 15 июля, 20:00 — Visual DQN: как научить ИИ‑модель видеть мир глазами игрока

• 21 июля, 20:00 — Алгоритм DQN — учим нейросеть принимать решение без помощи человека

• 10 августа, 18:00 — Технологии продвинутого Data Science: что под капотом

• 12 августа, 20:00 — ИИ‑зрение в действии: как из данных с дороги получить карту мира

• 19 августа, 20:00 — ИИ против человеческих костылей: эволюция детекторов от YOLO до real‑time трансформеров

• 24 августа, 20:00 — Современные модели прогнозирования — TimesNet, TimeGPT и новое поколение моделей временных рядов

Инфраструктура и продакшн

• 21 июля, 20:00 — Выбор между Serverless и Kubernetes для AI‑ворклоадов: как определить оптимальную платформу под задачу

• 6 августа, 18:00 — Практика работы с Docker — вывод модели в продакшн

Прикладные сценарии

• 20 июля, 20:00 — ИИ для продуктового discovery: как анализировать рынок, конкурентов и пользователей быстрее

• 28 июля, 20:00 — Стирание границ: нативная интеграция ASR, TTS и NLP в эпоху мультимодальных LLM

• 20 августа, 20:00 — Как ускорить создание автотестов с помощью локальных ИИ‑моделей

Что почитать по теме

1. Как создать своего первого ИИ‑агента за 30 минут

2. Как работают ИИ‑агенты для разработки

3. Почему AI‑агенты ломаются на длинных задачах

4. Как прокачать ИИ‑агента без дообучения: Agent Skills

Больше открытых уроков июля смотрите в дайджесте.

Нашёл робопалец и теперь включаю рабочий компьютер удалённо

Делюсь находкой, которая закрыла мою маленькую, но довольно надоедливую проблему.

Иногда мне нужно подключаться к рабочему компьютеру удалённо. И всё бы хорошо, но дистанционный доступ бесполезен, если устройство выключено. Технология Wake-on-LAN (удалённое «пробуждение» по сети) тоже не спасает: после отключения электричества компьютер полностью обесточивается. 

Раньше решение этой задачи превращалось в отдельный квест: попросить кого-то зайти в офис, объяснить, где стоит системник, какую именно кнопку нажать, дождаться неуверенного «вроде нажал». Но я нашёл вариант проще.

Есть маленький умный толкатель кнопок: пластиковый кубик примерно 4×4 см, внутри один рычажок, который ездит вверх-вниз и физически нажимает на то, к чему его приклеили. Ставишь такой кубик у кнопки питания и дальше включаешь компьютер голосом. Команда – и рычажок жмёт за тебя. Только важно не забыть про шлюз – небольшой хаб, который связывает кубик с интернетом. Настраивается быстро и один раз.

Подключать Алису не обязательно – можно управлять напрямую через приложение SmartLife. Но, если хочется поговорить, можно и управление голосом через Алису добавить :)

Что нравится: ничего не надо перенастраивать, вскрывать или паять. Просто приклеил, настроил и пользуешься. И главное – это универсальное решение для кнопок, которые иначе никак не автоматизировать. Рычажку всё равно, на что давить: старый выключатель, техника без Wi-Fi или любая другая кнопка, до которой неудобно добираться.

Если вам тоже регулярно приходится включать/выключать какие-то устройства, – скорее всего, вы можете отдать эту задачу рычажку. Так что забирайте идею – работает)

Больше интересных постов можно найти в моём телеграм-канале. Там я пишу про управление знаниями и делюсь разными ИИ-находками для дома и не только. Подписывайтесь, чтобы не пропустить новые тексты.

При внедрении ИИ-технология вторична: сначала нужно договориться о реальности

Алексей Мезенцев, руководитель AI Lab ОТП Банка, выступил на Молодежном дне международной конференции «Теория игр и Менеджмент» (GTM 2026). В конференции также принял участие известный российский математик Алексей Савватеев и представители других банков и компаний. Спикер ОТП Банка рассказал, почему хорошие ИИ‑инициативы терпят крах на старте и какую ошибку совершают компании при автоматизации.

Мезенцев заявил, что технология искусственного интеллекта может быть выбрана самая совершенная, но это не гарантирует результат. По его словам, ИИ оказывается «слепым», если опирается на неполные или устаревшие данные.

«Сначала нужно договориться о реальности, правилах и выигрыше. Проблема не в модели, а в том, сколько реальности ей доступно», — отметил он.

Опасной зоной руководитель AI Lab ОТП Банка назвал расхождение между официальными регламентами и реальной работой сотрудников. Слепое программирование формальных инструкций может не улучшить, а наоборот, ускорить неверные маршруты.

«Люди не помеха процессу. Они его скрытая „операционная система“. Автоматизация бумажной нормы без контекста живой работы — это путь к тому, чтобы передать ИИ ошибочное решение», — подчеркнул Мезенцев.

Отдельное внимание он уделил выбору приоритетов. На примере известного сервиса Алексей рассказал про лучший способ разрешить спор о развитии продукта: вместо использования сложных фреймворков провести небольшой тест.

«Приоритет — это очередь гипотез, которая оценивается в деньгах. Задача — за минимальные деньги проверить эффект для бизнеса. Если мы не можем доказать ценность идеи, мы должны расставлять приоритеты не по масштабу будущего проекта, а по скорости проверки гипотезы», — объяснил представитель ОТП Банка.

Главное условие успеха: внедрение ИИ работает только тогда, когда выгоду получает каждый участник процесса от клиента до ИТ‑департамента.

«Мы внедряем не модели. Мы меняем правила игры. Идею нужно продать каждому участнику игры», — резюмировал он.

Согласно новому исследованию, ИИ лучше человека в переписке с человеком проходит тест Тьюринга.

При предложении принять человекоподобный образ, GPT-4.5 был признан человеком в 73% случаев. Это значительно чаще, чем участники опроса выбирали реального человека.

Исследование: C.R. Jones, & B.K. Bergen, Large language models pass a standard three-party Turing test, Proc. Natl. Acad. Sci. 2026. DOI: 10.1073/pnas.2524472123

Источник: https://www.facebook.com/4everscience/

Прежде чем тащить ИИ в процесс, сначала разберись что вообще происходит

Приходил недавно в одну компанию. Ребята хотели автоматизировать обработку заявок от клиентов. Уже выбрали инструмент, уже договорились с подрядчиком, уже почти подписали.

Попросил показать как сейчас работает процесс.

Оказалось что заявки приходят в три разных места: почта, телеграм и форма на сайте. Каждый менеджер забирает откуда хочет. Статусы никто не ведёт в режиме реального времени, только отчёты за месяц. Дубли не отслеживаются. Как итог клиентов обзванивают по несколько раз, тратя время и нервы.

Я спрашиваю: а что именно хотите автоматизировать? Они говорят: ну вот этот весь процесс, чтобы было чётко.

Это не автоматизация. Это ускорение хаоса.

Я уже видел такое несколько раз за последний год. Компания чувствует что что-то идёт не так, слышит везде про ИИ, решает что это и есть ответ. Но ИИ не чинит кривой процесс. Он его копирует и делает быстрее.

Правило которое я для себя вывел: если не можешь объяснить процесс новому сотруднику за 10 минут так чтобы он пошёл и сделал, не ломая при этом общую структуру, то автоматизировать ещё рано. Сначала объясни людям, выстрой свою систему, а потом уже автоматизируй.

ИИ хорошо берёт задачи которые уже работают но отнимают время. Повторяющиеся, понятные, с чётким результатом. Всё остальное это не автоматизация а эксперимент за твой счёт.

Кто сталкивался с таким, когда приходили автоматизировать а оказывалось что сначала надо просто навести порядок?

В Anthropic раздают бесплатно доступ на полгода к Claude Max для разработчиков, кто делает коммиты и занимается Open Source проектами. Если поддерживаете важный пакет или сервис или активно участвуете в жизни открытых проекта, то можете подать заявку.

Требования к участникам открытых проектов, которые могут отправить заявку на получение бесплатной 6-месячной подписки Claude Max 20x:

• Авторы и сопровождающие открытых библиотек, пакеты с которыми насчитывают более 200 тысяч загрузок из каталогов, таких как npm, PyPI, crates.io и RubyGems, или которые используются как минимум в 500 репозиториях или в 100 зависимых пакетах.

• Ключевые разработчики крупных открытых проектов, имеющие право коммита или входящие в число сопровождающих. В качестве примеров уровня проектов упомянуты CPython, Rust, Node.js, Apache, CNCF, Kubernetes, ядро Linux, Django и Rails.

• Активные участники разработки, от которых было принято более 100 pull‑запросов в не аффилированные с ними проекты.

• Создатели сообществ, в разработке которых участвуют 20 и более сторонних разработчиков, от которых принимались pull‑запросы за последний год.

• Репозитории, применяемые в работе критически важной инфраструктуры (вес 0.4+ в рейтинге OpenSSF).

Манифест контент-опса

Развивая тему ContenOps, я попробовал написать какой-то программный манифест. В DevOps философия базируется на принципах Agile, модели CALMS и концепции непрерывной поставки ценности. Если просто: писать код важно, нужно ещё важнее доставлять надёжно и отвечать за доставленное. Для контента развилка та же, только доставляем мы не код, а то, чему должны верить читатель и модель.

Что мы ценим. По мотивам Agile-манифеста разработки программного обеспечения

🔹Проверяемость важнее объёма.

🔹Правка системы важнее правки текста.

🔹Голос как контракт важнее голоса как чутья.

🔹Ответственность за выпущенное важнее скорости выпуска.

🔹Формализованное знание важнее знания в голове у редактора.

🔹Доверие читателя и модели важнее охвата.

При всей ценности того, что справа, левое мы ценим больше.

Три пути

Джин Ким свёл DevOps к трём принципам: поток, обратная связь, обучение. Они переносятся на редакцию не по аналогии, а по устройству: как только скилл становится кодом, у контента появляются те же поток, дефекты и техдолг, а значит и те же правила.

Поток. В инженерии дефект, ушедший вниз по потоку, дорожает на каждом следующем шаге и портит всё, что строится поверх него. С контентом то же самое, только дефект здесь — непроверенный факт. Пропущенный на своём этапе, он не остаётся ошибкой в одном черновике: его вплетают в аргумент, публикуют под брендом, на него ссылаются — и с каждой ссылкой он всё больше похож на правду. Поймать его при генерации почти ничего не стоит, а отозвать после того, как его опубликовали, уже невозможно. Отсюда правило: факт проверяют на том шаге, где он появился, и без проверки не пропускают дальше, как бы ни горели сроки. И оптимизируют весь поток целиком, а не отдельный скилл, потому что выигрыш на одном участке оборачивается узким местом на следующем.

Обратная связь. В DevOps смысл петли в том, что исправление возвращается к источнику ошибки, а не гасит её последствия. Иначе источник спокойно повторит тот же дефект завтра. У агента источник ошибки — это скилл, поэтому и правку возвращают в скилл, а не в текст. Поправить текст — разовый патч, работа на выброс: сам агент об этой правке не узнает и завтра ошибётся снова. Поправить скилл — значит замкнуть петлю, чтобы ошибка не вернулась. По той же причине проверку встраивают прямо в поток, как CI, а не оставляют на финальную вычитку: чем ближе к источнику пойман дефект, тем дешевле он обходится.

Обучение. В основе третьего пути простое наблюдение: если наказывать людей за сбои системы, они начинают эти сбои прятать, и система ломается незаметно. На редакцию это переносится дословно. Сбой агента — это дефект правила, а не вина редактора, поэтому его и разбирают без поиска виноватых: стоит начать наказывать и о сбоях просто перестанут докладывать. Дальше та же логика тянет за собой остальное. Скиллы копятся и конфликтуют друг с другом, как код, а значит, у контента появляется собственный техдолг и время на его разбор — это работа, а не отвлечение от неё. Устойчивость проверяют раньше читателя: агента нарочно гоняют на граничных случаях, потому что сломать систему самому всегда дешевле, чем ждать, пока это сделает аудитория.

И небольшой вывод

Ничего из вышеописанного не про то, как быстрее генерировать. Это делают все, поэтому объём и обесценивается. Манифест про то, как отвечать за сгенерированное: за цифру, которую не проверили, за голос, который поплыл, за материал, вышедший под твоим брендом.

Кто освоит контентопс в новом смысле, тот и будет редакцией через год. Остальные останутся фабрикой. А фабрика делает то, что дешевеет.

Подписывайтесь на канал, там пишу больше и чаще.

Выигрывайте мерч и бонусы на аренду серверов — сегодня стартует рубрика об истории AI и ML

В 12:00 по московскому времени открываем вторую рубрику ИТ-кроссворда — «История AI и ML». В публикации вас будут ждать вопросы о ключевых событиях, знаковых моделях и личностях, которые повлияли на формирование ИИ.

Зарегистрироваться →

👉 Отвечать на вопросы можно с 12:00 до 18:00 (МСК). Среди призов — комплекты эксклюзивного мерча Selectel и бонусы на аренду серверов.

Напоминаем, что новые рубрики будут открываться ежедневно по 9 июля. Отвечайте на вопросы и набирайте баллы, чтобы выиграть призы. 🦖 Не обязательно бороться за первое место в общем зачете. Победители и номинанты будут в каждой из четырех рубрик!