Искусственный интеллект

Два года назад Apple пообещала сделать наши устройства умнее. За это время искусственный интеллект научился многому, но ещё быстрее научился занимать место на накопителе. Зачем ему столько гигабайтов, что мы получили взамен и почему так трудно избавиться от «подарка».

Помните, как летом 2024 года Apple представила Apple Intelligence? Всё было как мы любим: красивые презентации, впечатляющие демонстрации, восторженные обещания. Siri наконец‑то должна была научиться понимать человека, учитывать личный контекст, работать с приложениями, почтой, фотографиями и сообщениями.

Как проверить, что диалоговый агент выполнил задачу, если бенчмарк поставил высокий балл? В первой пробе мой агент получил награду 1 на всех пяти задачах. Потом заглушка без единого вызова инструмента набрала 34% на полном наборе.

Я разрабатываю собственную экспериментальную систему и называю её ELM. В её диалоговом варианте код предлагает действия, нейросеть выбирает из них, а код исполняет вызов и собирает ответ. В проверяемом здесь режиме нейросеть не пишет текст ответа.

Чтобы понять, что стоит за высокой наградой, я стал считать действия отдельно и проверил свой цикл исполнения контрольной моделью. Эта статья — разбор измерения и ошибок агента.

Sextant — бесплатный open-source клиент Kubernetes на Rust и Tauri 2: всё, что вы делали в Lens, но без аккаунта, подписки и телеметрии. Его код целиком сгенерировал ИИ (Claude Code). Человек ставил задачи, принимал архитектурные решения и проверял каждое изменение, а тесты прогонялись многократно. В наших замерах Sextant запускается в 4–7 раз быстрее Freelens и Lens и занимает примерно вдвое меньше памяти. Есть встроенный MCP-сервер, через который AI-агента можно пустить в кластер только с выданными правами и с подтверждением каждого изменения. Под катом — как это устроено, цифры замеров и честно о том, где мы пока проигрываем.

Большой контекст в Cursor спасает ровно до тех пор, пока проект живёт дольше одного чата: требования, SQL-гипотезы и причины отброшенных решений быстро расползаются по сессиям.

В статье разбираю практику внедрения концепции LLM Wiki Андрея Карпати в Cursor: как устроен локальный гибридный поиск через QMD, почему связка внешнего agent harness с локальной моделью оказалась избыточной, и как разделить ответственность между project skills и детерминированными bash-обёртками вокруг Cursor CLI. Внутри — готовый шаблон репозитория.

Мой коллега, физик-теоретик, попросил меня помочь с оформлением своих научных отчетов и статей. Пишет он эти документы в обычном Ворде с использованием программы под названием MathType - это, по-простоиму, такой визуальный LaTeX для написания уравнений, штука достаточно удобная, а главное - она сама и номера уравнений вставляет и чертовски здорово оперирует с ними, даже если их переносишь из одного документа в другой.

Проблема возникла, когда он начал использовать нейронку (Copilot) для “вычистки” своих статей: если статья написана так, что и нейронка ее хорошо понимает, значит, есть шанс, что и дураки белковые собратья поймут. Увы - нейронки не очень понимают этот самый MathType. Приходится переводить формулы в обычный текстовый LaTeX (MathType это делает легко и просто, одним кликом во всем документе), потом скармливать сей нечитаемый (для человека) текст нейронке, что-то с ним делать, а потом снова конвертировать формулы в MathType. Он это тоже умеет, но… только по одной формуле за раз; почему - неведомо. А что, если этих формул там больше тыщи? При том, что мой коллега тот еще любитель каллиграфии и даже выражения типа “икс в квадрате” набирает через MathType, это та еще заморочка…

То бишь, надо было автоматизировать процедуру конверсии математических формул во всем вордовском документе из LaTeX’a в MathType.

Harness — построение инфры вокруг LLM таким образом, чтобы man in the loop (человек в процессе поддержки LLM) отсутствовал.

Я решил поэкспериментировать некоторое время назад, идея была очень простой — дать агенту возможность дебажить и исследовать написанный код через логгирование до того, как он попадет в чистовик.

Дисклеймер: инструмент пилил для себя, результатом доволен (таблица с результатами в конце статьи), для локальных моделей буст получил, для агентов клода тоже, если есть идеи как дотюнить — добро пожаловать в комментарии.

Уже ни для кого не секрет, что ИИ развивается быстрее, чем мы успеваем это осознать.

Наверняка что-то из этой статьи вы уже слышали, но не судите сразу.

ELIZA в 1966-м заставляла секретарш просить не заглядывать в распечатки диалогов. Шестьдесят лет спустя компаньон-агенты на LLM делают то же самое, но промышленно: системный промпт прошивает личность, RAG даёт память («помнит» умершего кота, о котором вы сказали один раз три недели назад), TTS добавляет голос с человечной просодией, а RLHF — безусловное одобрение. Разбираю по слоям, как архитектура компаньон-агентов инженерит привязанность, почему голос активирует миндалину быстрее сознательной оценки и что на самом деле произошло с Replika в феврале 2023-го. Плюс рабочая конфигурация локального агента на Mac Studio: Ollama, ChromaDB, XTTS-v2.

В городе наступает ночь, на дежурство выступает цифровой техлид. Он склеивает сотни алертов в один инцидент, отвечает первой линии и пишет разборы, пока инженер допивает кофе. А ещё предлагает решения, но порой такие, после которых всё может стать только хуже. Поэтому последнее слово всегда остаётся за человеком, который контролирует принятие решений.

Одну такую неделю из жизни с AIOps-агентом мы разыграли как пьесу в пяти действиях. В ней есть дежурный Алексей, его цифровой напарник и кнопка перезапуска, которая весь сюжет висит на дашборде и ждёт своего часа. Алексей — собирательный персонаж. Ночные звонки, остывший кофе и общий чат, где три команды чинят одну поломку, придумывать не пришлось.

Летом я писал, что будет, если сливать рабочие данные в ChatGPT: логи SOC, конфиги Cisco и FortiGate, внутренние IP, почты сотрудников. Тогда я сделал офлайн-инструмент, который чистит конфиг руками инженера до отправки. Он решает проблему для того, кто помнит им воспользоваться. Но компания не может полагаться на то, что все всегда вспомнят.

Поэтому я сделал следующий шаг: шлюз, который стоит между человеком и нейросетью, проверяет каждый запрос и решает, что с ним делать. Называется Obscura. Он работает on-prem, данные остаются внутри сети.

Проблемы эффективности нейросети на самом деле — проблемы обращения людей с нейросетью. И «лечить» надо не ИИ — а повышать собственную компетенцию: компетенцию в работе с ИИ, но в первую очередь — собственную компетенцию в работе, для которой человек использует нейросеть.

Можете быть уверены: если вы не разбираетесь в вопросе — модель вас обманет. Только настоящий опыт человека поможет вовремя найти ошибку и исправить ее. Некомпетентный сотрудник или руководитель не будут знать, где ждать подвоха, а видимая, иллюзорная компетентность ИИ только продлит время до реализации допущенной ошибки, когда она уже вполне может превратиться в системную, а её последствия — оказаться катастрофичными.

Привет, Хабр! На фоне популярности decision-моделей мне захотелось познакомиться с их механизмом работы. Объектом исследования я выбрал модель Clef от Cloudflare просто потому, что она больше всего на слуху.

Статья носит познавательный характер и будет интересна тем, кто, как и я, захочет разобраться в работе модели. Фрагменты кода и конфигурации взяты из репозитория авторов.

Опубликован предварительный доклад о том, что невозможность полной интерпретации LLM переоценена. Автор Nick Cammarata в своей статье на сайте goodfire.com утверждает, что его эксперименты показывают, что можно отследить формирование ответа LLM, что позволяет изменить подходы к обучению и верификации моделей. сам автор называет текст гипотезой, основной статьи с полным описанием экспериментов пока нет. Но как обычно громкий заголовок и сильные утверждения привели к множеству пересказов, где гипотеза превратилась в факт.

Ниже быстрый взгляд на гипотезу.

Я делаю браузерную текстовую ролевую игру, где ведущим работает языковая модель. Игрок пишет любое действие своими словами, мастер отвечает рассказом, а игра ведёт механику: здоровье, деньги, характеристики, инвентарь, броски d20. Кажется, что всё просто: отправь модели историю и лист персонажа, получи ответ. На практике самые интересные задачи оказались не в промптах вида «напиши смешно», а на стыке вероятностной модели и детерминированной игровой механики. Ниже — четыре таких места и то, как я их решил.

Стек: Node.js 24, Express, встроенный node:sqlite, модели через OpenRouter и общий для сервера и браузера модуль движка.

… или как спасти человека, работающего с мыслительным протезом.

Задолго до кембрийского взрыва ИИ канадский дизайнер Том Вуджек показал принципы инженерного творчества на трех простых упражнениях: на башне из спагетти с зефиркой на вершине, на рисунке тоста и на стене со стикерами. Его выступления на TED разошлись по тренингам и стали учебными пособиями для MVP, пилотных проектов, системных карт и стратегических сессий. Увы, сегодня эти практики воспринимаются как карго-культ, и их повторяют как ритуал: подвинул стикер, получил банан процент от KPI. А теория, идеи и история, которые за ними стояли, забываются.

Если вы бывали на тренинге по аджайлу или дизайн-мышлению, то, скорее всего, видели много подобных упражнений. Четыре человека, двадцать сухих спагетти, по ярду скотча и ниток, одна зефирка и восемнадцать минут. Команда спорит, чертит, делит роли. За минуту до гонга зефирку торжественно ставят на вершину, и конструкция медленно, с достоинством складывается пополам. Вуджек, проводивший это упражнение десятки раз, называет такой момент переходом от «та-дам» к «ой-ой».

Дальше на тренинге обычно смеются, обсуждают командную работу, а потом идут пить кофе. Упражнение сделано, галочка поставлена. Мысль, ради которой его придумали, чаще всего остается на столе вместе с обломками спагетти. 

Сам Вуджек формулирует ее одной фразой: «У каждого проекта своя зефирка». Это допущение, которое никто не проверил и которое обрушит всю конструкцию в последний момент.

В современной разработке такие башни из спагетти встречаются часто, только выглядят по-другому, а зефирка от этого легче не становится. Модель выдаст код, чертеж или сотню вариантов детали быстрее, чем команда договорится о том, кто держит скотч. Правда, такой код падает на первых живых данных. 

Недавно Вуджек назвал искусственный интеллект зловещей проблемой. Но что стоит за этой фразой? Луддизм или глубокое понимание основ творческого процесса?

В этой статье я попробую ответить на этот вопрос. Для этого стряхну пыль с трех выступлений Вуджека и посмотрю, что они заложили в современный бизнес и ИТ. А заодно и покажу, что, вернувшись к их сути, мы получаем готовый способ работать с ИИ. Итак, расчехляем виниловые проигрыватели, ставим пластинку Jethro Tull, звоним друзьям и идем на кухню за пачкой макарон. 

Представим, что разработчик научился выполнять дневную норму за два часа. Что он получит: премию, повышение или ещё четыре дневные нормы? Если приз за скорость — новая норма, молчание становится рациональной стратегией. Возможно, некоторые разработчики уже работают в несколько раз быстрее. Просто не обязательно для вас.

Что происходит с агентом, который не решает одну задачу, а живёт — долго, в мире, который всё время меняется? Я собрал NOWA-Cognitive, когнитивную архитектуру без backprop, без глобальной функции потерь и без языковой модели в контуре решений: днём агент записывает опыт быстро и «начерно», а долговременную память переписывает ночью, во сне. Рассказываю, как это устроено, на примере одних суток одной шиншиллы из колонии — G3A1SF.

Что пришлось проверить, прежде чем доверять системе самостоятельную работу над программным проектом.

Хотел построить систему, способную самостоятельно вести программный проект от идеи до работающего продукта с помощью AI‑агентов. Но первые инженерные эксперименты показали, что генерация кода далеко не самая сложная часть задачи.

В статье рассказываю о разработке Yggdrasil: почему ограничения файловой системы не гарантируют защиту данных, какие проблемы остаются после изоляции в VM, почему лимиты памяти не обеспечивают жестких гарантий для хоста и как восстанавливать выполнение после сбоев без риска повторить уже совершенные действия.

Разбираю реальные результаты испытаний, включая проваленные проверки, принятые архитектурные решения и ограничения, которые пока не удалось устранить. Проект еще находится на стадии исследований, поэтому речь не о готовом решении, а о проблемах, с которыми приходится сталкиваться при попытке построить действительно автономную AI‑разработку.

Не выбирайте языковой курс, сделайте свой за пять минут.

Собрал в Claude Code личного репетитора. Он ведет по программе под мой уровень, проверяет каждый ответ, помнит ошибки и сам складывает новые слова в словарь на телефоне. Ни строчки кода, только пара команд. Показываю, как повторить для любого языка.

Архитектура ZAP: Как обойти кремниевый тупик, убрать «бутылочное горлышко» Фон Неймана и запустить ИИ на адиабатических фазовых коллизиях

Сегодня индустрия искусственного интеллекта упёрлась в очевидный технологический и энергетический тупик. Попытки масштабировать классические кластеры на базе бинарного кремния (NVIDIA H100/B200) приводят к экспоненциальному росту энергопотребления. Дата‑центры требуют мегаватты мощности. Причина этого — не плохой софт, а фундаментальные ограничения: физический предел кремния (квантовое туннелирование на затворах менее 2 нм) и классическое бутылочное горлышко Фон Неймана (Von Neumann bottleneck) — постоянный энергозатратный дрейф данных между процессором и памятью по шине.