Искусственный интеллект

Открытый ИИ-проект JCode запускается намного быстрее Claude Code и может работать в 100 сессиях одновременно: 

• одна сессия весит всего 28 МБ оперативной памяти.

• можно запустить целый рой ИИ‑агентов — они будут делать проект вместе, распределять обязанности и критиковать работу друг друга.

• есть глобальная память между сессиями, чтобы не потерять ни единой строки кода.

• работает с API Claude, OpenAI/ChatGPT/Codex, Gemini, GitHub Copilot, Azure, Alibaba Coding Plan и другими сервисами.

• поддерживает запуск локальных моделей через Ollama и LM Studio.

• редактирует, перезагружает, дебажит код, чтобы довести задачу до идеала.

• можно импортировать сессии из Claude Code, Codex, OpenCode и Cursor.

• также строит диаграммы для любой кодовой базы, чтобы вы могли быстрее и тщательнее вникнуть в проект.

Инференс трансформеров на чистой Java без Python и JNI

Запуск нейросетей на Java часто воспринимается как компромисс: либо JNI-обвязки, либо Python-стек, либо готовые рантаймы. Но современные JDK уже позволяют строить полноценный пайплайн инференса внутри JVM — без Python, без JNI-слоя и без лишней магии.

Хочу провести технический вебинар и показать, как на чистой Java реализовать инференс трансформеров и оптимизировать его под CPU, используя:

• Foreign Function & Memory API (FFM) — для безопасной работы с нативной памятью и маппинга весов моделей без лишнего оверхеда и давления на GC;

• Vector API — для SIMD-ускорения матричных операций на CPU.

И это не только про LLM.

На вебинаре разберём, как на Java можно запускать и оптимизировать разные классы трансформеров (encoder-only, encoder-decoder, decoder-only):

• RoBERTa — для классификации и NLP-задач;

• MiniLM — для эмбеддингов и семантического поиска;

• T5 — для seq2seq-сценариев и генерации;

• Qwen — для современных LLM-сценариев и практического инференса.

То есть цель вебинара — не показать ещё один способ вызвать llama.cpp по API, а разобраться, как устроен сам Java-слой инференса для трансформеров и где он реально полезен.

Если тема вам интересна — оставьте контакты по ссылке.

Если наберём 20+ заинтересованных, я подготовлю программу и разошлю приглашения с датой.

UPD: Всем, кто заполнит форму предрегистрации, я сразу после вебинара (или даже чуть раньше) скину ссылку на приватный репозиторий с базовым PoC/бенчмарком инференса Qwen на Vector API, чтобы вы могли покрутить код сами.

Время тупых и смелых пришло, остальное сделает chatGPT

Суммарная производительность всех GPU в AI-датацентрах достигла некоторой оценки FLOPS человеческого мозга. То есть AI-вычисления сейчас = мозговым вычислениям всех людей на планете.

Почему тогда мировой ВВП не вырос в два раза? Он вырос на 10–15%, что по сути 0% с учетом инфляции с 2022 года.

Раньше определенный bottleneck был в анализе/сборе данных и создании продукта. Сейчас это стоит копейки. Bottleneck сместился в область принятия решения и действия. И если помочь выбрать из 100 вариантов, сгенерированных AI, сам же AI тоже может, то вот реально действовать пока не везде.

Поэтому приходит время полностью автономных ИИ-агентов, где единственным ограничением будет бюджет, выданный агенту под мета-задачу.

Тут есть несколько проблем:

👉 Люди боятся выдать ИИ-агенту полные права на действия (я сам боюсь — а вдруг че?)

👉 Доступ к реальному миру ограничен, хотя и уже решается (роботы и meat layer)

👉 Ответственность — тут единственный вариант это ментальное списание бюджета при передаче ИИ-агенту (то есть, по сути, бизнес-ангельский подход) и страховка рисков в рельном мире.

Первое поколение ИИ продавало интеллект 🧠, второе уже начинает продавать выполнение задач ✅

Мультиагентность — эффективный подход или просто красивый фантик?

Каждый, кто гонял задачи через субагентов, знает: это дольше, чем работа в одной сессии. Субагент сперва въезжает в контекст — заново собирает картину, что у основной сессии уже в голове. Плюс оркестрация. Работник ценный, да всякий раз с чистого листа.

Вопрос закономерный: оправдано ли это?

У нас есть приём, обычно зашитый прямо в claude.md: никакого «сам написал — сам и проверил».

Агент, проверяющий собственный код, находит лишь те баги, которые готов за собой признать: он смотрит на задачу из того же замысла, в котором её решал. Оно и понятно — всё равно что просить студента перепроверить контрольную по своему же решению. Спишет у самого себя, да ещё и уверенно.

Поэтому без независимого аудита мёрдж не предлагаем. После любой нетривиальной доработки запускается отдельный агент, не видевший хода решения. Ему на вход — только код диффа и явный чек-лист:

1. Полнота — покрыты все места вызова, а не одно.

2. Нерегрессия — не сломаны ли смежные пути.

3. Тесты — есть ли проверка на изменение и проходит ли.

4. Скрытые баги — edge-кейсы, null, гонки, ошибки внешних сервисов.

5. Слои — не уехала ли логика не туда.

6. Секреты — не утекли ли ключи в код или логи.

Ключевое: аудитору не показывают авторскую версию событий — он судит по коду, а не по рассказу о нём. Нашёл проблему — возвращает автору; чинит автор, аудитор перепроверяет.

И тут «потеря контекста», что обычно мешает, оборачивается главной ценностью: аудитор дорог именно тем, что не видел решения и не заражён замыслом. Он и ловит то, чего у автора глаз уже не берёт: замылен.

Аудитом дело не ограничивается. Та же логика — когда нужно независимое мнение на архитектурной развилке или когда объёмную побочную задачу (длинный лог, незнакомая библиотека) уводишь в отдельную сессию, чтоб не сорить в основном контексте. Словом, субагент хорош там, где отдельный контекст или свежий взгляд дают то, чего одна сессия не может.

Даже там, где субагент оправдан, не обязательно брать самую сильную модель. Механические проверки из чек-листа — не утёк ли ключ, есть ли тест, не уехал ли слой — прекрасно закрывает Sonnet: вопрос узкий, ответ проверяемый. А поймать то, чего не заметил автор, — гонку, хитрый edge-кейс, неочевидное архитектурное последствие — лучше попросить Opus: чтобы увидеть то, что упустил умный, нужен как минимум не менее умный. Дешёвой модели при этом ставим планку приёма: уверена — принимаем, сомневается — поднимает флаг и отдаёт выше.

Отсюда и ответ: мультиагентность — не фантик тогда, когда второго агента поднимают не «чтобы было», а там, где его независимость работает на результат. Иначе — красивая обёртка, а под ней, как водится, пусто.

Продолжение постов один и два

Я же лучше собаки? Именно этот метафорический вопрос встал передо мной, когда я, будучи тимлидом команды ИИ, решил впустить (разумеется, в разумных пределах) в свою рабочую деятельность популярные модели.

Вместе с искусственным интеллектом мы активно планировали, рассчитывали загрузку ресурсов, анализировали работу команды и т.д. и т.п. С виду, конечно, все весело, учитывая ориентацию моделей на позитивные и заумные ответы, которые должны удовлетворить пытливые умы юзеров. На какой-то момент я даже подумал, что все - конец карьеры руководителей не только неизбежен, но и невероятно близок. На практике же все оказалось куда менее прозаично.

Оказалось, что модели всегда выдают что-то новенькое. На одну и ту же задачу сначала рекомендует 20 часов занятости топового сеньора команды, при точно таком же запросе далее - уже 10. Разницу чувствуете? Бюджет команды - несомненно ощутил бы эффект. Еще интересней, что на практике на ту таску он потратил бы часов 8.

Не хотелось бы уходить в какие дебри, а спросить именно у вас, дорогие товарищи, как вы считаете, способна ли ИИ-шка полностью заменить руководителей на местах, забрав на себя всю управленческую рутину или все-таки это направление по-прежнему будет нуждаться в грамотных специалистах, которые пусть и не будут всегда правы в своих решениях, но все же будут решать вопросы с присущей человеку логикой?

Vision AI в БКС

Привет, Хабр! Меня зовут Никита Устриков. В марте я присоединился к команде БКС в роли Head of AI. За это время мы с командой разработали стратегию развития ИИ в компании при поддержке руководства, и я хочу поделиться с вами главным.

🎯 Цель

Амбициозная, но конкретная: снизить операционные расходы на 30% к 2027 году. Не абстрактное «внедрить ИИ», а измеримая цифра с понятным механизмом достижения. Главная ставка — агентизация: там, где сегодня задачу выполняет человек по повторяемому алгоритму, завтра это делает агент — быстрее и дешевле.

🧩 Методы

Агентизация в масштабах большой компании — это не технологический вопрос. Технология — лишь один из слоёв, которые нужно выстроить одновременно.

Первый — технологическая и продуктовая платформа. Единая среда для разработки и запуска агентов, которая даёт командам возможность работать быстро, не изобретая колесо каждый раз.

Второй — R&D и обучение. Рынок меняется каждый день, и мы хотим успевать. Отдельная команда мониторит новые решения, проводит эксперименты и быстро переносит работающее в платформу.

Плюс Data Science внутри: файн-тюнинг, бенчмарки, качество моделей.

Плюс образование — от базовой грамотности для всех до умения считать ROI для руководителей. Потому что хайповать на ИИ легко, а получать от него эффект — нет.

Третий — внедрение. Центры компетенций, инженеры агентизации и специально спроектированная роль AI Business Partner — человек, который работает внутри бизнес-подразделения и является живым мостом между тем, чего хочет бизнес, и тем, что реально умеет ИИ.

Четвёртый — управление. Единые политики и стандарты работы с ИИ по всей компании. Без этого слоя трансформация быстро превращается в набор несвязанных экспериментов.

Недавно разгорелась жаркая дискуссия про развитие open-source в сфере ИИ:

• Выступлени Си Цзиньпиня

• Открытое письмо группы западных компаний

• Ответ Anthropic

Я внимательно это всё прочитал и кажется, что риторически Китай выигрывает:

1. Китай предлагает поставить ИИ на пользу всего человечества, а Запад - на пользу США. Оба эти утверждения встречаются в тексте многократно (удивительно, что европейские компании тоже подписывают американское заявление).

2. Китай предлагает открытую международную коллаборацию, США - игнорирует остальной мир.

3. Все топят за модели с открытыми весами, но только Китай их действительно открывает. Как понимать подпись OpenAI под письмом - не понятно. Они собираются открыть веса GPT-5?

4. Ни одна из сторон даже не заикается об открытых моделях по стандарту OSAID (т.е. с кодом для обучения, датасетом и всем таким). Насколько мне известно, самая сильная модель по такому стандарту вообще немецкая Soofi на 30B параметров. Но это очень слабо.

Мне конечно возразят, что Китаю верить нельзя. А OpenAI точно можно? Или может быть американскому президенту?

Мне одному кажется, что Китайская позиция намного более последовательная и жизнеспособная?

Представлен исследовательский проект STOLEN COMPUTE. Это каталог обнаруженных в сети открытых ИИ-серверов, часть из которых по разным причинам оказалась оставлена без защиты, включая ресурсы с ИИ-моделями Kimi 1T и DeepSeek V4.

А кто может объяснить почему ЛЛМ, агенты и тд не заменят программистов и прочих? С одной стороны, я смотрю на сверхуверенных в себе экспертов, которые говорят что агенты это просто инструмент, изобретение уровня IDE. Но с другой стороны, все буквально идет по сценарию ai2027.

Ловушка ИИ: первые 80% — быстро.

🤖 Первые 80% с ИИ делаются пугающе быстро. И именно поэтому велик соблазн поверить, что и последние 20% будут такими же.

Но увы. Нет!

Почти любой текст, презентация, ТЗ, письмо или отчёт сначала выглядят почти готовыми. ИИ действительно снимает самый психологически дорогой барьер: пустой лист.

Но потом начинается то, чего модель пока не умеет делать:

• проверить логику;

• найти противоречия;

• сверить нормы и ограничения;

• проверить привязки и цифры;

• учесть ответственность конкретных людей;

• адаптировать под реальную ситуацию, а не среднюю по интернету.

Именно здесь заканчивается магия и начинается профессия.

Получить черновик можно за 20% времени. Довести его до документа, за который не стыдно отвечать: оставшимеся 80%.

Поэтому главный навык ближайших лет, скорее всего, будет не «уметь пользоваться ИИ», а уметь профессионально проверять, дорабатывать и принимать его результат.

Но и в последнем случае стоимость ошибки никто не отменял. Именно там обычно и живут репутация, деньги и судебные иски.

P.S. в комментариях идеальная иллюстрация этого тезиса: черновики графика показанного выше.

Пародийный проект OverpAId предлагает заменить гендиректоров с помощью ИИ, а также распределить их зарплату между сотрудниками. Команда решения утверждает, что ИИ способен выполнять всю работу современного CEO, например, разрабатывать стратегию, формулировать «видение» компании и писать мотивационные письма для общих собраний. При этом ИИ-руководитель не требует повышения зарплаты, бонусов и нового корпоративного самолёта.

OverpAId предлагает калькулятор, который показывает, сколько получил бы каждый сотрудник, если бы вознаграждение CEO распределили между остальным штатом. В проекте также обращают внимание на разрыв между доходами руководителей и рядовых работников. Например, в крупных публичных компаниях генеральный директор в среднем получает примерно в 290 раз больше обычного сотрудника.

"Слащавый он какой-то"

Развитие искусственного интеллекта продолжает набирать обороты, появляются новые модели, внедряются свежие подходы, даже соответствующие законодательные акты принимаются на государственном уровне.

Сегодня хотелось бы немного поразмышлять насчет того, куда же все же мы идем с этими новомодными технологиями и... Причем не как айтишник, а как обычный человек. В рабочих моментах ИИ-шечка все же отрабатывает на все 100%.

Сейчас из каждого утюга идут рассуждения, касаемые перспективности развития нейросетевых технологий, важно понимать, что на местах рядовые граждане все чаще прибегают к их помощи. Углубляться в тонкости хрупкого баланса интеллекта искусственного и естественного не буду. Отмечу, что хотелось бы надеяться, что человечество (или хотя бы его подавляющее большинство) будет тяготеть к последнему. Сегодня же ситуация следующая.

Генерируем все: тексты, музыку, картинки, презентации и так далее. Лично у меня идет какое-то отторжение к творениям ИИ-креаторов, которых, по данным статистики, на одном из популярных стриминговых сервисов уже больше (вдумайтесь) 140 тысяч. Все как у героя Балабанова: "мне не нравится. Слащавый он какой-то, подкрашенный весь..."

Несмотря на лично мое отношение ко всему происходящему, лагерь современников из ИТ-сообщества и не только (мы не сказали про угрозу замены кодеров) разбивается на две когорты. В правом углу ринга - любители нового - зумеры, а в синих трусах - консерваторы, рожденные в прошлом веке.

И все же интересно, сколько нас таких здесь? Кто за кого? С удовольствием посмотрю ваши комментарии.

Инфраструктура для ИИ-ассистента

Снаружи ИИ-ассистент выглядит как окно чата. Но внутри — инференс, векторный поиск, база знаний, RAG-пайплайн, мониторинг и контроль доступа. От того, как всё это собрано, зависит, за сколько секунд приходит ответ, во что обходится каждый запрос и переживет ли сервис наплыв пользователей.

В статье разобрали инфраструктуру по слоям: где держать данные и контекст, каким задачам нужен GPU, а каким хватит CPU, и зачем связке из модели, хранилища и интерфейса контейнеры и Kubernetes. Плюс разница между MVP и production-архитектурой и типичные ошибки при проектировании.

Подробности — в блоге Рег.облака.

Что такое GeoRA? Рассказывают сотрудники лаборатории искусственного интеллекта компании «Криптонит».

В этом году группа китайских исследователей представила новый подход для эффективной настройки больших языковых моделей (LLM) в режиме обучения с подкреплением и проверяемыми наградами (RLVR).

Авторы показывают, что обычные методы параметрической тонкой настройки (PEFT), включая низкоранговую адаптацию (LoRA), не всегда эффективны в RLVR. Они не учитывают геометрию скрытого пространства (LSC), из-за чего обучение становится менее эффективным.

Метод GeoRA (Geometry-Aware Low-Rank Adaptation) призван устранить этот недостаток. Его ключевая идея в том, чтобы учитывать геометрическую структуру модели. RLVR-обновления часто лежат в анизотропном и сжимаемом подпространстве весов. Работа с ним не должна ломать основные признаки, уже выученные моделью.

Напомним, что LoRA обучает лишь небольшие низкоранговые матрицы вместо всех весов модели, поэтому она популярна в задачах экономного дообучения. GeoRA сохраняет эту идею, но добавляет сингулярное разложение (SVD, Singular Value Decomposition) и строит адаптер не прямо из исходной матрицы, а из геометрически ограниченного подпространства весов.

В GeoRA используется SVD для получения сингулярных компонент, которые и позволяют выделить главные направления обновления. Поэтому GeoRA одновременно обучает компактный адаптер и замораживает остаточные компоненты, что делает оптимизацию более устойчивой.

В результате достигается баланс между размером обновляемой части модели и стабильностью оптимизации. Вдобавок, GeoRA требует меньше вычислений, так как затрагивает мало параметров при обучении, а модель сходится быстрее.

Авторы проверили GeoRA на моделях Qwen и Llama с 1,5 – 32 млрд параметров, используя групповую относительную оптимизацию политики (GRPO) как основной RLVR-алгоритм. На математических бенчмарках GeoRA стабильно обошёл LoRA, PiSSA и MiLoRA, а также показал хорошие результаты на задачах по медицине и программированию.

Превращаем свой почерк в устанавливаемый шрифт. Вышел открытый навык draw-your-font для Claude Code, который собирает полноценный TTF по фотографии. Достаточно написать алфавит на листе бумаги, сфотографировать его и загрузить снимок в Claude. Нейросеть сама распознает буквы, очистит изображение и соберет готовый шрифт. Если какая-то буква получилась неудачно, Claude заметит это и предложит переписать символ перед финальной сборкой.

Представлен открытый проект ODS (Osmantic Deployment System). Это проект, который превращает ПК в приватный ИИ‑сервер. Решение само определяет характеристики ПК, подберёт под них подходящую модель, скачает её и запустит локальный инференс:

• все локально и приватно: можно работать с документами, кодом и другими важными данными;

• через одну панель можно подключить голосовых помощников, агентов вроде Hermes, RAG, поиск, генерацию изображений и десятки других инструментов;

• без облачного сервиса. Без подписки.

У хабра нет способа поиска спамных комментариев.

Посмотрите на этот профиль: https://habr.com/ru/users/simonidis/comments/

Каждый комментарий этого пользователя написан нейросетью. В каждом комментарии ссылка на youtube видео.

По новым правилам хабра запрещён ИИ слоп. Но у хабра нет никаких алгоритмов поиска этого нейрослопа.

Хабр существует 20 лет. За 20 лет они не сделали простой скрипт, который бы находил такие подозрительные профили, где в каждом комментарии одинаковая ссылка.

Если я нашёл профиль, который распространяет спам, нет даже кнопки, чтобы пожаловаться на этот профиль.

Почему так?

Anthropic обновила свой базовый курс Claude Code:

• добавлены новые уроки, теперь их 10 шт и итоговые видео;

• в курсе появился финальный экзамен, чтобы проверить полученные знания.
  

Совет от Андрея Карпаты для всех пользователей ИИ, которые работают над идеальными промптами: расслабьтесь. Вместо этого просто начните нести что-нибудь — долго, нудно и без остановки. «Иногда LLM просто нужно больше деталей, чтобы понять, чего именно вы хотите добиться», — написал Карпаты. По его словам, такой подход помогает разделить задачи между человеком и ботом. Человек сгружает в модель любые сырые мысли о проекте, а чат-бот уже преобразует сбивчивый монолог во что-то чистое и структурированное.

Карпатый добавил, что часто начинает такие сессии с предупреждения для нейросети — что его ход мыслей может быть путаным, а в распознанном тексте будут опечатки. В итоге модель настраивается на волну пользователя, и ему приходится гораздо меньше поправлять её.

Slopsquatting: ИИ в тандеме со злоумышленником

Интересно смотреть, как ИИ меняет разные сферы - и кибербезу тоже досталось. Недавно наткнулся на термин slopsquatting и удивился: он живёт уже больше года, просто прошёл мимо меня - придумал его в 2025 Сет Ларсон из Python Software Foundation. Разбираемся, что это и почему это не страшилка ради красивых заголовков.

Начнём издалека - с более старого трюка, typosquatting (опечатка + захват). Атакующий регистрирует в PyPI, npm или другом репозитории пакет с именем, почти неотличимым от популярного - на одну букву, на дефис, на порядок слов. Классика: в декабре 2019 в PyPI нашли jeIlyfish - настоящий jellyfish, только строчная l заменена на заглавную I, визуально похожую в большинстве шрифтов. Пакет воровал SSH- и GPG-ключи. Рядом ехал python3-dateutil под python-dateutil; в npm похожая история - crossenv вместо cross-env (2017).

Внутри - вредоносный код, который срабатывает в момент установки, ещё до того, как вы обратились к пакету. Достаточно опечататься при установке зависимости - и всё, попался, голубчик.

Дальше - расчёт на человеческий фактор: кто-то опечатался вручную, кто-то скопировал команду из туториала с опечаткой. Охотиться за конкретной жертвой не нужно - зарегистрировал похожие имена под топовые пакеты и жди, кто ошибётся.

Slopsquatting - тот же трюк с апгрейдом под эпоху AI-кодинга. Когда LLM пишет вам код, она время от времени советует import библиотеки или pip install, которой на самом деле не существует - модель её выдумала, потому что название звучит правдоподобно.

Раньше на это смотрели как на безобидный баг: заметишь, попросишь исправить, и всё. Но в 2025-м исследователи UTSA опубликовали работу на USENIX Security: 16 моделей, 576 тыс. сэмплов на Python и JS. Результат - 19,7% рекомендованных пакетов не существовало.

Результаты правда относятся к моделям предыдущего поколения, актуальных метрик пока нет. Но нам интересно другое: 500 галлюцинирующих промптов прогнали по десять раз каждый. 43% выдуманных имён повторялись во всех десяти прогонах, ещё 58% - больше одного раза. Список фейковых имён воспроизводимый, а не случайный.

А воспроизводимость - подарок для атакующего. Не нужно брутфорсить: достаточно позадавать модели типичные вопросы вроде «напиши скрипт парсинга CSV», собрать частые несуществующие названия и зарегистрировать их с вредоносной начинкой. Дальше сценарий тот же: разработчик видит незнакомую библиотеку, не всегда успевает загуглить - и ставит то, что подсунула модель.

Это не теория. В 2024-м Бар Ланьядо из Lasso Security зарегистрировал пакет-пустышку huggingface-cli, который модели упорно советовали. За три месяца - больше 15 тысяч загрузок, а pip install huggingface-cli заехал в README репозитория Alibaba GraphTranslator. Никакого взлома - люди просто ставили то, что продиктовал ИИ.

Второй случай свежее и неприятнее: в январе 2026-го Чарли Эриксен (Aikido Security) заметил, что LLM склеила jscodeshift и react-codemod в несуществующий react-codeshift. Имя попало в коммит с 47 сгенерированными Agent Skills и через форки разошлось по 237 репозиториям - никто не вычитывал. Эриксен зарегистрировал пакет превентивно и сразу увидел загрузки. По его словам, вектором атаки это не стало только потому, что он успел первым.

Почему это стало проблемой именно сейчас:

• AI-агенты стали привычным способом писать рутинный код, и вопрос «а точно ли существует эта библиотека?» многие перестали задавать в принципе;

• галлюцинации разных моделей пересекаются - есть 127 имён пакетов (109 в PyPI, 18 в npm), которые независимо выдумывают сразу несколько ведущих моделей. Один зарегистрированный пакет ловит пользователей всех сразу;

• репозитории пакетов по-прежнему пускают регистрировать что угодно и от кого угодно, никак не проверяя, зачем вам это имя.

Короче: slopsquatting - история про то, как одна безобидная особенность модели превращается в готовый вектор атаки. Старый как мир supply-chain риск получил новый, куда более дешёвый вход.

Пользуясь случаем, пришлашаю в мой Telegram-канал.