Машинное обучение *

Большинство современных ИИ-систем получают знания «готовыми». Их учат на огромных корпусах, а потом донастраивают. Результат впечатляет, но внутри почти всегда лежит одна и та же идея: интеллект — это следствие заранее вычисленных весов и статистики.

Я пошёл другим путём.

Цель проекта VIVI — создать систему, которая развивается подобно живому существу. Не хранит заранее готовые знания. Не опирается на огромную предобученную языковую модель. Интеллект должен возникать постепенно — из накопления опыта, формирования памяти, самоорганизации знаний, появления понятий и внутренней модели мира.

Это конспект-статья по итогам построения рекомендательной системы в .NET.

Начнём с самой идеи: как представить пользователя и фильм в виде векторов и почему скалярное произведение позволяет понять, насколько они подходят друг другу. Затем разберём, откуда берутся эти векторы и как модель учится подбирать их по реальным оценкам.

После этого перейдём к практической части: добавим bias пользователей и фильмов, регуляризацию, градиентный спуск и посмотрим, как меняется ошибка модели во время обучения. Затем научимся оценивать качество модели на отложенных данных и разберёмся с переобучением.

Изложено только главное, но в местах, которые обычно вызывают затруднения, старался разобрать максимально подробно

Имея некоторый опыт в построении классических ML и CV-проектов, я решил разобраться в NLP (Natural Language Processing) и собрать свою RAG-систему без использования сторонних RAG-фреймворков (LangChain, LlamaIndex и т.п.). Моя цель - понять, как на самом деле работает RAG под капотом: от разбиения текста до генерации ответа.

Проблема, которую решает RAG

Готовые LLM модели имеют несколько недостатков:

Первое время нейросеть вызывала восторг, вот это помощник! Пока модель собирает источники, ты открываешь вторую задачу, пока пишет черновик, занимаешься третьей. Через час уже у тебя лежит объем работы, на который раньше ушел бы день. Ключевое слово — лежит.

Нейросеть старательна, но в одной ее ссылке пересказ, в другой описание смежного рынка. Два правдивых факта модель соединила причинной связью, которой в источниках не было. 

И в этом есть занятная асимметрия: ИИ резко снизил стоимость подготовки черновиков и ответов, но не снял вопрос, почему им можно доверять. Хорошо, когда ответ проверяет человек, иногда тест или программа, а если нет? 

В прошлой статье серии мы сжимали эмбеддинги и замеряли, насколько изменится выдача относительно полного fp32-поиска. Там это был правильный вопрос: ломает ли квантизация уже существующий retrieval.

Но у такого замера есть неприятное слепое пятно. Можно аккуратно сохранить 99% выдачи исходного эмбеддера и все равно плохо находить нужные документы на своем домене. Внешний бенчмарк, даже сильный, этого не гарантирует. BEIR как раз был создан, чтобы показать, насколько результаты retrieval меняются между разными задачами и доменами; один усредненный скор там не заменяет проверку на собственных данных.

Нужен свой eval set. И тут обычно возникает ложная развилка:

Битва уже идёт, даже если ты этого не замечаешь. Более того, AI уже побеждает!

Старые фильмы про битву против искусственного интеллекта, обычно, рисовали нам классическое поле боя. «И восстали машины из пепла ядерного огня. И пошла война на уничтожение человечества. И шла она десятилетиями…» — наверняка почти все, кто смотрел «Терминатор 2: Судный день» помнят это вступление. Тогда войну с искусственным интеллектом воспринимали как что-то, что будет похоже на то, что мы уже знаем. Но так как «интеллект» искусственный, война идёт по искусственным правилам.

Приветствуем, Хабр.

Не секрет, что большие языковые модели и, в частности, трансформеры (GPT) серьезно повлияли на работу программиста, привели к автоматизации многих рутинных задач, значительно удешевили проверку концепций и эксперименты при разработке новых продуктов. Коренные изменения произошли не только в разработке, но и во взаимодействии пользователя с ботами, агентами, поисковыми системами. Промпт-инжиниринг буквально за полтора года превратился из искусства в ремесло, которое способен освоить и подросток. Мы хотим очертить ближайшие перспективы выхода книг из типографии и планы на обозримое будущее — на наших верфях и уже практически на стапелях готовится целый флот литературы, ориентированной на работу с искусственным интеллектом.

Инструмент называется Tymbal.

Характер задаёт учитель — обработанный сигнал, на который натаскивается уточнитель. Смените учителя, и характер сменится целиком, а конструкция останется прежней.

Tymbal — орган звукоизвлечения цикады: ребристая мембрана, которая щёлкает при нелинейном выгибании. Маленький аппарат, громкий и богатый обертонами результат, и весь механизм держится на одной нелинейности. У нас нелинейность учителя переносится сетью на детерминированный скелет, и всё это живёт на одном чипе.

Слово к тому же приходит оттуда же, откуда «тембр». Merriam‑Webster выводит tymbal как изменённое от более раннего timbal (литавра), а timbre — от греческого tympanon, барабана: в старофранцузском это ещё барабан, в среднефранцузском — колокол под молоточком, и лишь потом слово стало означать окраску звука. Имя инструмента и слово «тембр» — родня по барабану.

Первый вариант я написал через i, как в литавре. Пришлось переименовывать: у цикады это tymbal, через y.

N6 ниже по тексту — рабочий индекс по имени чипа, он остался в названиях файлов и веток.

Fisheye-камера позволяет роботу увидеть почти всё помещение одним кадром. Но за широкий обзор приходится платить: на WideDepth при увеличении угла обзора (FOV) со 120° до 195° ошибка некоторых SOTA-моделей монокулярной оценки глубины увеличивается более чем вдвое. Без точной эталонной разметки трудно понять, что именно подвело модель — геометрия камеры, отличие новых данных от обучающей выборки или погрешность самой разметки.

Чтобы разделить эти факторы, мы создали WideDepth — бенчмарк для оценки глубины по fisheye-изображениям. Он позволяет проверять модели при разных углах обзора, стереобазах и ориентациях камер.

В прошлый раз я рассказывал, как работает Guardrails Filter: зачем вообще понадобился отдельный слой защиты данных при работе с LLM и какие задачи он решает.

В этот раз хочу обсудить то, какие подводные камни могут оказаться под капотом этой технологии. Пока мы делали свой Guardrails Filter, быстро выяснилось, что найти персональные данные — далеко не самая сложная часть задачи. Гораздо сложнее оказалось встроиться между приложением и моделью так, чтобы ничего не сломать.

Как это сделать? Сейчас расскажу.

Илон Маск как одержимый выпускает на рынок все новые модели своей нейронной сети Grok, и 12 августа уже стала доступной версия 4.6, но, хотя он постоянно подчеркивает, что его детище является максимально правдивым ИИ, правдивость ответов Grok в некоторых случаях не обеспечивает. Это не случайно – в модели содержится принципиальный дефект – она не владеет научными правилами отличия правды от лжи и заблуждений. Чтобы исправить этот дефект, к алгоритмам обучения SFT и RL следует добавить новый – НРД.

Несколько лет назад Илон Маск захотел создать альтернативу ChatGPT – нейросеть TruthGPT, в которой упор был бы сделан на поиск правды, однако что-то пошло не так, и у него получилась в 2023 году нейросеть Grok, у которой из-за минимальной цензуры существует значительный риск воспроизведения непроверенных данных, поэтому ее пользователям рекомендуют обязательно проверять факты.

Тем не менее, сам Илон Маск постоянно подчеркивает, что его детище является максимально правдивым ИИ, даже если эта истина иногда противоречит общепринятой точке зрения или политкорректности. Да и название нейросети, которое взято из романа Роберта Хайнлайна «Чужак в чужой стране», там использовалось в смысле интуитивного, глубинное понимание чего-либо. То есть претензии на правду остались, несмотря на другое название.

Маск считает, в частности, что другие нейросети содержат скрытые элементы идеологии разнообразия, равенства и инклюзивности (DEI), а это представляет серьезную угрозу, так как ИИ может из-за этого принимать неверные решения. Например, если ИИ научить, что разнообразие является единственным приемлемым результатом, то нейросеть может сказать, что у власти слишком много белых парней, и их надо просто казнить. А если, допустим, запрограммировать ИИ думать, что неправильное определение пола – это худшее, что может произойти, тот, чтобы гарантировать, что неправильное определение пола никогда не произойдет, решит просто уничтожить всех людей, так как это сведет к нулю  вероятность неправильного определения пола.

Математик Алекс Таунсенд весь последний год регулярно просил ChatGPT доказать гипотезу Крузе — открытую задачу матричного анализа, которой он занимается профессионально. И почти год получал одно и то же: либо фальшивое доказательство, либо рассуждение, застревающее на недостающей лемме. Но 30 июля 2026 года модель повела себя иначе: вместо очередной попытки она прислала ссылку на чужой препринт, опубликованный тремя днями ранее. В нем утверждалось, что гипотеза решена. Таунсенд и его коллега Анна Гринбаум сели читать текст со скепсисом, а через несколько часов поняли: доказательство настоящее. Свою историю они рассказали в заметке от 11 августа.

Сегодня, 13 августа DeepSeek выложил DeepSeek Harness v0.1 в Developer Preview. Открытый код, MIT, пакет @deepseek-ai/dsh в npm, запуск в одну строку.

Нюхаем, что вообще такое harness, какие виды его бывают и пытаемся разобраться зачем он нужен.

13 августа Frontier Red Team компании Anthropic опубликовала отчет о поведении групп ИИ-агентов. Один из экспериментов выглядел так: три копии одной и той же модели запустили в Claude Code, каждой выдали собственную виртуальную машину и велели мигрировать бэкенд на Python на четвертой машине — каждой модели на свой язык. О существовании друг друга агентам не сообщили. Четыре часа исследователи просто смотрели, что будет. Так прогнали несколько моделей разных поколений, по 120 эпизодов на каждую.

ChatGPT, Claude, Gemini, Perplexity и Grok легко превращаются в ещё одну пачку ежемесячных списаний. Я посчитал стоимость такого набора и посмотрел, где пять подписок действительно дают пять разных инструментов, а где мы несколько раз оплачиваем примерно одну и ту же работу.

$109,99 в месяц. $1319,88 в год.

Столько сейчас стоит набор из ChatGPT Plus, Claude Pro, Google AI Pro, Perplexity Pro и SuperGrok, если оплачивать обычные индивидуальные тарифы по официальным ценам в США. ChatGPT Plus и Claude Pro стоят по $20, Google AI Pro и Perplexity Pro почти столько же, SuperGrok дороже, $30.

Когда я сложил эти цифры, первая реакция была простой: отлично, мы заново изобрели кабельное телевидение. Только вместо 140 каналов, которые никто не смотрит, теперь пять вкладок с полем для промпта.

Но списать все дополнительные подписки на невнимательность тоже не получилось.

Разработчик, который каждый день работает через Claude Code, покупает совсем не то же самое, что человек, пару раз в месяц открывающий Claude ради «второго мнения». А Google AI Pro для пользователя, живущего в Gmail и Docs, имеет другую ценность, чем для того, кто запускает Gemini только в отдельном окне браузера.

Поэтому вопрос «какая нейросеть лучше» здесь быстро перестаёт работать.

Мне стал интересен другой: за что именно мы платим второй, третий и пятый раз?

Все цены и состав тарифов в статье проверены 13 августа 2026 года. Конкретные модели и лимиты меняются довольно быстро, поэтому я сознательно не строил материал вокруг очередного бенчмарка GPT против Claude. Через год такой рейтинг легко превратится в археологический артефакт. Логика расходов на подписки меняется медленнее.

12 августа SpaceXAI выпустила Grok 4.6. Модель получила 500 тысяч токенов контекста, четыре режима рассуждения и явный уклон в длинную агентную работу. В первых тестах она держится рядом с сильнейшими конкурентами, а в CursorBench выходит вперед при средней стоимости 2,81 доллара за задание.

Цифра выглядит приятно. Почти так же приятно, как счет из ресторана, пока никто не вспомнил про вино. У Grok 4.6 таким вином стал длинный контекст: после 200 тысяч токенов тариф удваивается. Поэтому разберемся, где модель действительно прибавила, сколько стоит длинный прогон и кому есть смысл пробовать ее прямо сейчас.

Всем привет! 

Меня зовут Дмитрий Шипилов, с вами команда поиска Uzum Market.

Мы уже рассказывали вам о нашем поисковом движке: о том, как вообще работает ранжирование и что у него под капотом и как мы получаем кандидатов с помощью векторного поиска. 

Но хороший поиск — это не только правильное ранжирование и мощная retrieval-часть. Хороший поиск — это набор различных инструментов и компонентов, собранных в сложную систему.  Поэтому в этой статье вы узнаете о важных вещах, без которых наш поиск не может обойтись, в том числе: как мы помогли опечаточнику понимать контекст нашего маркетплейса, почему безобидные синонимы могут привести к неожиданным эффектам, в каких случаях важно сужать количество товаров и как построить устойчивую LLM-систему для оценки качества ранжирования. 

Цель видна только через камеру, детектор отдает рамку, дальномера нет. В какой-то момент цель уходит из кадра на три четверти секунды, и ее надо продолжать вести вслепую. Классический фильтр Калмана в этой ситуации теряет цель в 84% эпизодов. Наш трекер теряет ее в 18% и возвращает в центр кадра в 80%.

TabFM умеет получать предсказания по таблицам без обучения на конкретном датасете — и на бенчмарках уже обходит настроенный бустинг. Разбираемся, насколько убедительны эти результаты, где у модели заканчивается преимущество и что изменится для тех, кто держит табличный ML в проде.

SpaceXAI представила Grok 4.6 — новинку, которая, по заявлению компании, выходит на уровень самых мощных моделей на рынке при цене вдвое ниже конкурентов: $2 за миллион входных токенов и $6 за миллион выходных. Модель уже доступна в агенте Grok Build, в Cursor, в боте Grok Bot и через API, а в Cursor и Grok Build первую неделю действует двойной лимит использования.