Маковский Федор aka makltd123 - ML-инженер (NLP) / Хабр

Маковский Федор@makltd123

ML-инженер (NLP)

Рейтинг

ПрофильСтатьи1ПостыНовостиКомментарии1

Значки

Захабренный

Приглашен: 30 октября по приглашению от НЛО

О себе: Студент МГТУ им. Баумана, самозанятый. Делаю ИИ-ассистентов по базам знаний и поиск по смыслу для бизнеса, а перед запуском измеряю качество на вопросах заказчика. Обещаний в процентах не даю, показываю замеры. Что построил и измерил (всё открыто на GitHub, github.com/makltd123): — Compas: поиск по смыслу по ~147 тыс. российских компаний. База собрана из 2ГИС, Orgpage и сайтов из зоны .ru, модель эмбеддингов BGE-M3 дообучена для русского языка и опубликована на Hugging Face. Качество проверено на 1000 запросах и 63 600 парах «запрос — компания»: подходящих результатов всего 23%. Главное ограничение оказалось в полноте данных, а не в модели. Продукт не нашёл платящих клиентов, подробный разбор написал сам. — continual-lm: малая языковая модель, которая доучивается порциями и сохраняет 95% умения следовать инструкциям. На учебных задачах ответы по тексту 0,60 против 0,37 у исходной модели. Один итоговый прогон, задачи на английском. Повтор старых примеров помогает, порядок «от простого к сложному» и фаза «сна» эффекта не дали. — ai-compute-optimizer: подбор дешёвой модели, 13 раз дешевле при том же качестве на 60 задачах. — negation-direction: исследование, почему поиск по смыслу путает «с сахаром» и «без сахара». Найдена ось отрицания, общая для русского и английского. — semantic-cryptography: шум в векторах не защищает их, в тесте узнаются 99,9% записей. — tabular-fm-benchmark: табличные модели без настройки на малых данных выиграли у XGBoost 22 из 24 сравнений. — Также: аудит и контроль деградации ИИ-бота (degradation-detector, drift-tracker, embedding-translator), поиск файлов по смыслу (в топ-3 в 74% случаев), сайт для клиента kristall22.ru. Неудачные эксперименты публикую так же открыто, как удачные. Стек: Python, FastAPI, Node.js, React, Docker, PostgreSQL, sentence-transformers, векторные базы. Услуги, цены и образец отчёта: fedor.alqira.ru. Связь: Telegram t.me/makltd2. Модели на Hugging Face: huggingface.co/makltd1

Информация

Специализация