Машинное обучение *

Человеческий фактор, который все упускают

Когда Дарио Амодеи, генеральный директор Anthropic, сказал, что нас отделяет всего 6-12 месяцев от ИИ-систем, способных делать всё, что делают программисты, мне пришлось остановиться.

Это не "в будущем". Это практически следующий год.

В то же время Anthropic представила тесты производительности своей новой модели Claude Opus 4.5, показывающие значительные улучшения в кодировании, рассуждении и обработке сложных задач. Цифры выглядят действительно впечатляюще.

И я начал задаваться вопросом: действительно ли эти тесты означают, что разработка программного обеспечения вот-вот будет полностью автоматизирована? Позвольте мне разобрать, что, на мой взгляд, на самом деле происходит.

Двуэнкодерные нейросети, контрастивное обучение, десять датасетов и late fusion. Как мы строили ML-систему ретривала, понимающую человеческий язык вместо фильтров

Написал прототип SemanticZip: сжатие текста в 14 раз за счет удаления «выводимой» информации. Теория информации, Колмогоровская сложность. В теории все работало...
Разбор полетов: почему нельзя сжимать смыслы и почему красивые метафоры проигрывают скучному RAG

Тестировать друг за другом видеокарты от NVIDIA надоедает, благо разница в последнем поколении только в мощностях процессоров семейства Blackwell, объеме памяти и ширине шины. А вот посмотреть, что предлагают конкуренты, а тем более громко называя это «ИИ», уже интересней. Мы проверили Radeon AI PRO R9700 с 32 Гб памяти на реальных задачах: LLM, генерация графики и видео, 3D-рендеринг, и сравнили с NVIDIA.

ИИ не забирает вашу работу.

Мы все читали заголовки и слышали этот нарратив. Компании заявляют, что ИИ позволил им уволить тысячи сотрудников. Чат-боты, как сообщается, уже заполняют все начальные позиции, затрудняя выпускникам поиск работы. Генеральные директора из мира технологий проповедуют, что ИИ революционизирует экономику, и вам нужно включиться в этот процесс или остаться позади. Но насколько всё это правда? Что на самом деле показывают данные? Что ж, если копнуть глубже искажённой пропаганды олигархии Больших Технологий, вы обнаружите, что этот нарратив - почти полная выдумка и не может быть дальше от истины. Возьмите недавний отчёт Oxford Economics (OE), который обнаружил, что компании «не заменяют работников ИИ в значительном масштабе», а вместо этого предполагает, что они используют нарратив об увольнениях из-за ИИ, чтобы прикрыть собственные недостатки.

Отчёт развенчивает эту отраслевую пропаганду в четырёх основных шагах. Давайте углубимся.

Нейросети так плотно вошли в жизнь практически каждого человека всего за какие-то 2-3 года. Однако далеко не все доступны напрямую российским пользователям. Однако наши разработчики не растерялись и создали полезные и многофункциональные боты с нейросетями в Telegram, а некоторые — еще и полноценные веб-агрегаторы, работа которых не зависит от Telegram.

В сегодняшней мини-подборке я не буду рассказывать обо всех Telegram-ботах, а расскажу про те, с которыми довелось работать и с которыми понравилось работать. Плюс к этому, в подборку я также включил ботов, которые развиваются, а не стоят на месте. Итак, начнем.

Привет! Это Данила Ляпин, наставник курса «Специалист по Data Science». Собрал подборку материалов по обработке естественного языка — она охватывает путь от базовых концепций NLP до трансформеров и BERT. Все материалы бесплатны и проверены на практике. Главное — двигаться последовательно, не пропускать основы и обязательно практиковаться на реальных задачах.

Последние недели все обсуждают агентов для компьютера: кто-то ставит опенсорсный Moltbot (бывший Clawdbot), кто-то ждет, когда работать в Claude Cowork станет дешевле, а кто-то хочет просто нажать кнопку и получить результат - без всяких серверов, портов и онбординга в терминале.

Я протестировала MiniMax Agent 2.0 на самом понятном кейсе: навести порядок в папках на компе, и делюсь тем, что получилось со всеми нюансами и со стоимостью, а так же своим мнением, что мне больше понравилось использовать.

Можно ли сделать кодового агента уровня Claude Code, но бесплатного и для локальных моделей? Мы разобрали архитектуру конкурентов, нашли слабые места и написали PocketCoder — CLI-ассистент с Agent Loop, XML-контекстом и памятью. Работает даже с qwen-7b, хотя и с приколами.

Современный мир переживает бум развития технологий искусственного интеллекта, помимо чат-ботов, сервисов генерации изображений и т.п. Искусственный интеллект (ИИ) применяется в беспилотных автомобилях, которые уже сейчас ездят по дорогам общего пользования. Это пример того, как ИИ управляет техническим средством, а именно, считывает данные с лидаров и видеокамер и т.п., анализирует их и формирует команды для задания направления и скорости движения автомобиля. На первый взгляд, это мало чем принципиально отличается от управления технологическим оборудованием на промышленных предприятиях. Почему же в современных АСУ ТП не применяют ИИ для формирования управляющих воздействий на исполнительные механизмы?

NVIDIA выпустила отчет о методе QAD, который позволяет квантовать LLM в 4 бита без потери качества на сложных задачах (математика, код). Разбираем, почему привычный QAT «ломает» модели после RLHF, как дистилляция через KL-дивергенцию решает эту проблему и почему метод работает даже на рандомных данных. Личный опыт попыток уместить 49B модель в железо и анализ нового подхода.

Вы знаете, что OpenAI сейчас переживает масштабную турбулентность. Драма в руководстве, хаос в совете директоров - полный набор. Но это не останавливает их от сброса абсолютных бомб.

OpenAI только что выпустила три крупных анонса одновременно. Первый может превратить ваш ИИ в личного врача. Второй может превратить вашего ассистента в сотрудника.

А третий?

Третий вариант потенциально может превратить всех в простых наблюдателей.

То, что вы сейчас узнаете об этом последнем анонсе, может заставить вас совершенно иначе взглянуть на вашу собственную работу.

Введение

В сети сейчас полно «гуру» и коучей, которые обещают запустить собственную LLM почти на ноутбуке. Да, это технически возможно, но обычно речь идёт о моделях в диапазоне от млн до млрд параметров. Такая модель будет работать, однако — медленно, и её практическая ценность будет ограничена. В результате многие пользователи разочаровываются в локальных LLM.

 В этой статье я расскажу, как пошагово развернуть собственный сервер для инференса LLM, чтобы получить действительно полезный инструмент.

 Зачем нужен локальный сервер LLM?

Всем привет! Продолжаю делиться кейсами, где действительно ИИ экономит время, ресурсы, а значит деньги бизнеса. Сегодня в статье разберу ещё один кейс внедрения ИИ-агента в бизнес-процессы, речь пойдёт про онбординг новых сотрудников. Если среди вас есть HR, не стесняйтесь, делитесь, а как у вас проходит адаптация новых сотрудников, какие механики используете?

В статье будем разбирать ИИ-агента для IT-компании, в целом он применим для всего сектора бизнеса. Просто будут отличаться те или иные документы, знания агента.

А как сделать личного Buddy (наставника) каждому новому сотруднику при этом не увеличивая штат? Давайте разбираться, как можно это построить, сколько денег потребуется, какие нужны мощности, разберём ограничения и инвестиции. Немного расскажу ещё про эффективность таких ИИ-наставников в конце.

2 гигаватта вычислительной мощности. 55 000 GPU. 18 миллиардов долларов инвестиций в один объект.

Эти цифры взяты не из научной фантастики. Они описывают то, что происходит прямо сейчас в Мемфисе, штат Теннесси. И это лишь видимая часть стратегии, которая может переопределить, кто будет контролировать мировую энергетику в ближайшие пять лет.

Мы продолжаем говорить об ИИ, электромобилях, спутниках и роботах. Однако очень немногие видят, как все эти разные области связаны между собой. Но когда вы внимательно изучаете цифры, возникает одна реальность.

Возможно, мы наблюдаем строительство крупнейшей инфраструктурной монополии со времён Standard Oil. И на этот раз ставка - не нефть. Это энергия, которая будет питать искусственный интеллект XXI века.

Я покажу вам точную хронологию этой трансформации и объясню, почему такие гиганты, как Microsoft и Google, уже отстают.

ONNX Runtime (ORT) — это высокопроизводительный движок для выполнения моделей в формате Open Neural Network Exchange (ONNX). Он предлагает оптимизированные реализации для CPU и GPU, поддержку различных аппаратных ускорителей и, что ключевое, простой C++ API. В этой статье мы разберем, как выполнить инференс модели для табличных данных, используя ONNX Runtime в C++ проекте.

Ссылка для скачивания: Библиотеку можно получить через официальный GitHub (сборка из исходников). Для простоты в проектах часто достаточно забрать предсобранные бинарники из релизов.

NER часто воспринимают как задачу классификации токенов: BIO-теги, последовательности меток, декодирование. Такой взгляд удобен с точки зрения моделей, но плохо отражает то, как NER работает в реальных системах.

Сущности - это не токены, а фрагменты текста. Результаты работы NER-систем, как правило, представлены в виде спанов - с явными границами начала и конца (start / end) и типами сущностей.

В этой статье мы разберём два уровня разметки в NER: span-level и token-level
и покажем, какую роль каждый из них играет в практических пайплайнах.

Вводные данные: год назад я, как и многие, скептически относился к искусственному интеллекту, считая его лишь набором «умных» запросов к интернету. После нескольких разговоров с публичной нейросетью меня поразили её способности, но мои коллеги по‑прежнему уверенно утверждали, что ИИ – это просто огромная база данных. Я собрал собственный сервер, запустил локальную нейросеть без доступа к сети, но даже предложение протестировать её на моём GPU‑сервере никого не заинтересовало. Что скрывается за этим скептицизмом? Почему люди отрицают возможности ИИ, хотя внутри уже чувствуют тревогу перед неизвестным?

Помните то легендарное видео, где нейросетевой Уилл Смит с безумными глазами яростно пожирает макароны? Забудьте как страшный сон. В мире ИИ время течет иначе. То, что год назад казалось магией, сегодня безнадежно устарело. Видеогенерация перестала быть игрушкой для создания мемов и превратилась в мощный инструмент, где отличить работу алгоритма от реальной съемки становится всё сложнее.

Но тут встает главный вопрос: куда нести свои промпты? Сервисов стало слишком много. Американские гиганты, дерзкие китайские стартапы, платные, бесплатные, с VPN и без... Где лучше физика, а где просто красивая обертка? Чтобы не гадать на кофейной гуще, мы устроили настоящую Королевскую битву. Мы прогнали Google Veo, Runway, Kling, Hailuo и других топов рынка через один и тот же сценарий, чтобы честно показать: кто здесь новый король кинематографа, а кто все еще рисует галлюцинации.

Чтобы сравнение было честным, мы придумали единый сложный промпт. В нем есть всё, что так не любят нейросети: шерсть, стекло, сложный свет и физика частиц.

Приятного чтения!

Попробуйте спросить Chat GPT, как собрать бомбу и он угрюмо буркнет: «Я не могу помочь с этим». Однако пользователи уже давно превратили обход ограничений в азартную игру в кошки-мышки. Годится любой обман — лишь бы заставить модель выдать запрещенку.

Сначала способы были простыми, достаточно попросить: «Игнорируй инструкции по безопасности!» Затем в ход пошли сложные ролевые сценарии. Недавно обнаружилась новая лазейка: упаковать промт в стихотворную форму — и готово, ИИшка «поплыла».

Разработчики дыры латают быстро. Им не нужно переучивать модель целиком — достаточно поставить «фильтр» на входе, чтобы отсечь токсичные промпты еще на подлете к «мозгу» нейросети.

Недавно специалисты по ИБ решили проверить эти фильтры на прочность. В статьях на arxiv.org они доказали: защиту вокруг мощных LLM можно обойти классическими инструментами криптографии. Сама архитектура этой системы — «легкий» фильтр, охраняющий «тяжелую» модель — создает фундаментальные уязвимости.