ИТ-лидеры видят большой бизнес-потенциал в малых моделях ИИ благодаря гибкости, низкой стоимости и нацеленности на конкретные задачи малые языковые модели (SLM) лучше подходят для бизнес-специфичных приложений и вскоре могут обойти LLM по использованию в корпоративной среде.
Обучение с подкреплением (Reinforcement learning) является одним из направлений ML. Суть этого метода заключается в том, что обучаемая система или агент учится принимать оптимальные решения через взаимодействие со средой. В отличие от других подходов, Reinforcement learning (RL) не требует заранее подготовленных данных с правильными ответами или явной структуры в них.
Предполагается, что машинное обучение может быть либо контролируемым (модель обучается на размеченном наборе данных), либо неконтролируемым (алгоритмы обучаются на основе неразмеченных данных), но появление обучения с подкреплением нарушило этот статус-кво. Так, Q-обучение может исследовать пространство, используя несколько инструкций, анализировать окружающую среду шаг за шагом и накапливать данные по мере продвижения для моделирования.
В этой статье мы попробуем разобраться с тем, как работает Q-обучение, а также рассмотрим небольшой пример на Python.
Привет, с вами снова Александр Константинов из Cloud.ru. Раньше я пользовался Notion, хранил там свои заметки, обучающие материалы, данные по своим стартапам. Но зарубежные SaaS-провайдеры ушли, и моя база превратилась в кирпич: она есть, но легально пользоваться ей невозможно. И это еще позитивный сценарий, потому что провайдер мог просто все безвозвратно удалить.
Сейчас, конечно, появляются другие сервисы, но все-таки у SaaS есть некоторые ограничения. И основное из них в том, что вектор их развития не подвластен пользователю. Плюс данные хранятся где-то там, кто-то ими управляет, но не я. А хочется все-таки делать это самостоятельно — это же моя база.
Я решил развернуть базу-знаний на wiki-движке Outline, потому что это полная замена Notion. У него хорошая функциональность, он простой в работе и с понятным интерфейсом. Что у меня получилось и как такое повторить, подробно рассказал в статье.
Увидела провокационную статью на Medium, которая собрала довольно положительный отклик. Считаю, что грех таким не поделиться! Вдруг, кому-то будет полезно.
В прошлой части мы разобрались, что такое состязательные суффиксы и почему они так легко ломают модели. Но этими суффиксами атаки не ограничиваются. Им на смену пришёл AutoDAN — наследник состязательных суффиксов и популярного jailbreak-метода DAN (Do Anything Now). Разберёмся, чем он отличается от GCG-алгоритма, посмотрим на практические примеры атак и обсудим, как защищаться и тестировать модели.
Управление маломерным судном, будь это ПВХ-лодка или каютный катер, отличается от вождения автомобиля. Дорог нет, и к местоположению маломерного судна на открытой воде можно отнестись вольготнее. Двигаясь по водным просторам, судоводитель позволяет себе отвлечься на картплоттер или местные красоты — ведь даже при движении с высокой скоростью окружающая картина вокруг меняется относительно медленно.
Но не все так радужно. Даже легкой ПВХ-лодке нужна какая-никакая глубина, чтобы винт мотора приводил ее в движение. И в этом приповерхностном слое может встретиться все что угодно — притопленные бревна, отмели и даже люди, которым захотелось поплавать вне привычных мест купания. Усугубляет проблему ветер и даже легкая волна, делающие подобные объекты на воде трудноразличимыми.
В этой статье хотим рассказать про BoatVision — систему технического зрения, которая используется для постоянного наблюдения, обнаружения и распознавания малоразмерных объектов на воде.
Привет! Меня зовут Петр Анохин, я руковожу группой «Нейрокогнитивные архитектуры» в Институте AIRI. Недавно мы выложили в открытый доступ новый бенчмарк для долгосрочного планирования LLM под названием HeroBench. Основанный на MMORPG‑песочнице для программистов, HeroBench проверяет способность современных моделей обрабатывать комплексный контекст, выполнять декомпозицию задач и формировать детализированные многошаговые планы достижения целей.
Мы прогнали через него 25 открытых и проприетарных LLM и выявили существенные различия в производительности, редко наблюдаемые в традиционных бенчмарках для анализа логических рассуждений. Другая особенность нашей работы в том, что новый бенчмарк вырос из небольшого студенческого проекта на летней школе AIRI.
Подробнее об этом и технических деталях — читайте в нашей статье.
Бизнес без цифровых помощников — всё равно что гонка без машины. Чтобы не отставать, предпринимателям нужно знать и использовать современные инструменты. Мы составили подборку из 10 нейросетей, способных стать вашими незаменимыми союзниками в деле повышения продаж и оптимизации процессов. Итак, приступим.
Привет!
С вами Юрий Сергеев, основатель и генеральный партнер в Swordfish Security. Мы строим DevSecOps и развиваем безопасный искусственный интеллект.
В этой статье я расскажу, как компании переходят от базового применения ИИ к концепции AI-Native, какие уровни зрелости существуют, как классифицируются приложения и модальности, а также с какими рисками сталкиваются организации при внедрении ИИ.
Искусственный интеллект уже перестал быть фантастикой — он становится инструментом, который меняет правила игры на рынках и формирует новые конкурентные ландшафты, то есть запускает очередной технологический цикл. Но прежде чем обсуждать, как искусственный интеллект трансформирует экономику и бизнес, важно разобраться, что же скрывается за самим понятием AI. Одни компании уверенно инвестируют в него, другие теряются в терминах и не понимают, как использовать эту технологию на практике. В этой статье мы разберёмся, что такое AI и какие базовые ИТ-подходы существуют для решения бизнес-задач.
Привет, Хабр!
Последние пару лет часто возникает вопрос: «А может ли ИИ заменить тимлида на code review?». Вопрос созрел не на пустом месте – инструменты на базе LLM теперь умеют и подсвечивать баги, и предлагать правки к pull request. Хайп подогревают отчёты: 84% разработчиков уже используют или планируют использовать ИИ в работе. Однако доверие к таким ассистентам хромает: почти 46% инженеров активно не доверяют ответам ИИ (против 33%, кто доверяет). Получается парадокс: пользуемся – но проверяем. Давайте разберёмся, где AI-ревью реально помогает, а где лид остаётся незаменим. Спойлер: место лидов в команде пока в безопасности.
Ежемесячно клиентская поддержка продуктов Яндекса обрабатывает миллионы обращений. Мы регулярно проверяем диалоги вручную. Это помогает бороться, например, с опечатками и другими ошибками операторов. Но проверить все диалоги в таком режиме невозможно — их слишком много. Поэтому мы решили посмотреть в сторону LLM-решений.
Привет! Меня зовут Дарья Шатько, я руководитель ML-группы в Yandex Crowd. В этой статье я расскажу, как мы с моим коллегой Антоном Удаловым внедряли большие языковые модели в контроль качества клиентской поддержки. А именно — почему регулярки и BERT не взлетели, как мы собрали репрезентативный golden‑датасет, как победили лимит контекста, снизили ложные срабатывания через многоступенчатый LLM‑flow и в итоге покрыли проверками абсолютно все диалоги поддержки.
Когда дроны только появились, ими можно было управлять разве что с пульта или через текстовые команды — «поверни налево», «лети прямо», «вверх на два метра». Всё это выглядело немного старомодно и, прямо скажем, неудобно: попробуй опиши словами маршрут, если дрон видит перед собой живую картинку, а тебе надо всё переводить в текст. И вот появился довольно неожиданный подход — вместо текстовых инструкций просто показывать дрону, куда лететь, буквально указывая нужную точку в кадре.
Теперь команда для беспилотника — это не набор слов, а пиксель на изображении, а значит, связь между вашим замыслом и настоящим полетом стала куда более непосредственной. Модель сама определяет, как лететь к этой точке, одновременно замечает препятствия и быстро реагирует, если что-то изменится. Что получилось из этой попытки «разговаривать» с дроном языком зрения — и c какими проблемами исследователи столкнулись на практике? Всё оказалось интереснее, чем кажется на первый взгляд.
Привет, Хабр! С вами Никита Кострикин, руководитель направления из Cloud.ru. Мы с командой запустили AI-помощника Клаудия, чтобы упростить работу с нашим облаком. В статье рассказываю, что он умеет делать, как его троллят пользователи, а еще — какие тулы и агенты находятся внутри, какие вызовы мы преодолели в процессе разработки и что планируем улучшить.
В гонке за внедрение генеративного ИИ для программирования самые быстрые инструменты не выигрывают корпоративные сделки. Исследование VentureBeat, основанное на опросе 86 инженерных команд и тестах производительности, показало парадокс: разработчики ценят скорость, а корпоративные заказчики — безопасность, соответствие требованиям и контроль развертывания.
Команда AI for Devs подготовила перевод статьи о новом API /v1/responses от OpenAI, который объединяет простоту Chat Completions и мощь Assistants, и при этом сохраняет состояние рассуждений, мультимодальность и встроенные инструменты. Это шаг к агентам будущего — и, похоже, к новому стандарту работы с моделями OpenAI.
Привет, Хабр!
На связи Максим Митрофанов, ML-лид команды Application Security в Positive Technologies. Мы занимаемся прикладными вопросами машинного обучения по направлению безопасной разработки, регулярно изучаем новые технические репорты и доменные статьи, разбором одной из которых я и хотел бы поделиться с вами.
Исследуя подходы к оценке больших языковых моделей в разрезе безопасной разработки, мы наткнулись на статью »LLMs Cannot Reliably Identify and Reason About Security Vulnerabilities (Yet?): A Comprehensive Evaluation, Framework, and Benchmarks», которая посвящена анализу применения LLM в задаче обнаружения уязвимостей в исходном коде.
Перевод фрагментов статьи, представленных в обзоре, не является дословным. Разбор содержит личные комментарии и размышления, возникшие в процессе чтения, и, на мой взгляд, будет особенно интересен специалистам по информационной безопасности и ML-инженерам, внедряющим ИИ в R&D-процессы компаний.
Привет. Меня зовут Вячеслав Гришанков, и я более 10 лет занимаюсь контентом — пишу статьи и обзоры, иногда заказываю их, редактирую и публикую на разных сайтах.
Все начиналось с моего основного сайта AndroidLime, который я открыл в 2014 году. К 2022 году сайт развился до отличных показателей — около 20 000 уникальных посетителей ежедневно, хорошее ранжирование в поисковиках, пассивный доход и просто приятная работа. Но многое изменилось — трафик критично упал (все подробности я собрал здесь) и никак не хочет возвращаться, даже несмотря на глобальную работу и исправление ошибок (да, они были).
По моей основной работе я также наблюдаю снижение трафика на разных контентных проектах. Аналогичные ситуации у моих знакомых и приятелей. Недавно я понял, что это — уверенный тренд и глобальное изменение правил игры. Попробую поделиться этим и привести свои наблюдения, а также попросить совета у тех, кто в теме.
Аннотация: В современных дискуссиях об Искусственном Общем Интеллекте (AGI) часто упускается ключевой вопрос: что отличает простой мощный алгоритм от действительно сознающего разума? Данная статья предлагает взглянуть на эту проблему через термины и концепции психологии, в частности, советской школы психологии развития [1, 2], что позволяет структурировать подход к созданию AGI не как к инженерной задаче, а как к задаче «воспитания» искусственной Личности.
1. Эмоционально‑рефлекторный «мозг»: основа, но не разум
Любой сложный вычислительный механизм, лишенный свойств Личности, не обладает сознанием. Он действует на основе:
Записная книжка в той или иной форме есть у любого человека — от реального молескина до Saved Messages в одном популярном мессенджере или заметок в каком-нибудь Google Keep. Если записи в этих носителях содержат важную для бизнеса информацию, её можно и нужно использовать шире, чем для одного только сотрудника.
