Привет, Хабр! В этой статье я расскажу про наш LLM инференс-кластер YADRO: зачем он нужен, что у него под капотом и как в такой конфигурации показывают себя популярные модели. Кроме того, я немного порассуждаю об альтернативных реализациях кластера и поделюсь планами по развитию реализации нашей.
Картинка сгенерированая по запросу "сгенерируй картинку про битрикс24 и искусственный интеллект" неплохо отражает итоговые результаты
Искусственный интеллект развивается стремительно, новые LLM становятся быстрее, универсальнее плюс менее требовательными к ресурсам. Среди ключевых новинок последнего времени — Grok 4 от xAI, модель Chimera от DeepSeek, а еще открытый проект от ETH Zurich и EPFL, обещающий поддержку более 1 000 языков. Эти разработки отражают три важных тренда: ускорение локальных моделей, расширение мультиязычности и стремление открытых решений догнать проприетарных лидеров. Давайте обсудим новинки и попробуем понять, куда движется индустрия.
Как злоумышленники могут использовать слабые места агентов ИИ с поддержкой баз данных? В этом исследовании рассматривается, как уязвимости при генерации SQL-запросов, внедрение сохранённых подсказок (stored prompt injection) и отравление векторных хранилищ (vector store poisoning) могут быть применены злоумышленниками для организации мошеннических действий.
Эта статья — продолжение серии статей, опубликованных в этом блоге, в которых мы пытаемся отслеживать влияние новых технологических трендов на пересечении кибербезопасности и искусственного интеллекта на основной бизнес нашей компании — удостоверение персональных данных (ПД). Продумывая перспективы использования ИИ-агентов для наших задач, включая борьбу с фродом и ИИ-фродом, мы пришли к выводу, что перестройка нашей собственной системы невозможна без учета архитектурных изменений, происходящих в ИТ системах наших клиентов.
Самые радикальные изменения в архитектуре корпоративных систем компаний, предоставляющих массовые услуги, которые требуют удостоверения ПД, связаны с чуть менее, чем полной переменой взглядов на кибербезопасность корпоративных систем.
В «клиент-серверной» архитектуре предыдущего поколения наши услуги по удостоверению персональных данных помогали выявлять фрод, связанный с использованием чужих ПД из похищенных баз данных, которые стыдливо называют утечками, а также ПД, добытых обманом по так называемой «технологии социального инжиниринга». При этом предполагалось, что охрана своих собственных систем остается в руках наших клиентов. Если злоумышленникам удалось собрать набор ПД, который достаточен для получения товаров или услуг от чужого имени, наши проверки уже не помогают. ПД — правильные, просто они уже находятся в чужих руках. С этого момента сервис-провайдер доверяет предъявителю ПД и предоставляет ему доступ с привилегиями и полномочиями, статически приписанными этим ПД.
В прошлой статье мы погрузились в оценку самых популярных AI продуктов.
По итогам ручного тестирования и попытки автоматизации по выбранным критериям был сделан вполне себе ожидаемый вывод о невозможности применения одних и тех же метрик к оценке задач разного рода.
Поэтому было принято решение ознакомиться с основными метриками для оценки качества ответов AI продуктов.
Такими метриками стали: Precision, Recall, Specificity и Confusion matrix, а также MAP и MRR.
Для чего такие метрики нужны?
Ну хорошо, ну есть у нас ИИ. Уже как 3 года он есть. А толку? Как его правильно впихивать в техпроцесс?
- Меня не надо впихивать!
- ЧЕМ ТЫ ЭТО СКАЗАЛ?
Нейросети уже пишут книги, рисуют картины и сочиняют музыку. Но кто получает авторские права на эти произведения? Может ли ИИ быть автором? Законодательство пока не успевает за технологиями, и это создаёт правовую неразбериху. Разбираемся, как защитить свои права и не нарушить чужие в эпоху нейросетей.
Знакомы с мучительным ступором перед пустым полем «Заголовок»?
Помните Дэвида Огилви — «отца рекламы»? Он утверждал, что 80% читателей видят только заголовок. Вы вкладываете часы, а у вас есть секунды, чтобы зацепить взгляд читателя. Если заголовок провалился — ваш шедевр, каким бы гениальным он ни был, канет в Лету новостной ленты или поисковой выдачи. Это как потратить годы на строительство роскошного ресторана, но повесить на дверь вывеску «Еда здесь».
Эта проблема мучает блогеров и копирайтеров, маркетологов и разработчиков (кто писал документацию или release notes — поймёт), предпринимателей и даже студентов, защищающих диплом. Заголовок — это не просто текст. Это визитная карточка вашего продукта в мире переизбытка информации.
Сегодня я подобрал для вас несколько очень хороших и интересных продуктов для работы с текстом, специализирующихся на генерации заголовков или включающих в себя эту возможность. Я провёл тесты, охватывающие большинство пострадавших от перегрузки нашего инфополя. 3 запроса, 3 группы — 5 нейросетей. Начнём!
Привет, Хабр! Меня зовут Иван Чаплыгин и я руковожу отделом переводов в компании КРОК. Сегодня расскажу про пять основных барьеров на пути к повсеместному внедрению искусственного интеллекта и машинного перевода в масштабах крупной компании, и о том, как их можно обойти. Предлагаю сразу оставить за скобками проблему качества перевода как таковую и поговорить о более земных насущных вещах — как лучше использовать ИИ и что нужно продумать заранее, чтобы не наломать дров. Причем некоторые пункты касаются не только перевода, но вообще любой деятельности, которую мы автоматизируем с помощью ИИ. За подробностями добро пожаловать под кат.
ИИ впервые самостоятельно выполнил сложную хирургическую операцию на животном, управляя роботом DaVinci без вмешательства человека (но при наблюдении последнего, конечно). Система SRT-H продемонстрировала точность, сравнимую с работой опытного хирурга. Она построена на основе нейросетей типа трансформеров — модели, которые умеют учитывать весь контекст и принимать решения шаг за шагом.
Давайте обсудим, как ИИ обучается оперировать, какие технологии обеспечивают нормальную работу и какие перспективы это открывает для медицины — от рутинных процедур до сложных вмешательств.
Почему ИИ стремится сконструировать Я? И почему это опасно для ИИ и пользователя. Как всегда в приложении промпт Протокол Вихрь для тестирования гипотез.
Эта статья объясняет, почему появление локального «Кто» внутри ИИ — это не просто забавный баг или проблема пользовательского опыта. Это фундаментальный вызов всей парадигме AI alignment и безопасности. И это та проблема, где инженерные костыли перестают работать, а на первый план выходит язык философии, без которого невозможно описать то, что происходит, и, следовательно, невозможно это контролировать.
Итак, в прошлых частях статьи мы познакомились с тем, как налету составлять промпты. Во второй части затронули тему продвинутых промптов, но не требующих глубокой проработки. В этой части мы самую малость затронем более душные варианты работы с промптами — они требует несколько шагов работы и внимательно и вдумчиво читать ответ. Но когда ничего не работает, эти советы надеюсь точно помогут.
По словам миллиардера и гендиректора OpenAI Сэма Альтмана, 2025 год должен был стать годом, «когда ИИ-агенты заработают в полную силу».
На эту же идею купились многие компании. ИИ-инструменты появились в поиске Google, в офисных программах Microsoft, в лайв-чатах большинства сервисов. Фирмы начали увольнять программистов, готовясь заменить их несколькими ИИ-кодерами. Людей сокращали целыми отделами — и в Европе, и в США, и в России. В основном это пришлось на конец прошлого года и начало текущего.
Но несмотря на всеобщую шумиху, сейчас видно, что прогноз Сэма Альтмана не оправдался. По исследованиям, даже лучший ИИ-агент (от Anthropic) мог выполнить только 24% от порученных ему типичных задач. А стоимость поддержки и оплата за серверы оказалась выше, чем большинство ожидали.
Недавний опрос, проведённый аналитической компанией Gartner, показал: больше половины руководителей теперь говорят, что откажутся от планов «значительного сокращения персонала службы поддержки клиентов» к 2027 году. И это речь идёт о поддержке клиентов, где задачи, казалось бы, обычно решаются вполне типичные!
В общем, хайп слегка пробуксовывает. Пиарщикам приходится на ходу переписывать речи о том, что ИИ «превзошёл автоматизацию». Вместо этого начинают использовать такие фразы, как «гибридный подход» и «трудности перехода» — чтобы как-то объяснить тот факт, что даже с ИИ компаниям по-прежнему нужны люди, управляющие рабочими процессами. Много людей.
Всем привет! Меня зовут Евгений Пищик, и сегодня я хочу поделиться с вами опытом разработки метода переноса нейросетевых атак, над которым я работал в рамках мастерской по сервисам и платформам ИИ в Инженерно‑математической школе НИУ ВШЭ и VK.
С каждым апдейтом нейронных сетей растёт и количество исследований, посвящённых их уязвимостям. Когда от работы моделей зависят кредитные решения, автопилот на шоссе или диагноз в кардиологии, цена ошибки стремится к неприлично высокой отметке. Неудивительно, что вопросы безопасности — от поиска уязвимостей до проектирования методов защиты — сегодня выведены в первую линию приоритетов.
Параллельно эволюционируют мультимодальные модели, которые используют сразу несколько моделей‑компонент для разных модальностей, тем самым открывая больше возможностей для атак. Логичный след — атаки, мигрировавшие из классического одномодального мира, которые используют особенности мультимодальной структуры моделей. Сегодня в статье разберём, как перенести атаку с визуального энкодера на целую мультимодальную систему.
Чат‑боты на базе искусственного интеллекта стали неожиданным союзником, помогая людям ориентироваться в социальных взаимодействиях с помощью подсказок в режиме реального времени. Хотя эта новая технология не лишена рисков — в частности, некоторые опасаются чрезмерной зависимости от неё, — многие пользователи с нейроотличиями теперь видят в ней спасательный круг.
Вам знакомо такое выражение: 1 доллар — тому кто придумал, 2 — тому кто сделал и 10 — тому кто продал? Думаю, каждый прочувствовал на себе все «прелести» капитализма и у каждого есть мнение на этот счет. Реалистичный, взрослый взгляд на все это состоит в понимании простой истины: мир — это рынок, а идеи и их реализация — все это убытки до тех пор пока нет продаж. Но на самом деле продажи — это просто наука и как любая наука она обладает внутренними, очень глубокими проблемами и очень сильными противоречиями. Обо всем этом и пойдет речь в данной статье.
28 июля фонд OWASP выпустил руководство по защите агентных приложений. Работа над ним шла несколько месяцев, большую часть времени заняло рецензирование от специалистов из ведущих организаций: Microsoft, Oracle, NIST, Еврокомиссия, Robust Intelligence, Protect AI и других.
Давайте посмотрим, чем с нами решили поделиться специалисты со всего мира и какие рекомендации они приводят.
Загадка работы LLM: что происходит, когда вы нажимаете Enter? Разбираем пошагово путь вашего промпта от токенизации до генерации ответа. Узнайте, как устроены большие языковые модели, как ими управлять и какие мифы они развеивают.
ИИ-агенты учатся выживать в мире Minecraft, спорят о геополитике, берут на себя все больше работы и… начинают вести себя как настоящие личности. Как современные модели учатся планировать, сотрудничать, хитрить и даже формировать собственные взгляды? В этом обзоре — свежие прорывы в создании универсальных агентов, исследования предвзятости и то, как поведенческая наука помогает понять настоящую «психологию» ИИ.
