Как пробить многоуровневую защиту LLM-агента, обученную на 80+ млн атаках?
В декабре 2025 я вошел в топ-10 глобального рейтинга Lakera Agent Breaker. В этой статье - не просто обзор решения, а детальный разбор уязвимостей современных LLM-систем и архитектура кастомного фаззинг-пайплайна.
Что будет если дать LLM агенту права на исполнение кода?
В статье описан опыт построения агента, у которого только один инструмент в арсенале - исполнять любой python код. А также посмотрим как такой агент справляется со сложными задачками.
* скрин взят отсюда, один из первых фреймворков, который решил дать агенту лицензию на уби исполнение произвольного кода =)
История о том, как удалённая команда QIC открыла для себя катарский EdTech-рынок и обнаружила парадокс: компании активно ходят на карьерные ярмарки, а студенты по-прежнему «голодают» по реальным проектам.
Привет, Хабр! Я давно отучился в школе и институте, но хорошо помню, как мне говорили: «Учи! Тебе это пригодится! Без этого никуда! Это очень важно…» и почти никогда не объясняли, зачем учить, когда это пригодится и для чего.
Поэтому, когда мне поставили задачу написать про полуфинал Международной студенческой олимпиады по программированию (ICPC) для региона «Северная Евразия», я решил не пересказывать данные из Википедии. Вы и сами можете их прочитать, а кто-то даже рассказать о собственном опыте участия. Я спросил коллег внутри X5 Tech, как навыки, полученные на соревнованиях по программированию помогли им в реальной жизни: на собеседованиях, в продакшене, в решении сложных системных задач или даже в бытовых ситуациях. Про то, что спортивное программирование развивает алгоритмическое мышление, стрессоустойчивость и умение работать в команде в ограниченное время, пишут много, но теория не всегда переносится на практику.
Так как же обстоят дела на самом деле? Какие алгоритмические привычки пятичасовых контестов переходят в инженерную практику? И помогают ли навыки с олимпиад, когда сталкиваешься с реальным сервисом, данными и нагрузками, а не с абстрактными задачами?
Соревнование MindGames Arena проводится как часть одной из ключевых конференций в области ИИ NeurIPS 2025 и проверяет, могут ли агенты демонстрировать социально‑стратегические способности — моделировать убеждения других, обнаруживать обман, координироваться и планировать в многоходовых взаимодействиях — все это, общаясь на естественном языке. Команда In2AI Института AIRI, стартапа Coframe и Университета Иннополис заняла первое место в треке Generalization в двух категориях:
1. Efficient: модели с открытым исходным кодом до 8 миллиардов параметров.
2. Open: любые модели без ограничений на размер и стоимость, в том числе модели с закрытым исходным кодом (OpenAI, Google, Anthropic и др.).
Рассказываем о том, как им это удалось.
18го ноября, в ГФМЛ №30 на дне наук, я, Саша, CGSG, при поддержки Yandex Cloud провели игровой хакатон для школьников!
Задачей ребят было за 2 часа написать бота для змейки на Lua. Они писали и отправляли стратегии, а в фоне постоянно шли матчи, в которых их стратегии и принимали участие.
И тут я хочу поделиться внутренней кухней. Как все это было приготовлено, с какими проблемами столкнулись, какие ошибки допустили, а что вышло хорошо. Будет много картинок, фоток и даже пару видео.
Привет! Мы — команда StreetCode. На хакатоне AI Product Hack [AI]ducation мы решили проверить, может ли AI не просто помогать студентам, а понимать контекст академической дисциплины. Так появился Джейн — AI-ассистент преподавателя урбанистики, созданный для Университета ИТМО.
За десять дней мы прошли путь от идеи до работающего прототипа: сформулировали гипотезу, построили RAG-архитектуру, внедрили систему проверки безопасности и протестировали бота на реальных студенческих работах.
В этой статье расскажем, какую проблему мы решали, как устроен ассистент изнутри и что показали на финале хакатона.
Не так давно довелось спонтанно поучаствовать в активности от T‑банка. Кроме всяких «интересных» заданий, там были задачки и на кодинг. Критерием победы в задачах «Стековки» были не O(n), не микросекунды, а краткость кода, твёрдо измеренная в символах, что тоже по своему интересно. «Как написать решение используя минимальное число символов?».
С одной стороны это были задания на компактный алгоритм, с другой стороны — на знания возможностей языка. Я к такому родам задачам не готовился, но по ходу дела мне показалось, что приёмы, которые можно придуматьприменить при таких метриках, вполне стоило бы обобщить, структурировать, и применять уже с меньшими когнитивными нагрузками. Заинтересовало? Добро пожаловать за странными конструкциями и хацкер-бонусом.
Всем привет! Меня зовут Бронислав Алексеев, я разработчик и один из организаторов сообщества Python-разработчиков в Новосибирске — PythoNSK.
В городе-миллионнике с сильными вузами мы с коллегами заметили парадокс — митапов, посвящённых исключительно Python, практически не было. Мы решили это исправить. Сегодня я хочу поделиться не только успехами, но и честным разбором ошибок, которые мы допустили. Надеюсь, наш опыт поможет вам избежать этих граблей и смелее браться за создание коммьюнити в своём городе!
И да, нам удалось привлечь Никиту Соболева, core-разработчика CPython. Рассказываю, как это было с нуля: бронирование помещения, поиск участников, составление расписания.
Кстати, эта статья написана в преддверии второго митапа PythoNSK - он будет в субботу 22 ноября, а в этой статье мы разберем плюсы и минусы нашего первого митапа, проведенного 13 сентября 2025 года!
Но обо всём по порядку. Всех интересующихся - просим под кат.
Мы сделали продакшен-решение под сложное ТЗ, собрали всё — от FastAPI и PostgreSQL до ELK и CI/CD. А победили ребята с презентацией в Figma и пустым сайтом.
Жюри сказало, что «всё по бизнес-требованиям».
Рассказываю, как проходил «самый масштабный хакатон страны» и почему он стал фарсом.
В этой статье я расскажу вам, как наша команда — «жыбий рыр» участвовала в хакатоне от DDOS‑GUARD
Рассмотрим, какой кейс мы выбрали, покажу, к какой реализации пришли и покажу наше решение, а в конце подведем итоги.
Привет, Хабр! Меня зовут Настя Голубничая, я деврел в МТС Web Services, а еще в этом году лидирую трек «Программирование роботов» в МТС True Tech Champ. Полуфинал продлится до понедельника, сейчас участники удаленно подключаются к реальным роботам и проходят лабиринты. Каждую неделю мы проводим для них встречи с экспертами, отвечаем на вопросы, помогаем разобраться в управлении машинами — и в целом всегда держимся на связи. Кажется, нам удалось провести работу над ошибками прошлого года и на этот раз мы предусмотрели все. Или все-таки нет?
Вот именно из-за последнего вопроса мне не нужны никакие страшилки, чтобы не суметь ночью заснуть. Достаточно представить, что одно из опасений осуществляется, — и мы с командой разработки будем до утра генерить идеи, как это все пофиксить и какую соломку (и где именно) подстелить. К счастью, сейчас все боли уже закрыты, но тревога в памяти еще жива. И сегодня, раз уж повод такой подвернулся, я хочу рассказать, какие страхи мучили нашу команду накануне третьего сезона True Tech Champ и как мы боролись с таинственным ужасом и тенями прошлого. Итак, в черном-черном городе черной-черной ночью мы готовили чемпионат…
О чем статья: Это художественное произведение, основанное на реальных событиях, о том, как собрать команду и штурмовать самые перспективные мероприятия на стыке науки и технологий. Одновременно это — руководство для тех, кто хочет впервые принять участие в хакатоне и не сгореть. Прочитав его, вы получите один из вариантов развития событий со стороны менеджера проектов.
«Проект провалился ровно в 23:47. Не в четверг, а в среду, что было особенно обидно. Gantt-чарт, ещё утром сиявший аккуратными зелёными полосками, теперь напоминал окопы под Верденом. Иван, молча смотрел в экран. Разработчик, наблюдал уже третий сон. Роман, безуспешно пытался разобраться с бэкендом. А до дедлайна оставалось 14 часов. И это был мой звёздный час как проджект-менеджера».
Как до этого дошло...
Всем привет! Меня зовут Михаил — я студент и backend‑разработчик из Ростова‑на‑Дону. С 2021 года я хожу на хакатоны и уже принял участие в 16-ти, многие из которых были выиграны нашей командой. Этой статьей я хочу на собственном примере показать почему хакатоны — это классно и зачем в них участвовать начинающим специалистам.
Дорогие читатели, сегодня — статья о хакатонах. Нет — не о том, что их нужно проводить в поездах. Хотя, полюбуйтесь: сотрудники Авито не смогли найти другого места для хакатона, чем поезд дальнего следования. И забронировали для этого целый вагон! Одно слово — хипстеры!
Но эта статья — о том, как хакатоны можно изменить и переосмыслить. Нужно, конечно, оставить всё веселье. Также, нужно добавить свободы участникам: когда хакатоны проводят компании, они обычно делают это со своими конкретными целями. И третье — нужно сделать их более длительными. Я предлагаю делать хакатоны длительностью где‑то в спринт (2 недели), но так, чтобы время активной работы было по‑прежнему около нескольких суток. Другими словами, нужен хакатон, доступный работающему и, возможно, семейному человеку. Возможно ли это? Нужно ваше мнение.
AI прямо сейчас наступает на пятки разработчикам. У кого-то это вызывает иронию, кому-то помогает писать код. Но как ни крути, LLM создали прецедент, который громко заявил о себе и продолжает широко шагать по миру, сотрясая заголовки новостей и видео.
Меня зовут Рустам Курамшин, я работаю в IT более 10 лет, и мне как бэкенд-разработчику феномен LLM сначала казался больше игрой, чем реальным инструментом разработки. Все изменилось, когда я вырвался из проектов, предоставляющих опосредованный доступ к сервисам известных языковых моделей, и начал пользоваться официальными сервисами. Последние пару лет я активно использую ChatGPT для обучения, разработки и просто чтобы пообщаться о жизни.
А еще LLM помогает мне и моей хакатонной команде Java Boys уверенно побеждать на хакатонах. Опытом нужно делиться, так что ловите историю одной из наших побед. Расскажу, как мы с моими тиммейтами разработали AI-агента на Spring AI и API ChatGPT и выиграли полмиллиона на хакатоне МТС True Tech Hack 2025.
Недавно мне довелось поучаствовать в масштабном хакатоне от 2ГИС в Москве. Задача стояла амбициозная — за 48 часов создать технологическое решение, которое сделает городскую среду умнее и удобнее. Наша команда сфокусировалась на одной из самых острых проблем водителей — парковке, и наш проект ParkingAdvisor смог пройти в финал, попав в топ-20 лучших команд.
Кстати, не обошлось и без читеров, но в целом всё прошло хорошо. Мне понравилось :-)
Хочу рассказать подробнее о нашем подходе, который объединяет два сценария: базовый для всех и продвинутый — с полной автоматизацией на основе BLE-маячка.
ИИ – это уже сейчас огромная индустрия, и если начать копать в ней без плана, то может уйти целая жизнь, прежде чем получится во всём разобраться. Потому у команды часто возникает сопротивление перед тем, как начать использовать новые инструменты в работе.
Важно своим примером показывать, что новые технологии – это не страшно. С этой целью команда наших сотрудников из трёх человек приняла участие в хакатоне, за выходные и за 50 долларов сделала ролик, который без ИИ-инструментов в продакшене обошёлся бы в 150-200к рублей.
Я расскажу про сам хакатон, какие ребята использовали решения для генерации видео и почему бизнесу может быть полезно участвовать в хакатонах.
Привет, Хабр! Эта история началась не со стратегической сессии и не с приказа сверху. Она началась с того, что в 2023 году наши разработчики, как и многие в IT-сообществе, подхватили хайп вокруг LLM и начали в свободное время ковырять Llama 2 и другие модели. Все это происходило на личных и рабочих машинах, и довольно быстро стало понятно: для серьезных экспериментов мощностей не хватает.
Шаг 1. Искра: как низовая инициатива разожгла пламя. От любопытства к общему железу
Точкой невозврата стал момент, когда группа энтузиастов пошла к руководству с простой идеей: «Давайте купим в офис одну общую, но мощную видеокарту для всех». К нашему удивлению и радости, руководство идею поддержало и выделило бюджет. Это была не просто покупка GPU, а инвестиция в зарождающееся комьюнити.
У меня нет технического бэкграунда, я специалист в маркетинге) Я не пишу код на работе, не администрирую сервера и не собираюсь называть себя разработчиком. Но я всегда хотела попробовать создать что-то в IT.
И знаете что? С помощью GPT и Replit я собрала работающий продукт всего за несколько дней и выиграла хакатон в номинации «Релизьте это немедленно».
