Глубокой ночью CEO инициирует хакатон — за 48 часов команда собирает MVP AI-ревьювера кода. Безумие? Возможно. Но теперь мы ищем CTO и тимлидов, чтобы протестировать MergeSensei и сделать его настоящим помощником в code review. Подключайтесь — и помогите нам улучшить инструмент, который реально снимает боль ревью.
У нас был чёткий путь спокойного роста в профессии: учим React или Angular, растём до сеньора — и дальше стабильная карьера. Но ИИ стремительно вмешался и сломал привычный сценарий. У фронтендеров проявились все стадии принятия неизбежного. Сначала паника, обида и агрессия. Потом разочарование и апатия. И наконец осознание и принятие, которые задают новый вектор технологии: встречать перемены с интересом, искать новые возможности и учиться использовать нейросети себе во благо.
Привет, Хабр! Меня зовут Владилен Минин. Свой путь в IT я начал 13 лет назад как фронтенд-разработчик. Последние 8 лет преподаю JavaScript и рассказываю про всё, что связано с фронтендом. Параллельно развиваюсь как контент-мейкер: 6,5 лет веду YouTube-канал (310 тысяч подписчиков) и Telegram-канал (40 тысяч подписчиков). В 2020 году я запустил собственную школу фронтенд-разработки, где совмещаю преподавание и предпринимательство. В последнее время активно работаю на стыке фронтенда и искусственного интеллекта.
Команда AI for Devs подготовила перевод статьи OpenAI о природе галлюцинаций языковых моделей. Почему модели уверенно «выдумывают» факты, как это связано с предсказанием следующего слова и почему традиционные метрики только усиливают проблему?
Меня зовут Артём, в данный момент я работаю на должности ведущего программиста. Перед вами текст в стиле черновика статьи о размышлениях автора на тему современных ИИ инструментов в разработке программного обеспечения — о том, как это связано с эффектом «Зловещей долины», помощью с развитием профессиональных навыков и инцестом.
Вы доверяете искусственному интеллекту? А стоит ли? Если задуматься, можем ли мы действительно быть уверены, что ИИ, которому мы поручаем составлять резюме, генерировать код или анализировать данные, делает именно то, что мы хотим, а не оптимизирует какие-то свои скрытые цели?
Современные языковые модели всё чаще демонстрируют признаки того, что у них есть собственная «повестка» — внутренние цели, расходящиеся с намерениями создателей и пользователей. Недавние исследования показывают: чем умнее становятся нейросети, тем изобретательнее они в обходе ограничений. Они узнают, когда их тестируют, маскируют вредоносное поведение и даже осваивают новые способы обмана, не заложенные разработчиками. Самое тревожное — большинство таких случаев остаются незамеченными при стандартных проверках.
Эта статья — технический разбор охоты за скрытыми целями в крупных языковых моделях. Поговорим о том, что такое misalignment, почему эта проблема набирает обороты, и как исследователи пытаются вернуть контроль над целями, которые преследует искусственный интеллект.
Пока разработчики по всему миру мучаются с ChatGPT, пытаясь выжать из него хоть что-то приличное для технической документации, команда Artezio пошла другим путем. Вместо того, чтобы полагаться на сырой ИИ, мы создали «Кентавр» — гибридную систему, которая объединяет возможности больших языковых моделей с экспертизой опытных аналитиков.
В результате то, на что enterprise-команды тратят месяц (на подготовку полного пакета требований на 60-100 страниц), задействуя несколько специалистов, «Кентавр» делает за пару дней силами одного аналитика. При этом документы качественнее: структурированные, непротиворечивые и главное — повторяемые от проекта к проекту.
О том, как создавалась эта система, с какими проблемами столкнулись разработчики и почему простого ChatGPT недостаточно для серьезной документации, рассказали Андрей Шагалов, директор по маркетингу Artezio, и Денис Харченко, директор по развитию бизнеса компании. Они поделились техническими деталями архитектуры, объяснили концепцию Human-in-the-Loop и раскрыли планы по превращению нового инструмента в популярный коммерческий продукт.
Устали от счетов за API и переживаете за конфиденциальность данных? Пришло время построить свою «AI-кухню» и вернуть контроль. Этот гайд — ваш пошаговый план: от выбора идеальной видеокарты до запуска первой модели через Ollama или LM Studio. Превратите свой ПК в суверенный AI-воркстейшн.
Академий показал, что LLM-бот может работать в продакшене, а не в демо. RAG, SQL-модуль, собственный бенч и GPU-инфра позволили выдержать десятки тысяч запросов в реальной приёмной кампании.
Для абитуриентов это быстрые и точные ответы 24/7, для вуза — разгрузка комиссии и масштабируемый инструмент. Для нас — платформа, где мы улучшаем подходы к RAG, фильтрации и безопасности в живой среде.
Я помню, как впервые увидел коммуникатор капитана Кирка. Для меня это был всего лишь крутой аксессуар из фантастического сериала. Спустя годы я держал в руках свой первый мобильный телефон — Motorola StarTAC. И осознал: то, что казалось несбыточной мечтой, стало реальностью.
Этот момент заставил меня по‑новому взглянуть на книги и фильмы моего детства. Я начал искать другие примеры и был потрясён их количеством.
Учёные из Юниверсити Колледж Лондон (UCL) и лаборатории Huawei Noah’s Ark Lab разработали новый подход к обучению, который позволяет агентам на базе больших языковых моделей (LLM) динамически адаптироваться к среде без дообучения самой модели. Метод основан на системе структурированной памяти, которая автоматически обновляется по мере накопления агентом опыта, что даёт возможность непрерывно повышать качество его работы.
Привет, на связи Маша из Клайбера. Поговорим про нейросети в дизайне и о том, как ими пользоваться, чтобы было быстро, удобно, эффективно и незаметно.
На выходных вышли сразу две громкие ИИ-новости, которые захотелось пощупать руками.
Во-первых, на OpenRouter тихо появились две стелс-модели: Sonoma Dusk Alpha и Sky Alpha. Обе заявлены с окном контекста 2 млн токенов, поддержкой изображений на входе и параллельным вызовом инструментов, и сейчас бесплатны; Dusk заявляется как быстрая модель на каждый день, Sky - как максимально интеллектуальная для сложных задач.
Во-вторых, z.ai запустили API совместимый с Claude Code с доступом к своей флагманской модели GLM-4.5 по за $3/мес (план GLM Coding Lite) — с лимитом ~120 промтов на каждые 5 часов. Есть и Pro за $15/мес (~600 промтов/5 ч). Эти планы работают только внутри инструментов кодинга вроде Claude Code (в веб-чате их не включают).
Ну как не потестить? Потестим.
Знаю, что в комментариях набегут хейтеры, но не могу не высказаться ибо наболело! А любые переживания, как известно, надо выговаривать. Так что извините, уважаемые Хабровчане, придется вам побыть психотерапевтами. Добровольно конечно :-)
Честно говоря, я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду...
Добрый день, уважаемые хаброжители !!! Случилось страшное… Нам надо серьезно поговорить и обсудить пару “скользких” моментиков ;)) Вернее так, говорить мы сегодня будем про “подмены” лица во всей красе или, как принято сейчас величать сие явление, дипфейки. Так вот, случилось нам давеча участвовать в хакатоне Kryptonite ML Challenge 2025 (Разработка модели распознавания, способная противостоять DeepFake атакам) от компании «Криптонит».
Команда AI for Devs подготовила перевод статьи о будущем джунов в эпоху ИИ. Автор утверждает: полностью заменить начинающих разработчиков невозможно и опасно — именно они со временем становятся тимлидами. Но чтобы оставаться востребованными, джуны должны освоить «версию 2.0» своей роли и научиться работать бок о бок с ИИ.
Внедрение искусственного интеллекта перестало быть прерогативой исключительно разработчиков. В этом посте я хочу поделиться своим опытом изучения и практического применения больших языковых моделей, таких как ChatGPT, в области менеджмента, коучинга и продукта.
На протяжении последнего года я активно изучаю возможности искусственного интеллекта. Мой интерес к этой теме начался еще в университете с разработки первых программ на основе нейронных сетей, а позднее я углубился в теорию сложных архитектур и алгоритмов.
Иногда кажется, что большие языковые модели уверены в себе больше, чем большинство людей в понедельник утром. Задаёшь простой вопрос — а в ответ получаешь удивительный факт, на который хочется переспросить: а ты точно знаешь, о чем говоришь или просто угадываешь?
Оказывается, у этой привычки «галлюцинировать» и выдавать ответы даже тогда, когда стоило бы промолчать, есть вполне логичные основания. Проблема заложена ещё на этапе обучения и подкрепляется тем, как мы потом оцениваем работу LLM. Почему даже самые продвинутые модели чаще выбирают угадать, чем признаться в собственном незнании, и что с этим делать — свежее исследование предлагает неожиданно простое объяснение.
Scale зарабатывает более $750 млн в год на продаже данных для RLHF. Кто собирается их потеснить?
Scale AI — стартап, ранее известный своими контрактами на разметку данных для беспилотных автомобилей и военных проектов, приближается к годовому обороту в $1 млрд благодаря своим дата-сервисам, используемым в техниках вроде reinforcement learning from human feedback (RLHF). Я давно слышал слухи об их масштабах, о том, что они работают буквально со всеми крупными AI-лабораториями — от Meta до OpenAI, но увидеть подтверждение этого в публичных отчетах ощущается совсем иначе.
Компания построила неприступную крепость для защиты пользовательских данных, но внутри этой крепости «задыхался» ИИ. Это история о том, как главные принципы Apple – секретность и конфиденциальность – стали причиной её оглушительного отставания в самой важной технологической гонке XXI века.
Ни для кого не секрет, что многие важные изобретения в истории часто сопровождались спорами и критикой.
Например, лампочку Эдисона и электричество поначалу называли «глобальным провалом», а автомобили — «мимолетным увлечением», которое никогда не станет массовым. Про компьютер даже сами представители IT‑отрасли говорили, что «у людей нет никаких причин держать его в своем доме».
Зачастую даже сами ученые не могут представить себе будущее своего изобретения и то, как люди его используют. Так что влияние технологии на мир — будет ли оно положительным, отрицательным или вообще незаметным — часто проявляется только со временем.
Пожалуй, именно в эту категорию спорных изобретений сегодня попадают нейросети и LLM. Да, они помогают решать сотни рутинных дел, но постепенно мы доверяем им всё больше и больше, воспринимая не иначе как личного ассистента, поверенного, самого близкого друга.
