Pull to refresh
5
Александр@Fech

Программист в сфере машинного обучения

6
Subscribers
Send message

Нескучное программирование. Обобщения (ч.2)

Level of difficultyHard
Reading time26 min
Reach and readers10K

Это не отдельная статья, а продолжение статьи про теорию объектов в с++, почему объекты в плюсах такие какие есть. Все завершенные главы я также выкладываю на github'e в английском и русском варианте. Продолжаем разбираться в теории С++...

Отдельного разговора заслуживает идентичность объектов, потому что в реальном мире конкретные сущности обладают идентичностью и Сократ останется Сократом независимо от того, перекрасил ли он волосы, сменил адрес или умер, а государство остаётся тем же государством, даже если меняет флаг, конституцию или размер населения. 

Чтобы отразить это в программе, объекты, представляющие конкретные сущности, нуждаются в своём определении идентичности, которая отделена от текущего состояния. Удобный способ ввести такую идентичность будет сделать некий токен идентичности, уникальное значение, которое выражает "кто это", а не "в каком он сейчас состоянии". Таким токеном может быть, например, адрес объекта в памяти, индекс в массиве, или табельный номер сотрудника в кадровой системе и проверяя равенство токенов идентичности, мы фактически проверяем тождественность объектов: один и тот же объект или разные. 

На протяжении жизни программы конкретный объект может менять свои токены идентичности, потому что его могут переместить в другой участок памяти или переложить из одного контейнера в другой, или назначить ему новый идентификатор, но логическая идентичность сохраняется, если мы поддерживаем сопоставление между "старым" и "новым" токеном.

Читать далее

Разбираю статью про FS-Researcher: как учёные научили ИИ вести конспекты

Level of difficultyEasy
Reading time5 min
Reach and readers9.3K

ChatGPT и другие LLM "забывают" начало диалога при серьезном ресерче. Обычная проблема. Новые факты вытесняют старые из-за ограниченного контекстного окна, и отчет получается поверхностным. Недавнее исследование предлагает простое решение — дать ИИ-агенту "блокнот". Разбираемся как такой подход обходит ограничения контекста.

Читать далее

Запретный плод уже сорван

Reading time11 min
Reach and readers47K

Астрофизик Дэвид Киппинг попал на закрытую встречу в Институте перспективных исследований Принстона. Вернулся потрясённым и записал часовой подкаст. Я послушал его весь, чтобы вам не пришлось.

В январе Дэвид Киппинг приехал в Принстон читать коллоквиум по астрономии. В коридоре Института перспективных исследований он разминулся с Эдом Виттеном — одним из отцов теории струн. Просто разминулся, как люди часто расходятся в коридорах. По этому же коридору ходили Эйнштейн, Оппенгеймер, Гёдель. Место не из тех, где привыкли потакать чуши.

А дальше завертелось.

Интересно. Читать далее

LLM модель qwen3-coder-next быстрый тест на локальном сервере

Level of difficultyEasy
Reading time3 min
Reach and readers25K

Сегодня зашел на сайт ollama, а там представили новую LLM модель qwen3-coder-next. Но при попытке ее установить вышло предупреждение что моя текущая версия 0.15.4 не будет работать с ней, нужно установить 0.15.5 которая еще только в бета тестировании. А стандартная установка ставила только 0.15.4, сначала я плюнул на это.

Но немного разобравшись, оказалось что установить бета версию не так и сложно, стандартная установка для линукс выглядит так

curl -fsSL https://ollama.com/install.sh | sh

а установка бета варсии (сейчас она 0.15.5-rs2) выглядит так

curl -fsSL https://ollama.com/install.sh | OLLAMA_VERSION=0.15.5-rc2 sh

Представлено 2 версии qwen3-coder-next

Читать далее

Подростковый период технологий

Level of difficultyEasy
Reading time80 min
Reach and readers9.7K

Это перевод эссе Дарио Амодеи «Подростковый период технологий». Да, мы уже жутко устали от статей про ИИ (многие из которых и написаны LLM). А здесь ещё и лонгрид!.. Но я всё же решился перевести это эссе. Его автор — генеральный директор и соучредитель Anthropic (модель Claude). В 2025 году он вошёл в список 100 самых влиятельных людей по версии журнала Time, до этого работал в OpenAI, курировал создание GPT-2 и GPT-3. Был назван одним из «архитекторов искусственного интеллекта», которых Time выбрал «человеком года», наравне с парнями и девушками на картинке (Амодеи второй справа).

У него есть свой взгляд на то, какие риски несёт развитие ИИ, взгляд "изнутри отрасли", и этим он интересен (даже если мы не согласимся с некоторыми его резко политизированными тезисами). Да, будущее покажет, реализуются ли эти риски, вот только речь идёт о будущем, измеряемом годами, максимум, ближайшим десятилетием...

Читать далее

Развитие искусственного интеллекта: что такое AGI, когда он появится, и что потом?

Level of difficultyEasy
Reading time8 min
Reach and readers32K

Тема искусственного интеллекта за последние полгода буквально заполнила информационное пространство. О ней говорят не только на Хабре или в профессиональных сообществах — в обрывках случайных разговоров совершенно разных людей на улицах я регулярно слышу знакомые слова вроде DeepSeek, ChatGPT и “нейросети”.

Эксперты в области ИИ и вовсе говорят об одной из самых быстрых технических революций в истории человечества — уже на ближайшие годы прогнозируют появление AGI (общего искусственного интеллекта), который в десятки раз ускорит темп научных открытий и решит все современные проблемы человечества. Ну или добавит новых — коллекция страхов на тему ИИ так же велика, как оптимистичных прогнозов. О том, куда нас может привести появление AGI, порассуждаем в самом конце статьи, пока же начнем с терминологии и прогнозов. 

Читать далее

Что такое интеллект?

Reading time8 min
Reach and readers19K
Этот вопрос волнует многих. Строятся теории с привлечением разных сложных понятий, от магии до квантовой физики. Что если всё проще? В статье размышления о некоторых аспектах естественного и искусственного интеллекта, а также определение того, что такое интеллект.
Читать дальше →

Что такое эмбеддинги и как с ними работать. Вводная для начинающих

Level of difficultyMedium
Reading time13 min
Reach and readers54K

В этой статье будет рассказано об эмббедингах и методах работы с ними. Расскажу немного математики и приведу много примеров на Python.

🔥 Начинаем? 🔥

7 pet-проектов с LLM: приватность, скорость и безопасность своими руками

Level of difficultyEasy
Reading time5 min
Reach and readers15K

Зачем всё это?

В последние годы NLP развивается так быстро, что собрать LLM‑систему стало почти так же просто и естественно, как поднять веб‑сервис или собрать пайплайн данных. И всё же логичный вопрос: зачем делать что-то с нуля, если есть готовые SaaS и open-source решения, которые уже просто работают из коробки?

Потому что готовые решения обычно оптимизированы под средний сценарий, а реальный мир почти всегда про частные ограничения: приватность данных, стоимость инференса, задержки, нестандартные источники знаний, требования безопасности и воспроизводимость.

Pet‑проект - это способ руками потрогать ключевые узлы современного LLM‑стека и понять, где именно рождаются качество, скорость и риски. В этой подборке я собрал направления, которые сам считаю самыми обучающими и практически применимыми в 2026 году. В каждом пункте: что строим, зачем, минимальный план и что получится на выходе.

Читать далее

Если пузырь ИИ вот-вот лопнет, что будет дальше?

Level of difficultyEasy
Reading time12 min
Reach and readers10K

Последние пару лет ИИ живёт жизнью, о которой большинство технологий могут только мечтать. Он не вошёл на рынок вежливо, как полезное обновление существующего программного обеспечения.

Он ворвался как шторм, который потребовал внимания, перестроил повестки дня залов заседаний, захватил бюджеты, переписал дорожные карты продуктов и заставил целые индустрии внезапно вести себя так, будто они опоздали на гонку, о старте которой даже не подозревали.

Если вы работаете в технологиях, вы, вероятно, это почувствовали. Это ощущение, что в каждом разговоре теперь сидит «ИИ», как неизбежный гость. Слайды квартальных бизнес-обзоров выглядят по-другому. Презентации для инвесторов выглядят по-другому. Описания вакансий выглядят по-другому.

Даже базовые инструменты, которые раньше казались завершёнными и стабильными, теперь поставляются с новыми кнопками, предлагающими «с поддержкой ИИ» то и «с помощью ИИ» это.

И всё же, под волнением, глянцевыми демо и постоянным потоком объявлений, более тихий и более некомфортный вопрос начал появляться чаще, чем люди признают.

Устойчиво ли это?

Читать далее

Забыла, как писать «Hello, world»: почему нейросети теряют память

Reading time16 min
Reach and readers10K

Представьте: вы месяцами обучали языковую модель, она выдает блестящие ответы — и вдруг после загрузки нового датасета словно теряет память и начинает ошибаться в задачах, которые раньше решала без проблем. Знакомо?

Причина такого поведения — не баг, а побочный эффект обучения нейросетей, известный как катастрофическое забывание (catastrophic forgetting). Оно особенно досаждает при тренировке LLM и мощных систем компьютерного зрения, которые приходится регулярно докармливать свежими данными. Увы, с каждым таким апдейтом есть риск, что старая информация «испарится» из модели. 

Почему забывание происходит — и всегда ли это нежелательный эффект? Давайте разбираться.

Читать далее

Сжатие без потерь: уменьшаем эмбеддинги для онлайн-ранжирования рекламы

Reading time7 min
Reach and readers5.7K

Можно сделать самую лучшую на свете модель, но от нее будет мало проку, если не обеспечить ее интеграцию в реальные бизнес-процессы. 

Всем привет, я Илья Бадекин — Data Scientist в команде товарных рекомендаций Wildberries, и в данной статье расскажу о том, зачем текстовый энкодер в команде «Товарных рекомендаций» Wildberries, на что он способен и как мы сжимали его эмбеддинги для онлайн-доранжирование рекламных баннеров по запросам пользователей.

Читать далее

А король-то голый! Как написать свой Claude Code в 200 строках кода

Level of difficultyEasy
Reading time7 min
Reach and readers26K

Современные кодинг-помощники кажутся магией. Достаточно описать нужное вам на хотя бы немного понятными словами, после чего они сами читают файлы, редактируют проект и пишут работающий код.

Но вот что я вам скажу: в основе этих инструментов не лежит магия. Для них достаточно примерно двухсот строк простого Python.

Давайте с нуля напишем собственный функциональный кодинг-агент.

Читать далее

Пузырь ИИ: крах, который изменит поколения

Level of difficultyEasy
Reading time5 min
Reach and readers53K

Оценка американского фондового рынка сегодня выше, чем перед крахом 1929 года. Что это значит для всех нас?

Financial Times опубликовала материал, который вы, возможно, должны были видеть повсюду, но почему-то не видели.

Оценка американского фондового рынка сегодня выше, чем была перед крахом Уолл-стрит в 1929 году.

Просто осознайте это на секунду.

Выше, чем в 1929-м. Выше, чем в 2008-м. На уровне пузыря доткомов.

И это подтверждается не одним показателем, а сразу несколькими - коэффициентом «цена/прибыль», соотношением капитализации и ВВП. По всем параметрам мы на исторических высотах.

Читать далее

Если ИИ не мыслит, то как он решает математические задачи?

Level of difficultyEasy
Reading time4 min
Reach and readers61K

Самый частый вопрос к тезису о том, что языковые модели не думают - чисто практический.

В предыдущей публикации я выдвинул тезис, который многих заставил почувствовать себя неуютно: большие языковые модели не мыслят. Они не рассуждают так, как это делает человек. Они лишь предсказывают следующий токен.

Самым частым возражением было не философское, а практическое:

«Если это правда, то как ИИ удается заниматься арифметикой?»

Сложение, вычитание, умножение - эти процессы кажутся точными, механическими и основанными на строгих правилах. Они выглядят полной противоположностью «размытому» предсказанию языка. Поэтому естественно предположить, что где-то внутри модели спрятан калькулятор или нечто очень на него похожее.

Но его там нет. Однако происходит кое-что весьма любопытное.

Читать далее

«Привет! Я [0.44, -0.91, 0.66...]» или как научить машину понимать смысл слов

Level of difficultyMedium
Reading time11 min
Reach and readers21K

Я уверен, вы видели модели машинного обучения, которые принимают текст и предсказывают, является ли он спамом. Аналогично модель может проанализировать отзыв о фильме и определить его тональность — положительную или отрицательную, понимать что «груша» связана с «яблоком» куда больше, чем с «теплоходом».

Первое правило обучения любой модели машинного обучения — это преобразование входных данных в числа. Цифровой объект можно представить числом: картинку, текст, аудио или видеофайл — практически всё что угодно.

Для того чтобы ввести этот объект в нашу ML модель как некое понятие, мы должны преобразовать его в определённый набор чисел. По этому набору чисел мы сможем определить, что, например, этот объект «яблоко», а не «груша».

С картинками все просто. В чёрно-белом изображении (в градациях серого) самый яркий пиксель имеет значение 1, самый тёмный — 0, а оттенки серого имеют значения от 0 до 1. Такое числовое представление упрощает обработку изображений. Преобразовав изображение в цифровую форму на основе значений пикселей, мы можем использовать его в качестве входных данных для обучения нашей модели, позволяя нейронной сети обучаться на значениях пикселей.

Однако что делать с текстом? Как спроецировать буквы в числа?

Читать далее

«Галлюцинации LLM — это не баг»: профессор математики объясняет, почему ИИ не перестанет врать

Level of difficultyEasy
Reading time17 min
Reach and readers83K

Владимир Крылов, профессор математики, научный консультант Artezio и один из самых глубоких русскоязычных экспертов по применению ИИ в разработке, дал интервью по итогам года. Мы поговорили о том, почему reasoning-модели галлюцинируют вдвое чаще обычных (и это математически неизбежно), почему OpenAI объявил «код красный» и отстаёт от Google, и правда ли, что программисты, умеющие писать код только руками, скоро вымрут как вид. Спойлер: Паваротти не умел читать ноты, и это кое-что говорит о будущем vibe-coding.

Владимир Крылов регулярно проводит лекции о практическом применении LLM в разработке на канале Ai4dev. Если хотите разобраться в теме глубже, чем позволяет это интервью в блоге ЛАНИТ, подписывайтесь.

Читать далее

Python (+numba) быстрее Си — серьёзно?! Часть 1. Теория

Reading time7 min
Reach and readers93K

Давно собирался написать статью о numba и о сравнении её быстродействия с си. Статья про хаскелл «Быстрее, чем C++; медленнее, чем PHP» подтолкнула к действию. В комментариях к этой статье упомянули о библиотеке numba и о том, что она магическим образом может приблизить скорость выполнения кода на питоне к скорости на си. В данной статье после небольшого обзора по numba (часть 1) чуть более подробный разбор этой ситуации (часть 2).


Читать дальше →

Transformer в картинках

Reading time14 min
Reach and readers193K

В прошлой статье мы рассматривали механизм внимания (attention) – чрезвычайно распространенный метод в современных моделях глубокого обучения, позволяющий улучшить показатели эффективности приложений нейронного машинного перевода. В данной статье мы рассмотрим Трансформер (Transformer) – модель, которая использует механизм внимания для повышения скорости обучения. Более того, для ряда задач Трансформеры превосходят модель нейронного машинного перевода от Google. Однако самое большое преимущество Трансформеров заключается в их высокой эффективности в условиях параллелизации (parallelization). Даже Google Cloud рекомендует использовать Трансформер в качестве модели при работе на Cloud TPU. Попробуем разобраться, из чего состоит модель и какие функции выполняет.


Впервые модель Трансформера была предложена в статье Attention is All You Need. Реализация на TensorFlow доступна как часть пакета Tensor2Tensor, кроме того, группа NLP-исследователей из Гарварда создали гид-аннотацию статьи с реализацией на PyTorch. В данном же руководстве мы попробуем максимально просто и последовательно изложить основные идеи и понятия, что, надеемся, поможет людям, не обладающим глубоким знанием предметной области, понять данную модель.

Читать дальше →
1

Information

Rating
Does not participate
Location
Санкт-Петербург, Санкт-Петербург и область, Россия
Date of birth
Registered
Activity

Specialization

Specialist
Python
Docker