Любите ли вы математику настолько сильно, насколько люблю её я? Если да, то хотя бы раз в своей жизни вы как минимум слышали, а как максимум участвовали в матбоях. А какие чувства у вас вызывают LLM? Для меня, как и для части нашей R'n'D&ML команды, они являются другой любовью.

Этой осенью представилась прекрасная возможность испытать эти чувства в унисон: нас пригласили на матбой, проходившей в школе ГОУ "СШ № 33 им. К. Маркса с углублённым изучением математики" города Ярославль в качестве специалистов по AI.

Перед нами стояла задача проверить, способны ли большие языковые модели составить серьёзную конкуренцию подготовленным олимпиадникам в real-time режиме. Но обо всём по порядку.

Меня зовут Грибанов Никита, я Data Scientist в отделе R`n`D&ML компании Raft Digital Solutions, и сегодня я расскажу о больших языковых моделях. На данный момент в мире их существует уже более 39 тысяч! Далее буду называть их хайповым названием LLM (Large Language Model).

В этой статье вы сначала узнаете новые или освежите в памяти уже известные вам основы общения с языковыми моделями. Затем разберёте пару реальных примеров настройки запросов и увидите математические возможности Llama 3.2 3B в сравнении с Llama 3.1 8B.

Для достижения хороших результатов при решении различных задач с помощью LLM, с ними как и с людьми, нужно уметь правильно общаться. Как же это сделать?