«Яндекс» представил YandexGPT 3 Lite — облегчённую версию генеративной нейросети третьего поколения. Она подходит для интеграции в чат-боты, способна быстро генерировать ответы на вопросы, проверять тексты и анализировать данные.
![](https://habrastorage.org/getpro/habr/upload_files/bfa/f1e/9ec/bfaf1e9ec3498442920758f605442d4b.jpg)
Доступ к YandexGPT 3 Lite получат клиенты облачной платформы Yandex Cloud через API в сервисе Foundation Models. Коммерческая модель подойдёт для разных типов бизнеса. Она позволит оптимизировать задачи консультирования клиентов, создания маркетинговых материалов и многое другое.
![](https://habrastorage.org/getpro/habr/upload_files/f42/226/f36/f42226f36bde2f7491b7922fb18edb33.png)
Модель превосходит YandexGPT 2 Lite. Так, в тесте YaMMLU_ru (русскоязычной версии международного эталонного теста MMLU) она даёт на 6 п.п. больше верных ответов, чем модель предыдущего поколения.
![](https://habrastorage.org/getpro/habr/upload_files/654/2ba/b90/6542bab90e7df4a484b5e08517b87dda.jpg)
В методике Side by Side с экспертной оценкой ответов YandexGPT 3 Lite отвечала лучше в 68% случаев.
![](https://habrastorage.org/getpro/habr/upload_files/1ff/442/780/1ff44278067a60c10aa0b09ec1be743b.jpg)
Вот как выглядят оценки модели в задачах классификации, генерации контента, ответов на вопросы и других типах бизнес-задач:
![](https://habrastorage.org/getpro/habr/upload_files/c35/167/8a6/c351678a62f7059a38517c1b984db23d.jpg)
Наконец, она допускает меньше орфографических и фактических ошибок, чем модель второго поколения.
![](https://habrastorage.org/getpro/habr/upload_files/f79/c94/e0c/f79c94e0cc7f8de474503cea562963bb.jpg)
Разработчики улучшили все этапы обучения, от отбора данных для предобучения и до обработки данных. Так, на первом этапе теперь используется технология curriculum learning для поэтапного усложнения данных. При выравнивании модели и обучении с подкреплением внедрена улучшенная модель для оценки качества ответов нейросети. Наконец, в архитектуру YandexGPT 3 Lite добавили технологию Grouped Query Attention, которая ускоряет обработку данных без потери качества.
![](https://habrastorage.org/getpro/habr/upload_files/e77/2f8/6a9/e772f86a99d41e5949f369e6c7c3cdeb.jpg)
Новая модель заменит предшественника в течение месяца, но опробовать её можно уже сейчас. YandexGPT 3 Lite стоит 20 копеек за тысячу токенов. Новые пользователи Yandex Cloud могут бесплатно протестировать её в демо-режиме.
В марте «Яндекс» представил линейку нейросетей YandexGPT 3. Они лучше работают со сложными запросами и точнее следуют заданному формату ответов, благодаря чему будут особенно полезны при решении реальных задач пользователей и компаний.