Pull to refresh
51
Petr Ermakov@couatl

ML

0,2
Rating
46
Subscribers
Send message

Энтузиасты уже квантизуют, следите за репозиторием в HF, уже 5 вариантов появилось

Нет. К претрейн-версии модели не делают АПИ

в карточке модели есть инструкция как ее запустить: https://huggingface.co/yandex/AliceAI-Foundation-80B-A3B-Base#как-использовать (по скринам явно видно что не так)

товарищ из твиттера запускает ее иначе, завтра с ним спишемся и поможем ему запустить

Эта модель претрейн-версии. В облаках модели без алаймента никто не продает.
Но яндекс.облаке есть alice ai llm и alice ai llm flash, которые как раз обучены с последними этапами - ими можно воспользоваться.

Илья, я хотел бы внести ясность. Это опенсорс претрейн модели. Если модель на что-то отказывается отвечать - это закладывается на другом этапе - алайменте. Вы или кто-то из сообщества может дообучить нашу модель под свои задачи и свои ограничения.

отмечу, не просто взять и сделать алаймент, а сделать это максимально качественно

зуб даю, эти ребята знают, что делают.

умности 80б (и даже больше чем у других моделей с большим размером - смотрите тесты), а скорости 3б - в этом вся соль

2. мы не комментируем наши планы, но обещаем вас еще приятно удивить)

Спасибо, что оценил!

Что касается популярности: сфера ассистентов молодая и выиграть просто маркетинговыми бюджетами невозможно. Если продукт плохого качества его попробуют и уйдут к конкуренту. Где сейчас все эти аналоги тиктоков, твичей и тд

Великолепный опыт! По доброму завидую.

А что вы имеете ввиду под классическими тестами?

Вся информация, которой готов делиться, есть в документации, что я скинул

https://cloud.yandex.ru/docs/yandexgpt/concepts/models

Привет! Спасибо за статью и поздравляю с запуском новой модели. 

Как я понял из текста, вы сравнили модель GigaChat Pro на 29 млрд параметров со старой моделью YandexGPT, к которой можно было получить доступ по API в прошлом. Ещё неделю назад мы открыли для всех пользователей API новой модели YandexGPT 2. Было бы корректно сравниваться именно с ней. 

Кроме того, не хватает подробностей про корзину, на которой вы оценивали модели. По нашему опыту, состав корзины очень сильно влияет на результаты SBS-сравнений. Например, один из принципов формирования нашей корзины — соответствие реальным, прикладным задачам наших пользователей.

Так и ранее это не было проблемой, LLM всех мастей сделают это и без дополнительного датасета не хуже человека.

1
23 ...

Information

Rating
2,719-th
Location
Москва, Москва и Московская обл., Россия
Works in
Date of birth
Registered
Activity