Как стать автором
Обновить

Комментарии 8

А когда его еще прифигачат к голосовому ассистенту... Через пять лет у каждого будет свой личный Джарвис. Обожаю

Я думаю сильно раньше.

Уже сейчас народ прикручивает к голосовым ассистенам языковые модели, но почему-то общественной фантазии хватает пока только на то, чтобы прикрутить модели задеплоенные где-то (типа того же ChatGPT). То есть это еще не "свой личный жарвис", а "дядя дал поиграть своим жарвисом, но может отнять в любой момент". Но это наносное, это пройдёт.

не в общественной фантазии дело а в вычислительных мощностях которые для обслуживания одного такого джарвиса с адекватным временем ответа надо зарезервировать. в лучшем случае будет потом мы с дядями арендовали себе облако и развернули личный инстанс минимум на тысячу джарвисов

Вы не запускали видимо альпакоподобных на современном мобильном (и доступном) железе

запускали и прекрасно видели что для уровня ассистента они годятся не очень из-за времени ответа, но в целом для каких сценариев умного дома с более гибким пониманием команд чем обычные ассистенты прекрасно годятся даже весьма старые и намного более простые модельки. и большинству даже это нафиг не надо разница между джарвис включи лампочку. джарвис занавесь шторы. и джарвис включи лампочку и занавесь шторы. несущественна.

Что скажите по качеству ответов по сравнению с Vicuna ? Англоязычный ответов само собой ?

По первым впечатлениям - хуже и чаще выдаёт бред. Например на запрос рецепта с кониной выдаёт говядину.

Military time (это когда 13:44 = 1344) не понимает.

Я пробовал модель на 12B а oobabooga в режиме --load-in-8bit и модель на 9b из jupyter notebook используя куски кода с huggingface.

Общается на русском, круто. Это значит, что примеры в обучении были и на нашем языке?

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости