Чат GPT в колонке Алиса

[iron-zorin]

А ГигаЧат не пробовали?
Мне кажется, что он значительно умнее Алисы

[FanatPHP]

А зачем ему гига чат от сбера, если у него оригинальный ChatGPT?

[tkachikov]

А зачем в Алису его добавлять, если можно приложение скачать?

[SHAREN]

Он сразу в режиме стриминга отвечает или нужно ждать пока свормируется весь ответ?

[zabarov]

Отвечает сразу, но там есть у самой системы навыков технические ограничения. Если ответ не придёт в течении 3-х секунд, то он не ответит. Поэтому лучше использовать более быстрые модели, например gpt-4o-mini

[SHAREN]

В API можно включить режим стриминга, чтобы ответ приходил частями как в официальном приложении.

Хотелось бы предложить включить режим стриминга в ответах от ChatGPT. Для этого нужно:

1. Добавить параметр stream=True в запрос openai.ChatCompletion.create.

2. Организовать обработку фрагментов ответа (chunks) через цикл for по стриму.

3. Если Алиса не поддерживает отправку данных частями, можно накапливать ответ в строку и отправлять его целиком после завершения стрима.

Пример обработки:

response = openai.ChatCompletion.create( model="gpt-3.5-turbo", messages=dialog, stream=True )full_response = "" for chunk in response: partial_content = chunk['choices'][0]['delta'].get('content', '') full_response += partial_contentОтправить full_response пользователю

Будет здорово, если удастся это реализовать!

[serg8880]

Спасибо за статью, очень интересно.

Подскажите , а какие пользовательские сценарии Вы используете?

Просто голосовой режим не очень удобен в работе как по мне, я даже рецепт блюд не очень люблю голосом слушать, так как тяжело воспринимать.

[zabarov]

Именно голосом мне нужно было чтобы по английскому помог (общение, практика). Потому что сама Алиса очень плоха в этом. Но надо учитывать что голоса для навыков заточены под русский язык и у них в английском есть акцент.

[trusiwko]

Когда я писал свои навыки, очень часто отваливались с ошибкой таймаута. Алиса очень мало ждёт ответ от сервиса. В стриминг она точно не умеет, надо ждать полностью ответ от LLM. Если он больше пары абзацев, она всегда будет отвечать что не дождалась ответа. Скармливать ответ Алисе чанками надо как-то. Но она когда первый чанк проговорит включает микрофон для диалога и второй уже не скажет.

Короче, тема не раскрыта и требует пояснения.

[SHAREN]

Если дело на home assistant, то можно попробовать воспроизводить ответ через интеграцию яндекс.станция. то есть по факту навык ничего не отвечает, но когда чатгпт сформирует ответ присылает на home assistant текст и он воспроизводится с помощью колонки

[VasiliiNorris]

Можно для особо тупых ещё более подробный гайд?

Что я делал:

1) Установил Fastpanel на 24 убунту скриптом на таймвеб

2) Сделал сайт через Create Site в фастпанел

3) Клонировал гит в /root/alicegpt

4) Скопировал .env (с ключом) в /var/www/alicegpt/data/www/*url_сайта*

5) Установил Composer, скопировал composer.json в /var/www/alicegpt/data/www/*url_сайта* и запустил composer install

6) Сделал навык, указав https://*url_сайта*/index.php

Что я не так сделал или что не доделал?

[pumi]

как обойти ограничение на ответ 3 секунды от яндекса?