NVIDIA показала голосовой AI, который умеет слушать и отвечать одновременно

NVIDIA представила NemotronLabs VoiceChat — голосовую модель для диалогов в реальном времени. В отличие от классической связки ASR → LLM → TTS, здесь понимание речи и её генерация объединены в одной архитектуре.

Главная особенность — полный дуплекс. Пользователь может перебить агента прямо во время ответа, а система продолжит разговор без переключения в отдельный режим. Модель также умеет вызывать инструменты прямо в процессе диалога — например, запрашивать данные из внешнего сервиса.

За обработку аудио отвечает Conformer-модуль, после чего аудиоток поступает в NVIDIA Nemotron Nano 9B v2. Отдельный канал используется для генерации сценариев вызова инструментов, а TTS-декодер превращает результат обратно в речь.

При этом проект пока рассчитан скорее на разработчиков: для запуска требуется NVIDIA GPU минимум с 80 ГБ видеопамяти. Выпущенная версия использует один фиксированный голос и не поддерживает клонирование голоса.

Сам экспериментальный код и инструкции NVIDIA разместила в репозитории VoiceChat на GitHub.

Похоже, голосовые агенты постепенно уходят от сценария «сначала договорите, потом я отвечу» к действительно живому разговору.

✔ Код — журнал о технологиях https://t.me/kodjournal подпишитесь на наш Telegram-канал! 😎