Комментарии 9
Спасибо за инфу, возьму на заметку.
А есть популярные LLM, которые можно будет развернуть на своем сервере и они будут транскрибировать аудио в текст? Точнее есть ли в этом смысл
Или это не выгодно (по затрате мощностей для железа сервера для поддержания LLM), и проще использовать внешний апи?
Делал пет проект, и пока использовал от Сбера salute-speech API, которая делает неплохую транскрибацию русских текстов за покупку токенов.
LLM нужна не для транскрибации, а редактирования ответа после нее
Whisper который выше упомянули можно установить локально. Для хорошей скорости gpu не помешает. Также на днях вышла NVIDIA Canary-1B-v2. Оба из докера можно по быстрому запустить
Локально это все имеет смысл или для приватности или для больших объемов.
Вообще штука удобная - получать таким образом текст. Спасибо за экономию времени.
как можно с вами связаться?
Блин крутяк. Я недавно своего бота сделал по учету финансов и хотел туда прикрутить голосовую расшифровку, чтобы ленивым как я юзерам не нужно было все делать ручками. В общем, хорошая статья, надо потестить)

Легчайший бот на Python, который переводит ваш голос в текст