Твоя колонка шпионит за тобой? Или как перестать кормить корпорации личными данными

[janvarev]

Ирина — опенсорс русский голосовой помощник. Offline-ready - статья на Хабре, в целом имхо закрывает все ваши кейсы.

На Гитхабе у проекта 900+ звезд, расширяется плагинами, есть плагин для Home Assistant, если нужно управление умным домом.

Опциональное выполнение команд через ИИ-LLM-движок (локальный или сетевой) было прикручено в последней 12-ой версии, вышедшей пару месяцев назад.

[bogdoslavik]

С ходу у меня не установилась Ирина (какие-то ошибки при установке зависимостей). Попробую через докер поднять. Пока что увидел - это абсолютно другой стек и подход. Я стараюсь сделать установку без настроек к консоли (через инсталлер) для обычный пользователей (не программистов). Electron приложение (пока только под винду, но в перспективе Ubuntu и Mac). Плюс поддержку большого количества языков (Whisper/Piper) и запускаю LLM локально.

[Alexey_Matushkin]

Задумка интересная, но очень затратная)) Не каждый новичок сможет позволить себе компьютер с мощной видюхой)

[bogdoslavik]

Это да, но есть много, например, геймеров с хорошими видюхами...

[slavius]

Возможно стоит ознакомиться с https://habr.com/ru/articles/837374/

Ну так - успехов:)

[bogdoslavik]

Ага, спасибо! - прочитал. У меня локально LLM поднимается Qwen3 - она достаточно хорошо соображает чего от нее хотят и вызывает нужный tool.

[Oncenweek]

К сожалению технологии еще в полной мере не доросли до возможности иметь локального ассистента: требуется мощный дорогой компьютер, жужжащий вентиляторами и потребляющий кучу электричества, качество распознавания речи сильно хуже облачных решений. Разве, что как эксперимент поиграться с программированием таких систем. Может лет через 5 когда все это поместится в девайс наподобие малинки, дожить бы эх...

[bogdoslavik]

Да, комп нужно с минимум RTX 6Gb - чтобы Whisper и Llama запускались. Для более качественнго распознавания - 8gb VRAM. Но думаю через некоторое время такие характеристики будут в аналоге малинки доступны )))

[maximtkachev]

Я несколько лет назад говорил про то, что "Алиса" и прочая колоночная фигня стучит своим хозяевам (яндексу). И покупать такую гадость - это, по сути, купить домой персонального шпиона и платить деньги за то, что на вас будут зарабатывать.

А локальной нейросети я и вовсе доверять не хочу. Исключением может стать только случай когда она крутится на компе, который а) физически не может постучаться в интернет, б) не имеет беспроводных интерфейсов, и в) перманентно выключен 😁

[bogdoslavik]

Я тоже немного параноик, но стараюсь находить баланс и не становиться слишком зависимым от железяк )))