А он тоже умеет "убрать слова-паразиты и "окультурить" текст?" Мне в статье идея связки с LLM понравилась.
...что именно делает LLM, целиком определяется промптом. Дефолтный убирает слова-паразиты, расставляет пунктуацию, поправляет регистр. Но через кастомный промпт можно переформатировать текст в email, перевести на другой язык, привести к стилю документации — короче, как настроите. Оба шага работают локально.
Всё ждал, когда же начнётся раздел про "Как заставить англоязычную нейросеть читать по-русски", с примерами многочасового дообучения на русских аудио-материалах...да со сравнением разных открытых весов... А тут не заставили, а попросили...
...гибридной связке. Нет необходимости сливать бюджет на рутину.
разумеется, и это первое , что приходит в голову, когда дело доходит до написания своего (или конфигурации чужого) оркестратора. Вот только "деплоить в прод" локальную LLM для "слабых" задач - весьма спорный вариант, сулящий куда больше проблем, чем выгоды.
Если есть немного ресурсов на компе, стоит посмотреть на локальные варианты. Вот не так давно обзор был https://habr.com/ru/companies/raft/articles/991844/ там в серёдке упоминается проект на f5 tts который даёт результат, на мой взгляд, лучше, чем "Дмитрий" от microfoft (кстати я у них пробовал "интернациональные" голоса, они живее четырёх "русских", и на некоторых из DragonHDLatestNeural акцента почти не было).
Этот F5 чем хорош? - позволяет ставить ударения через знак "+". А если загонять через Azure voice AI - там только SSML разметка с указанием IPA транскрипции.
ну да, только вот обсудить можно было всегда с кем-то, в этом нет ничего нового, просто ответ получался не в 2 ночи, Вот и вся разница.
Человек - это всегда субъективно. И это диалог. И ограничения по времени и графику жизни.
Да, ИИ-чат - это эксперт-суррогат. Но объём данных в его распоряжении - колоссальный. И нет ограничений социальных рамок типа вежливости и т.п. Можно настроить под любой стиль общения.
А ещё, есть мнение что бесконечно отвечающий наставник это не плюс а минус. А когда у тебя есть человек который готов отвечать бесконечно то ты будешь на это полагаться, считая что ты что-то выучил
Типа в эпоху "до ИИ" мы учили все "раз и навсегда". Всё забывается со временем. И вообще, цитируя своих преподов из студенчества 90х годов "инженер не должен всё знать, но должен знать где и как искать ответ".
Странно, что нет урока на создание своей банды агентов. По-моему - это простой способ понять как это всё работает. Сделать все локально, на примере llama.cpp показать как регистрируются tools, как оркестратор переключает модели в зависимости от роли агента.
Меня больше пугает не то, что профессия деградирует, а то, что сама отрасль производства софта сильно изменится, сместив фокус с решения пользовательских задач на "агентское" взаимодействие через MCP сервера и т.п.. И потом некий "универсальный UI" с оркестратором агентов под капотом будет решать огромный спектр задач. Где не сможет сам, "на лету" создаст специализированные решения.
не важнее семьи, а важнее "отметить юбилей свадьбы" )
VP от инженеринга случаются те еще чудики с перекосами. Хотя тут я особого чудачества не вижу.
Вижу грамотный маркетинг по привлечению профильных специалистов через социальную инженерию. Тут и увлеченность и интерес к работе и важность человеческих ценностей и прямо таки всеобщее равенство, когда даже VP работает на равных со всеми. Красиво подать по сути проходной рабочий момент, - это надо уметь.
Молодец VP, получит свой бонус за маркетинг. И купит жене две сумочки.
странно, я не заметил сильной разницы в языке вопросов. С чистой совестью чередую слова и фразы на обоих языках. Для сложных вопросов выбираю русский, он у меня всё равно "главнее" в голове даже после 20 лет иммиграции и работы в Канаде.
О, так у статьи была еще и редактура? Если мне прислали такую на редакцию, я бы первым делом спросил телефон "деда". Даже не проверки ради, любопытства для.
Там нет "желтушного" смысла траты отложенных на покупку сумки денег.
My wife and I have been married for ten years, and she wanted a Dior bag for our anniversary.
Instead of buying anything — because I was completely absorbed in an AI experiment — I spent the entire holiday locked in my study, juggling three $200/month Claude Code subscriptions, trying to convince an LLM to cross-compile a 2-million-line C++ distributed database.
Да, он говорит про траты 600 баксов, да он говорит про то, какой жена хотела подарок. Но он не говорит, что он откладывал деньги на подарок (типа как в свинью-копилку, которую потом разбил, но вместо сумки купил подписку).
И семейные проблемы, которые он поимел, были связаны не с сумкой, а тем, что он свой 10-летний юбилей отметил с Клодом, а не с женой.
У нас есть свой "Андрей", который в конце концов просто устал делать строгие ревью. Давление было и снизу ("придирается по мелочам") и сверху ("тормозится прогресс разработки"). Я теперь скучаю по тем временам, когда он смотрел мои PR - да, много комментов, да, что-то переписывал. Но и многое впитал, - коменты-то все по делу.
И с ним - я рос, как инженер. То что прогресс выкатывания продукта медленнее, чем могло бы быть, - меня волновало куда меньше.
Оказывается, что Google Chrome без ведома пользователя по умолчанию ставит на ПК свои нейросети. Браузер скрытно загружает на систему локальную версию Gemini. Бонусом она также скрыто запускается, когда идёт взаимодействие с сервисами Google.
Ну как "скрытно"? Маркетинг Хрома прямо разрывается насчёт "встроенной gemini". Просто как говорится, "не стали вдаваться в технические подробности" как это реализовано...
познакомь его с Лизой...
https://habr.com/ru/articles/1007692/
А он тоже умеет "убрать слова-паразиты и "окультурить" текст?"
Мне в статье идея связки с LLM понравилась.
Всё ждал, когда же начнётся раздел про "Как заставить англоязычную нейросеть читать по-русски", с примерами многочасового дообучения на русских аудио-материалах...да со сравнением разных открытых весов...
А тут не заставили, а попросили...
разумеется, и это первое , что приходит в голову, когда дело доходит до написания своего (или конфигурации чужого) оркестратора. Вот только "деплоить в прод" локальную LLM для "слабых" задач - весьма спорный вариант, сулящий куда больше проблем, чем выгоды.
Не дурной получился кибер-панк. И, в отличии от прочей "классики" весьма злободневно.
логика у них есть? есть. Выводы делать умеет? умеет. Отвечает по сути/смыслу вопроса? - давно уже.
Это и есть составляющие процесса "думать". Про самосознание мы пока не говорим.
Если есть немного ресурсов на компе, стоит посмотреть на локальные варианты. Вот не так давно обзор был https://habr.com/ru/companies/raft/articles/991844/ там в серёдке упоминается проект на f5 tts который даёт результат, на мой взгляд, лучше, чем "Дмитрий" от microfoft (кстати я у них пробовал "интернациональные" голоса, они живее четырёх "русских", и на некоторых из DragonHDLatestNeural акцента почти не было).
Если решитесь на локальный вариант, посмотрите обсуждения на 4pda https://4pda.to/forum/index.php?showtopic=1110815 - это живая тема от автора "русификатора для F5 TTS.
Этот F5 чем хорош? - позволяет ставить ударения через знак "+". А если загонять через Azure voice AI - там только SSML разметка с указанием IPA транскрипции.
Человек - это всегда субъективно. И это диалог. И ограничения по времени и графику жизни.
Да, ИИ-чат - это эксперт-суррогат. Но объём данных в его распоряжении - колоссальный. И нет ограничений социальных рамок типа вежливости и т.п. Можно настроить под любой стиль общения.
Типа в эпоху "до ИИ" мы учили все "раз и навсегда". Всё забывается со временем. И вообще, цитируя своих преподов из студенчества 90х годов "инженер не должен всё знать, но должен знать где и как искать ответ".
Странно, что нет урока на создание своей банды агентов. По-моему - это простой способ понять как это всё работает. Сделать все локально, на примере llama.cpp показать как регистрируются tools, как оркестратор переключает модели в зависимости от роли агента.
Меня больше пугает не то, что профессия деградирует, а то, что сама отрасль производства софта сильно изменится, сместив фокус с решения пользовательских задач на "агентское" взаимодействие через MCP сервера и т.п..
И потом некий "универсальный UI" с оркестратором агентов под капотом будет решать огромный спектр задач. Где не сможет сам, "на лету" создаст специализированные решения.
Замечательный пример стимуляции открыть оригинал, чтоб понять новость. Полез туда, чтоб понять как
оказалось, что это не этап внедрения, а этап persistence - "оставаться в системе".
не важнее семьи, а важнее "отметить юбилей свадьбы" )
VP от инженеринга случаются те еще чудики с перекосами. Хотя тут я особого чудачества не вижу.
Вижу грамотный маркетинг по привлечению профильных специалистов через социальную инженерию. Тут и увлеченность и интерес к работе и важность человеческих ценностей и прямо таки всеобщее равенство, когда даже VP работает на равных со всеми. Красиво подать по сути проходной рабочий момент, - это надо уметь.
Молодец VP, получит свой бонус за маркетинг. И купит жене две сумочки.
странно, я не заметил сильной разницы в языке вопросов. С чистой совестью чередую слова и фразы на обоих языках. Для сложных вопросов выбираю русский, он у меня всё равно "главнее" в голове даже после 20 лет иммиграции и работы в Канаде.
О, так у статьи была еще и редактура? Если мне прислали такую на редакцию, я бы первым делом спросил телефон "деда". Даже не проверки ради, любопытства для.
Там нет "желтушного" смысла траты отложенных на покупку сумки денег.
Да, он говорит про траты 600 баксов, да он говорит про то, какой жена хотела подарок. Но он не говорит, что он откладывал деньги на подарок (типа как в свинью-копилку, которую потом разбил, но вместо сумки купил подписку).
И семейные проблемы, которые он поимел, были связаны не с сумкой, а тем, что он свой 10-летний юбилей отметил с Клодом, а не с женой.
Зато как красиво и солидно смотрится на книжной полке!
в профиле у себя указываешь на чем запускаешь, потом в деталях модели смотришь на секцию совместимости. Зелёное - ок, красное - не ок )
(ps: это был ответ @Seklikov , промахнулся с кнопкой "ответить")
в инструкции постоянные отсылки к другим версиям, например 7.7.2 в самом начале
что это даёт? в текущей версии нет ни 7.6.0, ни других версий, ни определение тяжести артиллерии.
У нас есть свой "Андрей", который в конце концов просто устал делать строгие ревью. Давление было и снизу ("придирается по мелочам") и сверху ("тормозится прогресс разработки"). Я теперь скучаю по тем временам, когда он смотрел мои PR - да, много комментов, да, что-то переписывал. Но и многое впитал, - коменты-то все по делу.
И с ним - я рос, как инженер. То что прогресс выкатывания продукта медленнее, чем могло бы быть, - меня волновало куда меньше.
Ну как "скрытно"? Маркетинг Хрома прямо разрывается насчёт "встроенной gemini". Просто как говорится, "не стали вдаваться в технические подробности" как это реализовано...
Кстати вот интересная статься на реддит (месячной давности так-то, так что ваша "новость" слегка старовата) https://www.reddit.com/r/LocalLLaMA/comments/1qkph45/chromes_local_ai_model_in_production_gemini_nano/?tl=ru по поводу использования gemeni nano (она доступна через browser API)