Здесь закачик обозначил модели не ту цель, которую на самом деле хочет достичь. На мой взгляд, модель вполне корректно себя повела, когда начала решать именно поставленную задачу, а не додуманную.
Когда вы пишете "Человек достраивает из контекста..." - это так, но это работает только в ситуациях, где цена ошибки не высока. А где высока, там другое правило: "ничего не подразумевается, если это не указано в договоре". Кроме того, в примерах "Купи обычный", "Поставь где было" - я бы не сказал, что это нормальное общение. Из этих фраз вообще ничего не понятно. Если жена уже 10 лет покупает один и тот же сыр, то для вас обоих он "обычный", да. Но даже для вашей соседки "обычный" не скажет уже ничего. Модель - такой же посторонний человек. Корректное решение - правильно ставить задачи.
Можно, конечно, сказать, что мы ожидаем от модели уточняющих вопросов - вы так описываете идеального ассистента. Но, боюсь, тогда любой диалог с моделью превратится в бесконечную череду уточнений (потому что еще мы не уточнили какая погода, какое состояние дороги, какое состояние нашего здоровья после вчерашнего корпоратива...) - и, возможно, правильный ответ был бы "вам не надо сегодня на автомойку".
Сколько проживет? Недолго проживет. А наличие ограничений интерента зависит от российского мобильного оператора, к которому подключается ваша esim: у кого-то может сразу работать со всеми блокировками, у другого - свободный мир, у третьего - вообще полная блокировка интернета.
Подскажите, пожалуйста, какие есть платформы, чтобы использовать несколько GPU? Я до этого момента не влезал в тему, поэтому даже примерно не представляю. Сейчас у меня материнская плата имеет 2 слота PCIE4 в режиме 8х (если занять оба). Но мне не попадались на глаза модели, чтобы было больше 2-х слотов. Куда можно посмотреть?
А по каким критериям была выбрана IlyaGusev/saiga_llama3_8b ? Я пробовал из маленьких gemma3-12b, saiga-gemma3, saiga-yandexgpt и просто yandexgpt. Все комбинации с saiga поразили своей словоохотливостью: модель болтает без умолку и очень часто несет околесицу, которой не было в исходном тексте. В итоге выбрал yandexgpt.
По количеству символов тоже опытным путем пришел к 8000 (мне надо было уместиться в 8 Гб). Но разбивать лучше по границе предложения. И передавать дополнительно последние 2 предложения предыдущей части и первые 2 - следующей части, чтобы у модели было перед глазами развитие темы. (Два предложения, но не меньше 500 символов)
Да, увидел. Т.е., надо промотать вниз всю таблицу, чтобы увидеть прокрутку, а потом вернуться наверх к первым строчкам. Практически, это равносильно, что прокрутки нет.
Собственно, я зацепился глазом за заголовок "идеально". Я не спорю, что вас может и так устраивать, и согласен, что такое решение может быть вполне приемлемо в вашем случае для ваших целей (исходя из того, что хоть как-то - лучше, чем ничего). Но это не идеально, как обещал заголовок. (Примерно так в нулевые делали сайты во Front Page)
Все же, указанный вами ГОСТ распространяется на ЕСКД, и только, а не вообще на любой текст. Так можно дойти до того, что слово "таблица" требовать писать разрядкой - в госте же написано... Но - где вы там увидели регламентирование тире? Есть только три специфических кейса, где упоминается тире (но даже они без уточнения какое).
А вы не сталкивались при использовании Whisper с ситуацией, что он пропускает некоторые фрагменты (размером в 2-3 предложения)? На записи они есть, речь звучит точно также, а в расшифровке - даже намека нет. При этом Whisper.cpp просто молча проходит мимо, а faster-whisper выдает в таких местах "Добрый день!", "Мы снова в эфире", "Подписывайтесь...". Выглядит так, словно модель чрезмерно настойчиво пытается быть умной, и если в какой-то момент у нее не получается построить связные (с ее точки зрения) предложения, она просто пропускает этот кусок речи.
На мой взгляд, основное достоинство стрелочных функций, из-за которого их имеет смысл использовать, - это работа с this, на чем и стоило бы сделать акцент. Но представлять как преимущество, якобы, сокращение кода - не знаю, не выглядит убедительно. Тем более, краткость получилась так себе, прям как экономия на спичках, а читаемость вообще никак лучше не стала.
Автор, в исходном комментарии произнес слова " экстренно спешл сверх-обморочно, поднапрягитесь ". Думаю, что проблема именно в этом зарыта - когда под вывеской "выкатить MVP" пытаются сделать за 2 месяца работу, на которую требуется 12.
Здесь закачик обозначил модели не ту цель, которую на самом деле хочет достичь. На мой взгляд, модель вполне корректно себя повела, когда начала решать именно поставленную задачу, а не додуманную.
Когда вы пишете "Человек достраивает из контекста..." - это так, но это работает только в ситуациях, где цена ошибки не высока. А где высока, там другое правило: "ничего не подразумевается, если это не указано в договоре". Кроме того, в примерах "Купи обычный", "Поставь где было" - я бы не сказал, что это нормальное общение. Из этих фраз вообще ничего не понятно. Если жена уже 10 лет покупает один и тот же сыр, то для вас обоих он "обычный", да. Но даже для вашей соседки "обычный" не скажет уже ничего. Модель - такой же посторонний человек. Корректное решение - правильно ставить задачи.
Можно, конечно, сказать, что мы ожидаем от модели уточняющих вопросов - вы так описываете идеального ассистента. Но, боюсь, тогда любой диалог с моделью превратится в бесконечную череду уточнений (потому что еще мы не уточнили какая погода, какое состояние дороги, какое состояние нашего здоровья после вчерашнего корпоратива...) - и, возможно, правильный ответ был бы "вам не надо сегодня на автомойку".
У меня кармы нет, чтобы поставить плюсик( Автор, спасибо за программу! Очень удобная реализация. Вот прямо точно то, что нужно.
Здесь проблема не в привычке, а в мотивации. Читают не потому, что "надо", а потому что интересно. А если не интересно, то - смысл?
Писали те, кому было в кайф это делать. Не для заработка и выпендрежа, а для самореализации.
Сколько проживет? Недолго проживет. А наличие ограничений интерента зависит от российского мобильного оператора, к которому подключается ваша esim: у кого-то может сразу работать со всеми блокировками, у другого - свободный мир, у третьего - вообще полная блокировка интернета.
Подскажите, пожалуйста, какие есть платформы, чтобы использовать несколько GPU? Я до этого момента не влезал в тему, поэтому даже примерно не представляю. Сейчас у меня материнская плата имеет 2 слота PCIE4 в режиме 8х (если занять оба). Но мне не попадались на глаза модели, чтобы было больше 2-х слотов. Куда можно посмотреть?
Только "резюме" ничем не лучше "саммари", если не считать решающим достоинством почтенный возраст. Оно такое же заимствованное
Из всех ваших вариантов аналогом может быть только "выжимка". "Краткое
содержаниеизложение" - слишком длинно. Остальные совсем не о том.Но лично мне в сравнении "саммари" - "выжимка" больше нравится "саммари", это привычно и понятно.
Пример с Петей в походе напомнил анекдот про "купи козу, продай козу".
А по каким критериям была выбрана IlyaGusev/saiga_llama3_8b ? Я пробовал из маленьких gemma3-12b, saiga-gemma3, saiga-yandexgpt и просто yandexgpt. Все комбинации с saiga поразили своей словоохотливостью: модель болтает без умолку и очень часто несет околесицу, которой не было в исходном тексте. В итоге выбрал yandexgpt.
По количеству символов тоже опытным путем пришел к 8000 (мне надо было уместиться в 8 Гб). Но разбивать лучше по границе предложения.
И передавать дополнительно последние 2 предложения предыдущей части и первые 2 - следующей части, чтобы у модели было перед глазами развитие темы. (Два предложения, но не меньше 500 символов)
Встроенный экспорт не обновляет чат, а выкачивает заново. А у автора я вижу кнопку "Обновить"
Да, увидел. Т.е., надо промотать вниз всю таблицу, чтобы увидеть прокрутку, а потом вернуться наверх к первым строчкам. Практически, это равносильно, что прокрутки нет.
Собственно, я зацепился глазом за заголовок "идеально". Я не спорю, что вас может и так устраивать, и согласен, что такое решение может быть вполне приемлемо в вашем случае для ваших целей (исходя из того, что хоть как-то - лучше, чем ничего). Но это не идеально, как обещал заголовок. (Примерно так в нулевые делали сайты во Front Page)
Неа, не подходит идеально) Например, нет горизонтальной полосы прокрутки, когда содержимое в экран не влезает.
Спасибо за наводку! Оказалась вполне прилично и совсем не шумно.
А как у этой машинки с нагревом/шумом? А то на Реддите пишут - сильно греется
Все же, указанный вами ГОСТ распространяется на ЕСКД, и только, а не вообще на любой текст. Так можно дойти до того, что слово "таблица" требовать писать разрядкой - в госте же написано...
Но - где вы там увидели регламентирование тире? Есть только три специфических кейса, где упоминается тире (но даже они без уточнения какое).
А вы не сталкивались при использовании Whisper с ситуацией, что он пропускает некоторые фрагменты (размером в 2-3 предложения)? На записи они есть, речь звучит точно также, а в расшифровке - даже намека нет.
При этом Whisper.cpp просто молча проходит мимо, а faster-whisper выдает в таких местах "Добрый день!", "Мы снова в эфире", "Подписывайтесь...". Выглядит так, словно модель чрезмерно настойчиво пытается быть умной, и если в какой-то момент у нее не получается построить связные (с ее точки зрения) предложения, она просто пропускает этот кусок речи.
нейтральный - это какой, если не секрет?
На мой взгляд, основное достоинство стрелочных функций, из-за которого их имеет смысл использовать, - это работа с this, на чем и стоило бы сделать акцент. Но представлять как преимущество, якобы, сокращение кода - не знаю, не выглядит убедительно. Тем более, краткость получилась так себе, прям как экономия на спичках, а читаемость вообще никак лучше не стала.
Автор, в исходном комментарии произнес слова " экстренно спешл сверх-обморочно, поднапрягитесь ". Думаю, что проблема именно в этом зарыта - когда под вывеской "выкатить MVP" пытаются сделать за 2 месяца работу, на которую требуется 12.