Сравним скорость Llama 3.1 8B в 4 бита в 1 поток на Ollama:
1)у вас какая-то таблица странная (или старая). 5060 ti сейчас стоит ~43 тыс руб новая и по производительности значительно лучше 4060 ti, а у вас в таблице видеокарты 5-й серии даже не упоминаются 2)есть ли смысл сравнивать производительность видеокарт в одном потоке, если у них производительность достигается за счет использования параллельных вычислений?
А можете исследовать, как заменить яндекс поиск в браузере Opera? Они счас придумали, что в ru локации выкачивается браузер, где яндекс идет единственным предустановленным поиском, и это никак не изменить. Пришлось использовать некий Opera Air, где такого нет
Релиз nanochat от Андрея Карпаты Не совсем исследование, но от этого пользы не меньше. Полный конвейер для обучения мини-ChatGPT с нуля в 8 тысяч строк кода: четыре часа на GPU, сто долларов, и у вас свой чат-бот. Бонусом репозиторий nanochat.
чел, тебе нормально бездумно перепечатывать бред нейросетей? Захожу по твоей ссылке - пишет тысячу долларов, а не сто. Причем не понятно даже откуда даже тысяча взялась, потому что у автора 8 штук nvidia h100, каждая из которых космических денег стоит
я пробовал разные варианты, но у меня то ли компьютер слабый для ИИ (встроенная видеокарта), то ли я не те модели использую - результаты хуже, чем у бесплатной версии perplexity
1)головная боль с настройкой. Зачем, если есть Whispering - близко по функционалу, но обернутое в UI, с которым как минимум не нужно лезть в консоль и лечить конфликты python и библиотек 2)вы определитесь, с чем именно вы хотите сравнить. С 5060 ti 16gb, которая упоминается в статье (и которая есть не у всех)? С 8gb VRAM - случай, который вы не проверяли. И вы в реальном времени пытаетесь конвертировать аудио в текст или сначала записываете файлом, потом конвертируете?
Я например, проверял на макбуке pro m1 pro с его GPU - модели чуть попроще конвертируют аудио в текст некачествественно, а те, что посложнее, работают медленнее, чем транскрипция аудио через chatgpt.
все намного проще. Эта фигня - фактически bluetooth микрофон, которому красная цена 15$ (за такую цену продаются флешки-микрофоны) и который сам по себе почти ничего не умеет, а доступ к ИИ через ваш телефон. И подписку на ИИ конечно же еще нужно будет оплачивать отдельно.
Правда не понятно тогда, какой смысл тогда в таких микрофонах
это подтверждает мою гипотезу "какой вопрос - такой и ответ". Вы если у обычного человека спрашиваете чушь, то тоже хотите получить вразумительный ответ?
1)у вас какая-то таблица странная (или старая). 5060 ti сейчас стоит ~43 тыс руб новая и по производительности значительно лучше 4060 ti, а у вас в таблице видеокарты 5-й серии даже не упоминаются
2)есть ли смысл сравнивать производительность видеокарт в одном потоке, если у них производительность достигается за счет использования параллельных вычислений?
Mozilla под бесплатной лицензией. Нельзя было сделать форк в котором ввести свои правила?
А можете исследовать, как заменить яндекс поиск в браузере Opera? Они счас придумали, что в ru локации выкачивается браузер, где яндекс идет единственным предустановленным поиском, и это никак не изменить. Пришлось использовать некий Opera Air, где такого нет
получается sms тоже?
Опечатка говорите? Хорошо, тогда о чем новость - о nanochat за 100$ или за 1000$? Там две ссылки ведут на два разных исследования.
чел, тебе нормально бездумно перепечатывать бред нейросетей? Захожу по твоей ссылке - пишет тысячу долларов, а не сто. Причем не понятно даже откуда даже тысяча взялась, потому что у автора 8 штук nvidia h100, каждая из которых космических денег стоит
какими из приведенных нейросетей можно бесплатно генерить изображения для коммерческого использования?
надеюсь, в следующей статье телефон сможет выполнять хотя бы самые базовые функции - звонить по зашитому в код номеру
я пробовал разные варианты, но у меня то ли компьютер слабый для ИИ (встроенная видеокарта), то ли я не те модели использую - результаты хуже, чем у бесплатной версии perplexity
реальный случай с работы - "нате вам cursor, теперь вы должны за то же время вместо одного проекта сделать 4". Это точно счастье?
а можно аналогичную статью, только для текстовых моделей?
зачем такие статьи на хабре?
1)головная боль с настройкой. Зачем, если есть Whispering - близко по функционалу, но обернутое в UI, с которым как минимум не нужно лезть в консоль и лечить конфликты python и библиотек
2)вы определитесь, с чем именно вы хотите сравнить. С 5060 ti 16gb, которая упоминается в статье (и которая есть не у всех)? С 8gb VRAM - случай, который вы не проверяли. И вы в реальном времени пытаетесь конвертировать аудио в текст или сначала записываете файлом, потом конвертируете?
Я например, проверял на макбуке pro m1 pro с его GPU - модели чуть попроще конвертируют аудио в текст некачествественно, а те, что посложнее, работают медленнее, чем транскрипция аудио через chatgpt.
все намного проще. Эта фигня - фактически bluetooth микрофон, которому красная цена 15$ (за такую цену продаются флешки-микрофоны) и который сам по себе почти ничего не умеет, а доступ к ИИ через ваш телефон. И подписку на ИИ конечно же еще нужно будет оплачивать отдельно.
Правда не понятно тогда, какой смысл тогда в таких микрофонах
я про то, что человек возможно сравнивает cursor (или аналоги) за 20$/мес и какую-то из топовых моделей, стоимость которой может оказаться в разы выше
дада, большую часть времени работает совсем медленно, глючит на ровном месте и отваливается
точно так же может зависать от глупых вопросов.
Деньги из вашего кошелька он конечно не потратит, но и отвечать не обязан.
Беларусь, БГУИР, специальность Информатика - максимум программирования и математики, в том числе, за счет урезания физики
чем эта новость отличается от вчерашней?
https://habr.com/ru/news/961404/
это подтверждает мою гипотезу "какой вопрос - такой и ответ".
Вы если у обычного человека спрашиваете чушь, то тоже хотите получить вразумительный ответ?