Как стать автором
Обновить
-14
0
Гараян Даниэл @Motoroller_love

AI/Ml Engineer

Отправить сообщение

Написал пост, когда было 0 минусов, чтоб собрать классы ?

Бенчмрак основан на тестах и промптах из рабочих продуктов и сервисов. Все это находится под NDA и является коммерческой тайной.

Иди зайди на ллм арену и смотри модели там)

Стажировка: в крупных компаниях конкуренция на 1 место 100 человек. Деньги платят, устроиться очень сложно, долгий и не лучший путь. В не крупных нету, а если и есть, то это бесплатная работа, не выбираем.
Курсы: бесполезно, ни к чему не приведут.
Пет-проекты: Необходимо в любом случае, без этого 0 шансов. Исключение, если ты выпускник ФПМИ Физтеха.
Тестовые-задания: тебя не допустят до собеседования, если даже допустят, конвесрия в оффер будет близка к 0. Бесполезно.

Вывод. Найти первую работу в IT можно, если быть джун+ и работать за еду первое время.

Потому что Q5 не хуже 5.0 bpw-h6-exl2, я детальные исследования не проводил, но по ощущением EXL2 лучше в скорости, а качество ответов падает по сравнению с GGUF. Ребята с реддита пишут приблизительно тоже самое. GGUF до сих пор считается стандартном квантования, если найду время на выходных, постараюсь углубиться и обновлю бенчмарк, добавив EXL2.

Да, fine-tuning моделей очень много, сложно всех их прогнать, тут представлены модели, которые выбивались в топ Hugging Face.

Информация

В рейтинге
Не участвует
Откуда
Москва, Москва и Московская обл., Россия
Зарегистрирован
Активность