Ускоряем LLM по максимуму. Как я создал кросс-платформенный Flash Attention с поддержкой Turing+ архитектур и не только

Что то на сложном. Начал читать, подумал что тут triton - это triton server nvidia.

Классная статья, для понимания в образовательных целях.

Автор красавчик)

Протестировал 8 брендов LLM на честность, логику и креатив. Claude победил, но Алиса неожиданно в топ-3

Классная статья, полезное сравненеие на разных примерах! 👍

Вопросы:
Почему не добавил Opus?
Почему нет gpt-oss 120/20b? итересно было бы посмотреть на ТОП открытые модели

Я бы расширил выборку вопросов, добавил бы:
- Математику
- Програмирование (сложное)
- Экономический вопрос - инвестирования например, дай совет
- Извлечение данных из "грязного" текста (Структурирование и форматирование) (Проверяет способность модели находить иголку в стоге сена и выдавать результат в строгом формате JSON/CSV без лишних слов)
- Эмоциональный интеллект и Софт-скиллы (Решение конфликтов) (Проверяет способность модели понимать контекст переписки, считывать пассивную агрессию и писать дипломатичные, но твердые ответы, а не шаблонные фразы)

Сравнительный анализ 18 LLM моделей: конец монополии?

Добавил в сравнение MiniMax M2 )

Сравнительный анализ 18 LLM моделей: конец монополии?

Добавил модели по вашей рекомендации 👌