Обновить

Написал большую техническую статью на тему "Что считают 5-часовые лимиты в ChatGPT, Claude и других LLM — и почему модели вообще стоят по-разному"

Там красиво и с картинками

Новая статья дополняет две уже написанные мной ранее и рассказываете про еще более глубокие слои того, какие вычисления происходят за шторкой 5-ти часовых лимитов.

Ссылка на саму статью (там много картинок, в пост не влезет)
Что считают 5-часовые лимиты в ChatGPT и Claude — и почему модели стоят по-разному

Предыдущие статьи про принципы работы LLM

Просто и подробно о том, как работают ChatGPT и другие GPT подобные модели

От написания промптов к проектированию контекста. Или один очень обширный материал по Context Engineering

Внутри вот о чем

⏺ Из чего складывается стоимость ответа модели
⏺ Что такое Active\Total Параметры на примере LLama и DeepSeek
⏺ Dense и MoE — два подхода к современным трансформерам
⏺ Чем отличаются Frontier модели от локальных
⏺ В чем разница Input и Output токенов и почему они стоят по разному
⏺ Что такое KV-cache и сколько VRAM занимает один токен

И добавил большое приложение актуальных на сегодня Open Weight LLM с сортировкой по их Active | Total параметрам и прайсам за 1М токенов

P.S.

Если найдете неточности в тексте или картинках, то напишите -- исправлю

Теги:
Всего голосов 1: ↑0 и ↓1-1
Комментарии2

«Рейтинг ни на что не влияет»: Почему Яндекс.такси выбирает газлайтинг вместо честного UX

Долгое время в такси у меня был рейтинг 5 звёзд.

И вот, однажды, в поездке таксист из ближнего зарубежья очень настойчиво пытался познакомиться, а я была настроена просто попасть в точку Б.

После этого, ждать такси я стала дольше, а рейтинг у приезжающих водителей — ниже. Пожаловалась очередному таксисту, и он сказал «Так у тебя рейтинг плохой, я тоже думал отказать». 4,85.

Привет! Меня зовут Маша, я Senior Product Manager и разбираю только те продукты, над которыми сама хотела бы поработать, так как ими пользуюсь, люблю и вижу, где есть потенциал роста. Мне драйвово искать для них решения, которые выводят продукт на новый уровень не только по деньгам, но и по UX и любви пользователей. Мои другие разборы: Как я искала точки роста для «Звука»: догонять рынок или создавать новый? и ВкусВилл: UX, который покоряет, и ложка дёгтя в офлайне. В этот статье разбираю ситуацию когда счастье пользователя противопоставляется экономическим затратам на продукт и как принимает решение Яндекс.такси сейчас.

«Рейтинг ни на что не влияет»: Почему Яндекс.такси выбирает газлайтинг вместо честного UX

Публикации