Pull to refresh
32K+
43
Pavel Zloi@efreelancer

Руководитель направления ML/AI

49,1
Rating
46
Subscribers
Habr CareerHabr Career
Send message

Прочёл с удовольствием, словно остросюжетный детектив, автору огромное спасибо за проделанный труд!

Планируется ли релиз скриптов обучения, генераторов датасета и весов в публичный доступ или эта модель скорее эдакая лабораторная работа?

Всё верно, именно об этом я и написал:

Из этой таблицы можно сделать предположение, что поставщики OpenRouter либо используют более эффективное железо, либо каким-то образом субсидируют разницу

Плюс нюансик, OR это посредник, они берут 5% сверху коммиссии за токены, а сами по сути модели не поставляют, только проксируют до поставщиков.

Настройки через settings.json не работают для защиты от проверки региона, приложение не работает, а если настроить черзе ключ --proxy то всё работает корректно и модельки и детектор.

У меня проблем с этим не возникало, скажу даже больше, у меня на ноуте и агентном сервер установлены сразу codex, claudecode, cursor, coddy и opencode. А какие проблемы возникают?

Попробуйте по предложенной мною в публикации схеме адаптировать решение под Windows, сам я видндовс не пользуюсь, поэтому точно подсказать что делать не смогу, но уверен тот же клод код прекрасно справится.

Рад что пригодилось!

settings.json это первое что я попробовал, однако, это настройки только для моделей, но проверка страны тут не работает.

только одно но - впн всё равно надо включить для запуска десктоп-клиента

Вот моё решение как-раз обходит эту проблему.

Описанный процесс вполне валиден, у меня например в папке Obsidian в корне лежит AGENT.md и в нём такой вот текст, а можно скажем просто текст в промте (перечисляя скилы) написать и будет тоже самое, разница лишь в том что первый вариант агент читает каждый раз сам, а второй надо писать руками.

Когда слишком долго читаешь нейрослоп помаленьку начинаешься незамечая того использовать его сам)

Ну я скорее имел ввиду какой-нибудь научпоп или прочий развлекательный коньтент, навроде публикаций на Хабр или скажем в личном блоге в той же Телеге, а юридические документы и прочие истории по ГОСТу это да, должны помимо содержимого иметь правильную форму, и часто некоторые авторы этим пользуясь выдают под этой формой отсутствие содержания.

Ну к слову скзаать модельки так не пишут, но этот приём аля “кстати где он” и тому подобное мне очень нравится)

обычно слоп используют те, кто не разбирается в своей технологии и не может достаточно точно сформулировать идею.

Ещё кстати частенько встречаю слоп у авторов которые пишут посты ради постов, например потому что зарабатывают благодаря просмотрам.

есть какая-то идея, а по факту - фантазии автора, которые он обсудил с ллм-ко

Это кстати хороший поинт, есть отличный термин confirmation bias (предвзятость подтверждения).

Согласен, я тут намедни посчитал стоимость запуска kimi k2.7 на сервере h200, b100 и b300, не смотря на заоблачную цену сервера b300 цена 1м токено у него по моей формуле ниже чем на b100 и h200.

Скорее всего так оно и будет, не зря у крупных вендоров cache hit идёт по отдельному ценнику.

Привет!

  1. В разных нормативных документах обычно от 3 до 10 лет, взял 5 лет для удобства, но можно подставить любое значение, эффект на финальную цену линейный.

  2. Да, считал для batch=1 в синхронном режиме, но по факту на серваках у нас там batch=8 и чем больше запросов тем выше скорость, всё верно, просто я выбрла batch=1 для удоства расчёта.

  3. Пост ранее не читал, но прочёл, вижу что мысли автора очень похожи на мои, формула похожа, пересчитал по ней получилось примерно от 28 до 66 рублей за 1m токенов на gpt-oss-120b, но у меня это self-hosted модельки на своих серверах, поэтому стоимость в случае описанном у меня скорее про стоимость электричества.

Спасибо за критику, замечание справедливое. В этом посте я специально начал с верхнего уровня - цен, формата подписок и общей логики тарифов. До честного сравнения по токенам, окнам, месячным квотам и тому, как быстро всё это можно сжечь, там ещё копать и копать.

Буду только рад, если кто-то после этого сделает более дотошный разбор. Потому что по деньгам тарифы действительно похожи, а по фактической ёмкости и ограничениям могут отличаться очень сильно.

Не пробовал, на вид какая-то сторонная разработка по типу OpenCode.

Information

Rating
167-th
Location
Москва, Москва и Московская обл., Россия
Registered
Activity

Specialization

Бэкенд разработчик, ML разработчик
Ведущий
Linux
PHP
Python
Многопоточность
Нейронные сети
Машинное обучение
Kubernetes
Golang
Высоконагруженные системы