Обновить
-3

Пользователь

2
Подписчики
Отправить сообщение

Я буквально стучался по их API и по крупицам формировал понимание (это было ещё даже до появления мощных нейросетей), как именно это говно у них устроено и почему оно так работает.

Вот это уважение к источнику копирования. О многом говорит.

Это все прекрасно, а для кого статья? Для последнего абзаца?

Там у GrokBot сорс утек, пусть займутся импортозамещением

так кто такой AI-разработчик?

Очевидно, тот же кто будет разворачивать GLM.

Это несколько человек? И за сколько труд этих людей окупится?

Я по Вашему комментарию до сих пор не очень понял, с какой поры и в каких масштабах компании проще оплачивать ENT подписку, а с какой переходить на on-prem GLM, а с какой - на мелкие модели. И отдельно не понял, каким образом тут реклама. Если говорим про OSS модели - вполне можно указать названия, если говорим про оборудование - то модели оборудования. В чем реклама? В цене на H200?

Вы вроде бы не поняли сути моего изначального комментария, я лишь указал на то что можно обойтись затратами на порядок меньше для получения такого же результата. О халяве речи ни шло, хотя для компании средней руки это несерьезные расходы.

Вы предложили зафайнтюнить какую-то мелкую модель ради оптимизации расходов. Я спрашиваю о том, кто этот пайплайн будет настраивать, собирать датасет, валидировать всё и поддерживать для каждого направления, на какие деньги и как это сравнимо с затратами на хотя бы on-prem GLM, не говоря уже об API ENT OpenAI/Anthropic. Где хотя бы какие-то цифры?

И это всё бесплатно само сделается? И поддерживаться будет?

если 80% ежедневных задач в IDE можно закрывать моделями 35–120B, помещающимися на пару видеокарт?

 Но качественный файнтюнинг под специфику проекта

На чем файн-тюнить предлагаете? На датасете компании, который, возможно, никто не собирал?

TL;DR: Покупайте наш AI Router

Смешались в кучу кони, люди.

  1. Для моделей OpenAI/Anthropic запрос через AI Router в итоге уходит внешнему провайдеру? Фактический inference выполняется на стороне OpenAI/Anthropic либо другого upstream-провайдера? Если да, кто именно является таким провайдером для GPT и Claude. Если непосредственно OpenAI/Anthropic - как гарантировать, что на стороне Selectel используется API биллинг и ENT план с отсутствием обучения на данных клиента

  2. Отдельно по GLM. В статье описан self-hosted GLM во внутреннем контуре. Это та же инфраструктура, которая используется для GLM через AI Router, или это два разных сценария? Если GLM через AI Router действительно хостится Selectel, то какие гарантии есть по данным пользователя: сохраняются ли prompts/responses, попадают ли они в логи, датасеты для дообучения (GLM или других неуказанных моделей) или или иные системы хранения?

Т.к. я вне контекста - затрудняюсь определить назначение продукта.

Выглядит как реклама AI аналитики для ставок на спорт

Вы начали разговаривать с бизнесменами на языке денег? Это ново.

 чтобы выдать уверенный результат - как тебе такое, Илон Маск? :)

Думаю, ему нормально.

А для чего это всё в итоге - "прост"™?

Вы тут что, на импортозамещение хотите прыгнуть? А если донос? Как устанавливать многополярный мир в глобальной экономике, а? /s

Мне тут настреляли за сарказм по поводу кризиса с бензином, не знав, что у меня его нет.

Еще довольно иронично смотрится коммент от 2017 года под той статьей, что автора паранойя, и не сходить ли ему провериться. Хотелось съязвить - "ну как там, проверились в 2026?"

ну тогда и статья не нужна - о чем вообще разговор

В Минцифры РФ сообщили, что считают удаление приложений VK из AppStore политически мотивированным решением.

Война в Украине - политически мотивированное решение?

Т.е. риск у найма - не найти работу? Ипотека-то тут причем? Я вроде выше обозначил, что найм не подразумевает взятие ипотеки, и в таком состоянии риски не симметричны точно.

Вы упорствуете - "ну вот если взять ипотеку". Ну можно еще детей штук 10 родить, точно легче не станет финансово.

Изначальное сравнение было о том, что такого рода мелкий бизнес подразумевает легкую потерю изначально вложенного капитала без выхода на прибыльность. Какие риски у Вас вызывает найм? Причем тут вообще ипотека?

Давно в Сингапуре война?

Это к чему вообще? Вы про программистов с айтишной ипотекой говорите про Сингапур? Что за каша.

Т.е. Вы сравниваете планирование ипотеки с планированием бизнеса, и ипотека находится на том же уровне?

1
23 ...

Информация

В рейтинге
Не участвует
Зарегистрирован
Активность