Возможно так и будет, но во первых ПК железо тоже растет, уже сейчас продаются пк с 128гб унифай рам. И надеюсь через 1-2 года ПО тоже выйдет на новый уровень и локальные ллм будут выдавать куда больше текущих 50т\с. А еще возможно асики выйдут.
тоже игрался с моделями на домашнем ПК, потом понял что проще закинуть 10уе на опенроутер или купить подписку - немного дороже в моменте, чем вкладывать в свое железо, но свое железо никогда не окупиться. и это удобнее и качественнее.
Ничего не понял из статьи - какое архитектурное решение ? какая нагрузка на БД была\стала ? Сколько времени затрачено на реализацию ? Какой лимит такого масштабирования ?
В Москве ожидаем дефицит - ведь строятся куча новых ЖК. но почему бы не строить ЦОДы по всей стране ? у нас десяток ГЭС и АЭС везде. Да не выстроена логистика, но и дешевле электричество и земля. Да и шторм на газовом рынке как будто на пользу - будет внутренний спрос.
Там подписка за то что меряет твой пульс каждую секунду, а потом чатгпт, интерпритирует все твои данные в советы. Ну и приложение не такое гавно как у гармин
Спасибо за обзор, приятно читать, хотя местами показалось водянисто. Не ясно почему тот же Сбер и Яндекс не строят Цоды - купить H200 по паралельному не сложно. Все есть в наличии. Возможно вопрос договоров на коммерческие поставки.
Яндекс со своими ценами в 100 раз выше на модели чем западные компании идет в лес. Вместо того чтобы занять поляну розничного инференса, которая освобождается в свете блокировок западных компаний, кажется они всеми силами делают все наоборот. Ощущение что развитие ИИ и ИТ отрасли специально тормозят. И тот же Сбер буксует, скорее всего из за лютой бюрократии и не понимания менеджмента. Гигачат который успешно стартанул в прошлом году, сейчас отстал, и давно не обновлялся. Статьи сравнения, можно найти тут на хабре.
Тоже самое в Клоде. У меня нет подписки, но на прошлой неделе я мог использовать чат часа 3-4, подкидывая ему файлы с yaml кодом. На этой недели я просил его нарисовать план участка, и через 2 итерации лимит кончился, но тогда я подумал, что рисование наверняка жрет много токенов. В другой день, попросив техническое описание дизайна одного сайта, клод сгенерил файлик на 1500 символов и лимит кончился. Явно закручиваются гайки для тех кто пытается обузить бесплатные лимиты.
Возможно так и будет, но во первых ПК железо тоже растет, уже сейчас продаются пк с 128гб унифай рам. И надеюсь через 1-2 года ПО тоже выйдет на новый уровень и локальные ллм будут выдавать куда больше текущих 50т\с. А еще возможно асики выйдут.
тоже игрался с моделями на домашнем ПК, потом понял что проще закинуть 10уе на опенроутер или купить подписку - немного дороже в моменте, чем вкладывать в свое железо, но свое железо никогда не окупиться. и это удобнее и качественнее.
Ничего не понял из статьи - какое архитектурное решение ? какая нагрузка на БД была\стала ? Сколько времени затрачено на реализацию ? Какой лимит такого масштабирования ?
В Москве ожидаем дефицит - ведь строятся куча новых ЖК.
но почему бы не строить ЦОДы по всей стране ? у нас десяток ГЭС и АЭС везде. Да не выстроена логистика, но и дешевле электричество и земля. Да и шторм на газовом рынке как будто на пользу - будет внутренний спрос.
Спасибо за тесты.
Ждем тест rtk ;)
спросите у ИИ
почему в примерах только молодые ?
ожидал увидеть как с 50т\к увеличить до 1000, а тут пшик какой то
Так как он работает ?
Если вам это нужно значит браслет не ваш выбор, вот и все
Есть. Пользоваться с телефона.
Там подписка за то что меряет твой пульс каждую секунду, а потом чатгпт, интерпритирует все твои данные в советы. Ну и приложение не такое гавно как у гармин
Только вот у вупа нет экосистемы .
А аналоги уже есть без подписки - амазфит, гугл
2999$
бесплатный даже обсуждать не стоит.
(Calude.ai запоминает контекст, который хранится в истории чата)
Спасибо за обзор, приятно читать, хотя местами показалось водянисто.
Не ясно почему тот же Сбер и Яндекс не строят Цоды - купить H200 по паралельному не сложно. Все есть в наличии. Возможно вопрос договоров на коммерческие поставки.
Яндекс со своими ценами в 100 раз выше на модели чем западные компании идет в лес.
Вместо того чтобы занять поляну розничного инференса, которая освобождается в свете блокировок западных компаний, кажется они всеми силами делают все наоборот. Ощущение что развитие ИИ и ИТ отрасли специально тормозят.
И тот же Сбер буксует, скорее всего из за лютой бюрократии и не понимания менеджмента. Гигачат который успешно стартанул в прошлом году, сейчас отстал, и давно не обновлялся. Статьи сравнения, можно найти тут на хабре.
Клод не запоминает контекст между сессиями ?
зачем там Оуборос ? это который агент ?
возможно то что они сделали, как раз из за наплыва людишек, и недостатка мощностей.
Тоже самое в Клоде.
У меня нет подписки, но на прошлой неделе я мог использовать чат часа 3-4, подкидывая ему файлы с yaml кодом.
На этой недели я просил его нарисовать план участка, и через 2 итерации лимит кончился, но тогда я подумал, что рисование наверняка жрет много токенов.
В другой день, попросив техническое описание дизайна одного сайта, клод сгенерил файлик на 1500 символов и лимит кончился.
Явно закручиваются гайки для тех кто пытается обузить бесплатные лимиты.
интересно о чем думает Яндекс, делая Я.ГПТ дороже в 7 раз чем Опус.