Если код изначально гамно, то никакой сервер не поможет. Зачастую код пишется многими годами, появляются костыли и временно-постоянные решения, а кол-во сотрудников компании растет.. Работал в логистической компании, около 200 сотрудников. Новые версии 1с и настройки СУБД по бест практис помогали ускорить ее только на 10-15%, что конечно же не ощущалось в работе. Так как каждый запрос логиста в БД выгружал ВСЮ информацию по клиенту одним жирным запросом за несколько лет. А разработчики никак не хотели оптимизироваться, потому что не было времени на это
вы абсолютно правы. я тоже пришел к таким выводам после месяца экспериментов - подписка проще и развивается все это быстрее. Но потом в целом и на ИИ забил, поняв, что не хочу после первой работы еще и дома работать)
Возможно так и будет, но во первых ПК железо тоже растет, уже сейчас продаются пк с 128гб унифай рам. И надеюсь через 1-2 года ПО тоже выйдет на новый уровень и локальные ллм будут выдавать куда больше текущих 50т\с. А еще возможно асики выйдут.
тоже игрался с моделями на домашнем ПК, потом понял что проще закинуть 10уе на опенроутер или купить подписку - немного дороже в моменте, чем вкладывать в свое железо, но свое железо никогда не окупиться. и это удобнее и качественнее.
Ничего не понял из статьи - какое архитектурное решение ? какая нагрузка на БД была\стала ? Сколько времени затрачено на реализацию ? Какой лимит такого масштабирования ?
В Москве ожидаем дефицит - ведь строятся куча новых ЖК. но почему бы не строить ЦОДы по всей стране ? у нас десяток ГЭС и АЭС везде. Да не выстроена логистика, но и дешевле электричество и земля. Да и шторм на газовом рынке как будто на пользу - будет внутренний спрос.
Там подписка за то что меряет твой пульс каждую секунду, а потом чатгпт, интерпритирует все твои данные в советы. Ну и приложение не такое гавно как у гармин
Спасибо за обзор, приятно читать, хотя местами показалось водянисто. Не ясно почему тот же Сбер и Яндекс не строят Цоды - купить H200 по паралельному не сложно. Все есть в наличии. Возможно вопрос договоров на коммерческие поставки.
Яндекс со своими ценами в 100 раз выше на модели чем западные компании идет в лес. Вместо того чтобы занять поляну розничного инференса, которая освобождается в свете блокировок западных компаний, кажется они всеми силами делают все наоборот. Ощущение что развитие ИИ и ИТ отрасли специально тормозят. И тот же Сбер буксует, скорее всего из за лютой бюрократии и не понимания менеджмента. Гигачат который успешно стартанул в прошлом году, сейчас отстал, и давно не обновлялся. Статьи сравнения, можно найти тут на хабре.
Если код изначально гамно, то никакой сервер не поможет.
Зачастую код пишется многими годами, появляются костыли и временно-постоянные решения, а кол-во сотрудников компании растет.. Работал в логистической компании, около 200 сотрудников. Новые версии 1с и настройки СУБД по бест практис помогали ускорить ее только на 10-15%, что конечно же не ощущалось в работе. Так как каждый запрос логиста в БД выгружал ВСЮ информацию по клиенту одним жирным запросом за несколько лет. А разработчики никак не хотели оптимизироваться, потому что не было времени на это
олдскуллы свело
здесь можно оценить по разным параметрам https://artificialanalysis.ai/models
вы абсолютно правы. я тоже пришел к таким выводам после месяца экспериментов - подписка проще и развивается все это быстрее. Но потом в целом и на ИИ забил, поняв, что не хочу после первой работы еще и дома работать)
Возможно так и будет, но во первых ПК железо тоже растет, уже сейчас продаются пк с 128гб унифай рам. И надеюсь через 1-2 года ПО тоже выйдет на новый уровень и локальные ллм будут выдавать куда больше текущих 50т\с. А еще возможно асики выйдут.
тоже игрался с моделями на домашнем ПК, потом понял что проще закинуть 10уе на опенроутер или купить подписку - немного дороже в моменте, чем вкладывать в свое железо, но свое железо никогда не окупиться. и это удобнее и качественнее.
Ничего не понял из статьи - какое архитектурное решение ? какая нагрузка на БД была\стала ? Сколько времени затрачено на реализацию ? Какой лимит такого масштабирования ?
В Москве ожидаем дефицит - ведь строятся куча новых ЖК.
но почему бы не строить ЦОДы по всей стране ? у нас десяток ГЭС и АЭС везде. Да не выстроена логистика, но и дешевле электричество и земля. Да и шторм на газовом рынке как будто на пользу - будет внутренний спрос.
Спасибо за тесты.
Ждем тест rtk ;)
спросите у ИИ
ожидал увидеть как с 50т\к увеличить до 1000, а тут пшик какой то
Так как он работает ?
Если вам это нужно значит браслет не ваш выбор, вот и все
Есть. Пользоваться с телефона.
Там подписка за то что меряет твой пульс каждую секунду, а потом чатгпт, интерпритирует все твои данные в советы. Ну и приложение не такое гавно как у гармин
Только вот у вупа нет экосистемы .
А аналоги уже есть без подписки - амазфит, гугл
2999$
бесплатный даже обсуждать не стоит.
(Calude.ai запоминает контекст, который хранится в истории чата)
Спасибо за обзор, приятно читать, хотя местами показалось водянисто.
Не ясно почему тот же Сбер и Яндекс не строят Цоды - купить H200 по паралельному не сложно. Все есть в наличии. Возможно вопрос договоров на коммерческие поставки.
Яндекс со своими ценами в 100 раз выше на модели чем западные компании идет в лес.
Вместо того чтобы занять поляну розничного инференса, которая освобождается в свете блокировок западных компаний, кажется они всеми силами делают все наоборот. Ощущение что развитие ИИ и ИТ отрасли специально тормозят.
И тот же Сбер буксует, скорее всего из за лютой бюрократии и не понимания менеджмента. Гигачат который успешно стартанул в прошлом году, сейчас отстал, и давно не обновлялся. Статьи сравнения, можно найти тут на хабре.
Клод не запоминает контекст между сессиями ?
зачем там Оуборос ? это который агент ?