Comments 4
Я не понял, корпоративный сектор не может купить сервер и десяток GPU? На 256Gb видеопамяти можно уже развернуть приличную БЯМ. "Солидная нефтяная компания возьмёт в ареду дырокол"? :-)
Не хочу тратить Ваше и своё время на споры - дело хозяйское.
В подтверждение заголовка статьи - да, это правда. Недавно одна (крупная) компания как раз обратилась по поводу протестировать возможность запуска агентов на одной распространенной плате. Тест прошел на ура. Модели 1-2 B работают и время ответа укладывается в рамки. Но я решил пойти ещё дальше и теперь делаю свою модель.
Дело в том, что универсальные модели имеют много лишнего в своих мозгах. Это работает как мусор, усложняя нахождение правильного решения. Мы должны четко выйти на нужный инструмент.
Когда -то давно я присутствовал на одном совещании, обсуждали камеры в Москве. Для меня было дико узнать, что они были построены на Intel Core I7. Я уж не говорю, где ещё Intel стоят, там, где не надо.Тогда уже ARM процессоры были лучше. Но стереотип мышление и консерватизм делают свое дело.
Какие НИиОКРы - один разработчик всё сделает, опять неуклюжее мышление из советских времён. Кстати, большие фирмы деньги считают и экономят и правильно делают.
А автору статей - огромное спасибо, он проделывает непростую работу, которую не ценят. Видно по комментариям (по их отсутствию).
IT-лидеры видят большой бизнес-потенциал в малых моделях ИИ