Как стать автором
Обновить

Комментарии 2

Microsoft работает над новой большой языковой моделью (LLM), которая сможет составить конкуренцию ChatGPT. LLM под названием MAI-1 разрабатывается с 500 млрд параметров.
Ранее компания уже выпустила несколько небольших моделей. например, на прошлой неделе состоялся релиз LLM с открытым исходным кодом Phi-3 с 3,8 млрд параметров.

Стоит добавить, что Microsoft, помимо маленькой Phi-3, уже выпустила модель размером 176B с архитектурой MoE, которая уже может составлять конкуренцию ChatGPT.

Правда она её достаточно быстро удалила - https://habr.com/ru/news/810555/
Но найти WizardLM-2-8x22B сохраненную пользователями можно на https://huggingface.co/

WizardLM-2-8x22B это "просто" дообученная Mixtral 8x22B, да и WizardLM достаточно периферийная команда в Microsoft, если вы понимаете о чем я.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости

Истории