Microsoft работает над новой большой языковой моделью (LLM), которая сможет составить конкуренцию ChatGPT. LLM под названием MAI-1 разрабатывается с 500 млрд параметров. Для сравнения, GPT-4 от OpenAI может похвастаться 1,76 трлн параметров.
По данным The Information, разработку MAI-1 возглавляет новый руководитель Microsoft по искусственному интеллекту Мустафа Сулейман, соучредитель Google DeepMind и экс-глава собственного стартапа Inflection. Он перешёл в Microsoft в марте. Сообщается, что данные, которые использовались для обучения моделей Inflection, Microsoft может использовать для обучения MAI-1. Также в датасет для обучения MAI-1 войдут тексты из ChatGPT и внешних открытых источников.
Microsoft пока не раскрывает, для каких задач будет использовать LLM MAI-1. The Information предполагает, что Microsoft расскажет больше о проекте на своей ежегодной конференции разработчиков Build, которая пройдёт в Сиэтле 21 мая.
Издание также отмечает, что Microsoft, по всей видимости, хочет меньше зависеть от OpenAI в создании сервисов искусственного интеллекта. Ранее компания уже выпустила несколько небольших моделей. например, на прошлой неделе состоялся релиз LLM с открытым исходным кодом Phi-3 с 3,8 млрд параметров.
