Компания Hugging Face объявила о покупке команды GGML, которая занимается разработкой движка llama.cpp для локального запуска больших языковых моделей. Проект получит дополнительное финансирование, интеграцию с библиотекой Transformers и продолжит развивать софт с открытым исходным кодом.
Движок для локального запуска LLM разрабатывает команда GGML, которая состоит всего из трёх человек. Основатель команды Георгий Герганов (Georgi Gerganov) отметил, что последние годы инженеры из Hugging Face активно помогали развивать проект. Например, благодаря их вкладу в llama.cpp появилась поддержка мультимодальности и совместимость с форматом GGUF.
Герганов отмечает, что приобретение проекта и переход разработчиков под крыло Hugging Face — формализация ранее сложившегося сотрудничества. В блоге Hugging Face подчёркивают, что для GGML мало что изменится: команда продолжить уделять всё своё рабочее время развитию llama.cpp, сохранит автономность и открытость. Сторонние разработчики также смогут вносить вклад в проект.
С технической точки зрения ожидается интеграция с библиотекой Transformers и улучшение пользовательского опыта. Обе команды хотят в результате добиться того, чтобы локальные языковые модели могли запускать не только разработчики, но и обычные пользователи.
Бо́льшая часть сообщества приняла новость положительно. Некоторые пользователи обеспокоены тем, что GGML фактически потеряла независимость и теперь находится среди активов американской компании. Этот факт может накладывать некоторые ограничения и обязательства, связанные с требованиями правительства США.
