«Яндекс» изучил поисковые запросы программистов и составил карту технических навыков, которые регулярно используют ML-разработчики. Этот проект показывает, какие ML-технологии и методы сейчас особенно популярны, как они связаны между собой и как менялся к ним интерес. 

Размер навыка на карте соответствует его популярности у ML-разработчиков. Положение навыков относительно друг друга определяется сходством контекста: чем чаще два навыка соседствуют с одними и теми же тегами на Stack Overflow, тем меньше расстояние между ними на карте.

Для оценки близости контекста в «Яндексе» рассчитали векторы совстречаемости каждого навыка со всеми остальными, затем нормализовали метрикой TF-IDF. Для укладки навыков на карте использовали алгоритм UMAP.

В дополнение к карте технических навыков «Яндекс» опубликовал рейтинги навыков, интерес к которым сильно вырос в 2023 году по сравнению с 2022 годом. Это десять самых актуальных библиотек и фреймворков и десять ML-технологий и методов. Большинство из них связаны с генеративными моделями и нейросетями для распознавания объектов.

Библиотеки и фреймворки:

1. langchain;

2. python-polars;

3. faiss;

4. sentence-transformers;

5. huggingface-datasets;

6. jax;

7. stable-baselines;

8. onnxruntime;

9. huggingface-transformers;

10. pytorch-geometric.

ML-технологии и методы:

1. large-language-model;

2. stable-diffusion;

3. openai-api;

4. gpt-3;

5. fine-tune;

6. generative-art;

7. text-parsing;

8. hdbscan;

9. transformer-model;

10. nlp-question-answering.