Летняя школа машинного обучения «Сколтеха» SMILES-2023 завершилась 1 сентября 2023 года. Интенсив длился 12 дней и включал в себя презентацию доклада и командный хакатон «Методы ИИ для решения индустриальных задач устойчивого развития». Студенты, успешно прошедшие все этапы интенсива, получили сертификаты «Сколтеха», рассказали Хабру в пресс‑службе университета.

Победителями презентации докладов стали три доклада.

  • «Анализ глубоких нейросетей на основе метода информационного узкого места с помощью сжатия с потерями». Исследование посвящено оценке взаимной информации в нейронных сетях с помощью сжатия с потерями. Авторы предложили метод для анализа взаимной информации между выходами слоёв нейронной сети, основанный на сжатии внутренних представлений с помощью автоэнкодеров. По словам автора доклада, в дальнейшем планируется применить технику нормализационных потоков к этому методу. Кроме того, будут проведены новые эксперименты с разными нейронными сетями для более подробного исследования соответствующих им информационных плоскостей.

  • «Регулярность тайловых B-сплайнов». В этом исследовании изучались системы тайловых B-сплайнов, их показатели гладкости и соответствующие приложения. Автор исследования планирует использовать методы машинного обучения для аппроксимации гладкости сплайнов больших порядков.

  • «Разработка суррогатной модели для процесса очистки трещины ГРП». В работе представлены результаты разработки суррогатной модели машинного обучения с целью значительного ускорения симулятора очистки трещины гидроразрыва пласта. Дальнейшее развитие исследования заключается в применении многослойного перцептрона (MLP) и улучшении качества синтетических данных.

Победителями хакатона стали следующие команды:

  • Команда проекта «Прогнозирование динамики радарных спутниковых снимков на основе нейросетевых уравнений в частных производных». Эта команда разработала модель предсказания динамики льда в пределах залива для повышения безопасности судоходства в условиях серьёзного недостатка пространственно‑временных данных. В планах по дальнейшему развитию проекта — исследование физически‑информированных архитектур и адаптация современных подходов к построению нейронных дифференциальных уравнениях на случай недостатка данных.

  • Команда проекта «Оценка непрерывного энтропийного вассерштейнова барицентра на основе модели энергии», осуществившая поиск барицентра Вассерштейна нескольких непрерывных распределений, заданных конечными выборками из них, с произвольной функцией цены с помощью энергетических моделей. Авторы исследования заявили, что они разработали алгоритм поиска барицентра и проверили поиск на задаче с аналитическим решением, а также на нескольких более сложных задачах, в том числе на датасете Colored MNIST. Команда планирует провести больше экспериментов на реальных данных и сложных функциях стоимости, сравнить их с существующими методами поиска барицентров и опубликовать статью с результатами.

  • Команда проекта «Применение методов машинного обучения для исследования влияния потока плазмы в газовом разряде на динамику микрочастиц в конденсированном состоянии». Студенты этой команды исследовали левитирующие в плазме газового разряда микрочастицы конденсированного состояния, которые взаимодействуют друг с другом невзаимным образом, обусловленным их плазменным окружением. В рамках проекта исследователям удалось обучить нейросеть предсказывать силы, действующие на микрочастицы конденсированного состояния в плазменном потоке, для системы из трёх микрочастиц. В будущем команда планирует адаптировать решение на системы больших размеров.

Офлайн в SMILES-2023 приняли участие 65 студентов, магистров и аспирантов ведущих вузов России и ещё более 200 слушателей присоединились к школе онлайн. Для реализации проектов участникам школы был предоставлен доступ к суперкомпьютеру «Жорес». Участие в Летней школе машинного обучения «Сколтеха» для всех слушателей бесплатное.