Я имею большой опыт работы с нейронными сетями, в основном пишу на C# и Python. Увлекаюсь нейросетями с вниманием, особенно нравятся архитектуры с трансформерами, на данный момент изучаю реформеры, которые используют остаточные связи и используют LSH Attention, т.е. внимание на базе локального хеширования, за счет чего могут обрабатывать поистине огромные последовательности токенов.
Также меня очень интересует устройство человеческого мозга и те методы, которые он применяет для обработки информации. Пытаюсь создать искусственный интеллект, может что и получится :-)
