Китайские учёные из Национального исследовательского центра параллельной вычислительной техники и технологий (NRCPC) рассказали, что им удалось создать систему искусственного интеллекта на базе суперкомпьютера производительностью свыше одного экзафлопса. Sunway OceanLight может оперировать 174 трлн параметров (весовыми значениями), что делает её сопоставимой по масштабам с человеческим мозгом.
В мозге человека и животных за весовые значения отвечают синапсы, а передача сигналов происходит с помощью химико-биологических процессов. Если сравнивать OceanLight с человеческим мозгом, то способности системы сопоставимы с корой больших полушарий (125 трлн синапсов).
Чтобы оптимизировать модель ИИ для запуска на экзафлопсном суперкомпьютере, внесли аппаратные изменения в архитектуру системы. Была проведена так называемая «аппаратная внутриузловая оптимизация», которую сопровождали «гибридные параллельные стратегии».
Система Sunway OceanLight основана на 96 000 узлов, работающих на гибридных 390-ядерных процессорах Sunway SW39010 с 40 млн ядер (с процессорами, созданными на основе процессоров SW26010).
Учёные утверждают, что модель ИИ может быть использована для самых разных приложений, начиная от автономных транспортных средств и заканчивая научными исследованиями.
Суперкомпьютер OceanLight стал первым в мире решением с производительностью свыше одного экзафлопса. Позднее выяснилось, что учёные снизили точность вычислений, которые выполняла машина. Фактическая производительность OceanLight теперь заявлена как 5,3 ExaFLOPS с искусственным интеллектом, хотя ранее было заявлено, что она составляет 4,4 ExaFLOPS со смешанной точностью, что еще раз показывает, что показатели производительности этой системы, раскрытые NRCPC, не совсем точны. Также организация официально не публиковала результаты производительности OceanLight в списке 500 лучших суперкомпьютеров.
Ранее Национальная лаборатория Ок-Риджа официально представила Frontier — первый в мире суперкомпьютер с производительностью 1,102 FP64 ExaFLOPS в тесте Linpack. Суперкомпьютер на базе архитектуры HPE Cray EX оснащён процессорами AMD EPYC 64C с тактовой частотой 2 ГГц, оптимизированными для высокопроизводительных вычислений и искусственного интеллекта, ускорителями AMD Instinct MI250X и имеет 8,7 млн ядер. Его строительство обошлось в $600 миллионов и началось в 2021 году.
