AMX (Advanced Matrix Extension) - это модуль аппаратного ускорения умножения матриц, который появился в серверных процессорах Intel Xeon Scalable, начиная с 4 поколения (архитектура Sapphire Rapids). 

В начале этого года ко мне в руки наконец попал сервер, с данным типом процессора.

Конкретно модель Xeon(R) Gold 5412U - это 24 ядерный процессор с тактовой частотой в 2.1 GHz. При этом 8 приоритетных ядер могут разгонятся до 2.3 GHz, а 1 ядро до 3.9 GHz в Turbo Boost). Кроме того данный процессор поддерживает 8 канальную DDR-5 4400 MT/s. 

Мне как человеку, достаточно долгое время посвятившему оптимизации алгоритмов компьютерного зрения и запуска нейронный сетей на CPU (библиотеки Simd и Synet), было интересно: на сколько AMX позволяет реально ускорить вычисления и как извлечь из него максимальную производительность.

Далее я постараюсь максимально подробно ответить на данные вопросы. Прежде все я буду касаться вопросов однопоточной производительности (многопоточную рассмотрю позже). 

Салам, брат. Меня зовут Филипп, я ведущий утреннего шоу на Ретро FM Кыргызстан, а ещё я Варщик. Я начинал с варки бытовой химии на съёмной квартире в центре Бишкека. Там я разливал жидкое мыло в тару, которую покупал на производстве мёда. Сегодня моё производство выпускает 5 000 единиц продукции в месяц.

В 2008 я начал бизнес в России, тогда у меня был партнёр-итальянец, своя торговая марка и я даже ходил на интервью-разговор к Тинькову. С 2012 года живу и занимаюсь бизнесом в Кыргызстане.

В статье я расписал, как варю продукт в домашних условиях с помощью ванны и дрели, разливаю его в банки из-под мёда и налаживаю дистрибуцию с помощью Саламбрата.

В 2010-м, до отъезда из России, я хотел разгадывать кроссворды на берегу Адриатического моря, вытащить миллионов 10 млн евро и оставить управляющих, а вот как вышло на самом деле.

У типичного разбрызгивателя для газонов есть несколько сопел, расположенных под углом на вращающемся колесе; при подаче воды они выпускают струи, которые заставляют колесо вращаться. Но что произойдёт, если вместо этого вода будет всасываться в разбрызгиватель? В какую сторону повернётся колесо, и повернётся ли оно вообще? В этом суть задачи «обратного разбрызгивателя», над которой физики, такие как Ричард Фейнман и другие, бились с 1940-х годов. Теперь прикладные математики из Нью-Йоркского университета считают, что им удалось разгадать эту загадку, согласно недавней статье, опубликованной в журнале Physical Review Letters, и ответ бросает вызов общепринятому мнению по этому вопросу.

Когда в публичном пространстве появляется информация о новом языке программирования, поднимается волна неприятия. Негатива столько, что хоть святых выноси!

Причин у этого явления много и, скорее всего, сделать с ним ничего нельзя, такова уж человеческая природа.

Однако можно подойти к вопросу рационально, и все-таки попробовать поискать ответ на вопрос, а зачем, собственно, создавать новый язык программирования?

Попробуем разобрать мотивы, подвигающие людей на такую работу.

Допустим, вам нужно быстро распарсить 8-битные целые числа (0, 1, 2, …, 254, 255) из строки ASCII/UTF-8. Задача взята из проекта simdzone под руководством Йероена Коеккоека (NLnet Labs). Дана строка и её длина: например, ’22’ и длина 2. Наивное решение на C может выглядеть так:

Это можно сравнить с поиском Священного грааля, поиск алгоритма, по которому работают биологические нейронные сети. Конечно многие скажут, что никакого грааля не существует, это всё легенды, и в искусственных нейронных сетях уже всё реализовано, осталось дождаться развития этой технологии, вычислительных ресурсов и... и всё — настоящий искусственный интеллект будет создан. А, разбираться в сложном и запутанном органе для этих целей нет необходимости. Но, надеюсь есть добрая доля искателей приключений, которым будет интересны некоторые рассуждения где стоит искать этот “Священный грааль”. В статье мы проанализируем и сравним работу искусственных нейронных сетей с гипотезами о том, как работают биологические нейронные сети, и конечно, сопроводим это практическими опытами, разберем новую искусственную нейронную сеть, которая по своему принципу работы ближе к биологическому аналогу.