m08pvv Jun 17 2011 at 02:44

Основы MPI

4 min

116K

System Programming*

From sandbox

+20

Comments 19

SychevIgor Jun 17 2011 at 10:03

По моему скромному мнению, отпугнуть может и С++ и рассказы про распределенныю память, коммуникацию между узлами.
Помоему те кто испугается- явно не ваша аудитория, тем более что далеко не каждый программист получит шанс применить MPI

m08pvv Jun 17 2011 at 13:10

MPI может применить (так чтобы это имело смысл) любой человек, у которого есть многоядерный процессор или более одного компьютера.
А вот то, что не каждому дадут время на каком-нибудь Ломоносове, это немного ограничивает поле для экспериментов.

SychevIgor Jun 18 2011 at 00:16

на многоядерной машине- openmp в руки и ни какого mpi. общая память, родные потоки системы без накруток. mpi на общей памяти- микроском, которым забивают гвозди!

Curious_Vik Jun 17 2011 at 11:10

Первое время не было единого стандарта (API) для параллельных вычислений и программистам приходилось писать для каждого кластера архитектурно-специфический код. Но, как известно, программисты люди рациональные и быстро было решено организовать стандарты (самые известные — MPI, OpenMP).

Поясните, пожалуйста, данное утверждение, точнее, упоминание здесь OpenMP. Насколько я знаю, MPI и OpenMP — вещи существенно разные, тем более в контексте кластерных вычислений. Всё-таки OpenMP, в отличие от MPI, предназначено для вычислений на системах с общей памятью.

m08pvv Jun 17 2011 at 13:04

Изначально — да, OpenMP создавался для систем с общей памятью, а MPI для систем с разделяемой памятью, но в последнее время было сделано множество нововведений, которые сделали их почти неотличимыми.
В обоих стандартах все задержки работы с памятью должен учитывать программист, поэтому нет особой разницы что использовать.
Однако, MPI является интерфейсом, который реализуют производители почти всех кластерных систем.

gribozavr Jun 17 2011 at 17:09

Неотличимы? Нет разницы?

Расскажите как запустить программу на OpenMP на нескольких узлах.

m08pvv Jun 17 2011 at 17:11

Например, вот.

gribozavr Jun 17 2011 at 17:16

Это неизвестно какая модификация, у которой есть «OpenMP» в названии.

Почитайте про разницу между распределённой и общей памятью.

m08pvv Jun 17 2011 at 17:22

Неизвестно какая?
Вот так понятнее какая это модификация?

gribozavr Jun 17 2011 at 17:23

Спасибо, я в курсе. Она не выстрелила, поэтому и неизвестно какая.

m08pvv Jun 17 2011 at 17:26

Поэтому я и написал что MPI признанный стандарт, который стараются реализовать все, а про OpenMP я просто сказал что есть возможность использовать на кластере.
Мир?

gribozavr Jun 17 2011 at 17:29

У OpenMP тоже есть своя спецификация, которая также признана не меньше MPI. Просто для реализации OpenMP в первую очередь требуется поддержка компилятора и библиотеки времени выполнения тесно привязаны к компилятору из-за специфики самого OpenMP. А реализацией MPI больше обеспокоены вендоры аппаратного обеспечения, потому что она не привязана к конкретному компилятору.

trollsid Jun 17 2011 at 11:14

Довольно поверхностно, смесь настройки и програмирования и довольно поверхностная по обоим пунктам. Для того чтобы понять что MPI не так страшен хорошо было бы в статье привести хотябы один пример решения какой нибудь задачи.
да и MPI_Init, MPI_COMM_WORLD, MPI_Comm_rank — это не все что что понадобится для вычислений.

m08pvv Jun 17 2011 at 13:08

Я не особо люблю синтетические примеры, которые считаются на одном процессоре быстрее, чем на двух, поэтому когда руки дойдут до хорошего примера, который будет учитывать задержки работы с памятью, задержки работы с сетью и считаться будет на нескольких вычислительных узлах, то постараюсь оформить это постом.

Metallist Jun 17 2011 at 14:54

Писал курсовой с использованием MPI, правда, под Виндой писал. Гонял на двуядерном процессоре ноута, ничего так, даже работало и оба ядра грузило :). Ну а сам курсовой особо из себя ничего не представлял — банальное распараллеливание арифметических операций. В жизни (пока) не приходится писать с использованием параллельных вычислений.

gribozavr Jun 17 2011 at 17:14

if ((errCode = MPI_Init(&argc, &argv)) != 0)

Бессмысленная проверка. По умолчанию все ошибки фатальны (умолчание отключается вызовом MPI в коде, а не настройкой кластера).

m08pvv Jun 17 2011 at 17:24

Ну тут да, ненужная проверка, просто на автомате написал, т.к. на чистом С есть возвращаемый int.

gribozavr Jun 17 2011 at 17:26

MPI_Comm_rank тоже возвращает int, однако там проверки нет.

(Я просто вижу как этот if(MPI_Init...) бездумно копипастится из туториала в туториал и никто не хочет просто взять и почитать спецификацию)

klakhman Jun 17 2011 at 17:28

Честно сказать, что статья, на которую вы ссылаетесь, что ваша собственная — это просто детский сад. Если человеку незнакомому с этой темой будет необходимо все так объяснять, то я честно сказать посоветую ему просто ей не заниматься, а пойти в какую-нибудь другую область.