Преобразование pthreaded программы в MPI?

Question

Я понимаю различия между многопоточной программой и программой, основанной на межмашинной связи. Моя проблема в том, что у меня есть хорошая многопоточная программа, написанная на языке C, которая работает и работает очень хорошо на 8-ядерном компьютере. Теперь появилась возможность переносить эту программу в кластер, чтобы получить доступ к большему количеству ядер. Стоит ли пытаться вырвать материал pthread и модифицировать MPI (который я никогда не использовал), или нам лучше переписать все это (или большую часть) с нуля? Предположим, что мы «застряли» с C, поэтому опциональная смена языка - это не вариант.

Answer 1

В зависимости от того, как написано ваше программное обеспечение, могут быть или не быть преимущества для перехода на MPI, чтобы сохранить реализацию pthread.

К сожалению (или, к счастью), передача сообщений - совсем другое зверь, чем pthreading - основное предположение совершенно иное. Я люблю this quote from Joshua Phillips of the Maestro team: «Разница между передачей сообщений и совместным использованием общего состояния эквивалентна разнице между отправкой коллеге по электронной почте с просьбой выполнить задание и открытием ее организатора для записи задачи непосредственно в нее, сделайте список. Больше, чем просто быть грубым, последнее, вероятно, смутит ее - она ​​может стереть его, не заметить, или случайно определить приоритет неправильно ».

К сожалению, способ обмена данными очень отличается. Прямой доступ к данным в других потоках отсутствует (так как это может быть на других машинах), поэтому очень сложно выполнить миграцию с pthreads на MPI. С другой стороны, если код написан так, что каждый поток изолирован, это может быть легкой задачей и, безусловно, стоит.

Чтобы определить, насколько это полезно, вам нужно понять код и то, что вы надеетесь достичь путем переключения. Это может быть полезно как опыт обучения (вы узнаете много о синхронизации и потоковом режиме, работая в MPI), но может быть непрактичным, если прибыль будет незначительной.

Answer 2

Re. ваш комментарий к Reed - это звучит как легкое, низкое переключение на MPI. Просто будьте осторожны: не все MPI API поддерживают динамическое создание процессов, то есть вы запускаете свою программу с N процессами (указанными при запуске), и вы застряли с N процессами в течение всего срока службы программы.