Как интерпретировать блокировки и ожидания Intel VTune Amplifier

Question

Я пытаюсь распараллелить одну горячую точку моей программы на C++ с помощью OpenMP, но она не масштабируется. В то время как для 1 потока требуется 25 секунд, я достигаю 21 секунды с помощью двух потоков. Я сделал Locks & Анализ ожидания с помощью Intel VTune Amplifier, но мне это действительно не помогает. Это выглядит следующим образом:

я особенно не понимаю, где mkl_blas_dcopy приходит и что называть его (даже если я удалю свою параллельную область у меня есть этот вызов и второй поток на временной шкале).

Я попытался получить больше информации из дерева сверху вниз, но это не очень полезно для меня.

продвинутая Точки доступа также анализы не дали мне больше информации. Как мне подойти к этой проблеме, чтобы определить проблему?

Дополнительная информация: До того, как у меня было намного худшее общее время работы, но я сделал много оптимизаций в серийном коде и мог увеличить производительность, но после этого мой код больше не масштабируется.

Большое спасибо!

Редактирование: Здесь также показана временная шкала, на которой не показаны переходы, независимо от того, как я приближаюсь. В этом случае я использовал другой тестовый файл с 8 потоками.

Answer 1

1. Какую версию VTune вы используете? Похоже, что не самая последняя частота кадров для областей OpenMP, находящихся на вашем снимке экрана, удаляется в текущей версии. Стоит попробовать обновление до 2015 года 1, были сделаны некоторые исправления и улучшения для анализа OpenMP.
2. Какой компилятор и среда выполнения OpenMP вы используете? Если это Intel OpenMP (и компилятор), анализ VTune будет более информативным для регионов OpenMP. Просто измените группировку в Bottom-up от «Funcion/callstack» до «OpenMP region/...» - вы найдете много интересного.
3. Вы видите mkl_blas_dcopy, потому что вы, кажется, используете функции MKL в своем коде. mkl_blas_dcopy - это только внутренняя функция MKL. Вы можете найти фактический вызов MKL в своем коде, глядя на панель стеллажа справа, когда в нижней точке выбрана точка доступа «mkl_blas_dcopy» - вы должны увидеть цепочку вызовов до main().
4. MKL уже распараллелен с помощью OpenMP. Возможно, вы включили вызов MKL внутри своей собственной области OpenMP. Если это так, это не оптимально - OpenMP не подходит при вложенности. Вы должны выбрать, использовать параллельную версию MKL без OpenMP или последовательную библиотеку MKL внутри параллельной области OpenMP. Вы можете управлять настройкой серийного/параллельного MKL с помощью ссылки, см. MKL Link Advisor: https://software.intel.com/en-us/articles/intel-mkl-link-line-advisor
5. Каждый кадр на временной шкале на снимке экрана, вероятно, является областью OpenMP от MKL. Кажется, что существует много параллельных областей короткой продолжительности, что может указывать на то, что MKL вызывается из цикла. Поэтому каждая итерация начинается, выполняется и останавливается параллельная область OpenMP. Действия Start и Stop имеют некоторые накладные расходы, которые учитывают ваше большое время ожидания. Поэтому, возможно, стоит попробовать серийную версию MKL внутри внешнего цикла OpenMP, чтобы избежать повторного входа в несколько параллельных регионов.

Answer 2

Переходы показаны для объектов синхронизации. В этом случае время ожидания, скорее всего, происходит из среды OpenMP внутри библиотеки MKL. В VTune вы увидите это время как накладные расходы и время отжима в более поздних версиях.