Что вызывает пропуски кеша в моем коде?

Question

Я пытаюсь оптимизировать часть кода, которая вызывается в параллельной области (OpenMP). Я проанализировал доступ к памяти с помощью Intel VTune Amplifier 2015 и немного смутил результат. Я повторил анализы с уровнями оптимизации O1, O2 и O3 с Intel Composer 2015, но результат тот же. Требования Amplifier, что большинство ООО промахов появляются в следующих трех направлениях:

__attribute__ ((aligned(64))) double  x[4] = {1.e0,-1.e0, 0.e0, 0.e0}; 
__attribute__ ((aligned(64))) double  y[4] = {0.e0,-1.e0, 1.e0, 0.e0}; 
__attribute__ ((aligned(64))) double  z[4] = {0.e0, 0.e0,-1.e0, 1.e0}; 

Данных выравниваются, так как он доступен позже в векторизованной коде. Я не могу опубликовать весь код здесь, потому что у него есть авторское право. Это около 75% от общего количества промахов кэша в этой функции, хотя в коде есть много вычислений и других массивов. Для O0-оптимизации я получаю гораздо более реалистичные результаты, потому что там, где линии, как

res[a] += tempres[start + b] * fact; 

Но там все исполнение требует гораздо больше времени (что понятно). Но какие результаты я могу доверять? Или какое альтернативное программное обеспечение можно использовать для тестирования.

Заранее благодарен!

Answer 1

Ищите только проценты, которые могут вводить в заблуждение (75% от 100 меньше, чем 10% от 1000) - вам нужно посмотреть абсолютное количество промахов при сравнении.

Поведение кэша также сложно реализовать, особенно в сочетании с оптимизацией компилятора и конвейерами CPU.
Похоже, что оптимизированные сборки в основном пропускают кеш при инициализации (не слишком удивительно, что он это делает), но удается сохранить почти весь расчет в кеше, поэтому я не вижу здесь проблемы.

Если вы хотите быть уверены, вам необходимо изучить сгенерированную сборку и справочные руководства для вашего оборудования.

Поиск инструмента, который подтверждает ваше ожидание, в значительной степени пустая трата времени, так как вы не можете быть уверены, что , что инструмент не тот, который по ошибке.