32B куски, смежные и несмежные обращения к памяти

Question

Я написал матрицу-матрицу (32-битные поплавки) функцию умножения в C++, используя встроенные средства для больших матриц (8192x8192), минимальный размер данных 32B для каждой операции чтения и записи.

Я изменю алгоритм на блокирующий, чтобы он считывал блок 8x8 в 8 регистров YMM и делал умножения на целевые блоки строк (другой регистр YMM как цель), наконец, накапливал 8 результатов в другом регистре и сохранял в память.

Вопрос: Имеет ли значение, имеет ли он 32B куски от несмежных адресов? Изменит ли это производительность резко, если она читается как:

Read 32B from p, compute, read 32B from p+8192 (this is next row of block), compute, 
Read and compute until all 8 rows are done, write 32B to target matrix row p3 

вместо

Read 32B from p, compute, read 32B from p+32, compute, read 32B from p+64...... 

Я имею в виду скорость чтения памяти, а не кэш.

Примечание: Im использует fx8150, и я не знаю, может ли он читать более 32B в одной операции.

Answer 1

Это будет , вероятно, даст вам лучшую производительность, чтобы иметь один непрерывный буфер (по крайней мере, это не хуже!).

Насколько велика разница в производительности, будет зависеть от большого количества факторов (и, конечно, если вы выделите кучу 32-байтовых блоков, вы, скорее всего, получите «близкие» куски памяти, поэтому Кэш-память по-прежнему будет существовать. Худший случай: если каждый блок находится в другом сегменте памяти 4 КБ, но если у вас есть несколько байтов «пустого пространства» между каждым блоком, не такая большая сделка.

многие другие вопросы производительности, это довольно многое связано с точными подробностями того, что делает код, типы памяти, тип процессора и т. д. Единственный способ ДЕЙСТВИТЕЛЬНО выяснить, вам нужно будет сравнить различные варианты ...