Помощь с Assembly/SSE Умножение

Question

Я пытался выяснить, как получить некоторое улучшение в моем коде на очень важных пару линий:

float x = a*b; 
float y = c*d; 
float z = e*f; 
float w = g*h; 

все а, б, в ... являются поплавки ,

Я решил изучить SSE, но, похоже, не может найти улучшения, на самом деле он оказывается в два раза медленнее. Мой SSE код:

Vector4 abcd, efgh, result; 
abcd = [float a, float b, float c, float d]; 
efgh = [float e, float f, float g, float h]; 
_asm { 
movups xmm1, abcd 
movups xmm2, efgh 
mulps xmm1, xmm2 
movups result, xmm1 
} 

Я также попытался с помощью стандартных ассемблерного, но это не кажется, что я могу упаковать регистр с четырьмя плавающими точками, как я могу с SSE.

Любые комментарии или помощь были бы очень благодарны, мне в основном нужно понять, почему мои вычисления с использованием SSE медленнее, чем серийный код на C++?

Я компилирую в Visual Studio 2005 на Windows XP, используя Pentium 4 с HT, если это предоставляет любую дополнительную информацию для поимки.

Заранее спасибо!

Answer 1

Как вы узнали, просто замена нескольких инструкций SSE не будет работать, потому что вы должны перетасовывать данные в памяти, чтобы правильно загружать регистры SSE, и эти движущиеся данные в памяти (бит, который создает массивы) собирается убить вашу производительность, так как память очень медленная (жесткий диск в стороне, память всегда является узким местом в наши дни).

Кроме того, нет возможности переместить данные между SSE и FPU/ALU без использования записи в ОЗУ с последующим чтением. Современные чипы IA32 хорошо справляются с этим конкретным шаблоном (пишите, затем читайте), но все равно недействительны для кеша, который будет иметь эффект стука.

Чтобы получить максимальную отдачу от SSE, вам нужно посмотреть на весь алгоритм и данные, которые использует алгоритм. Значения a, b, c и d и e, f, g и h должны постоянно находиться в этих массивах, чтобы во время загрузки регистров SSE не было сдвинутых данных в памяти. Это не просто и может потребовать много повторного использования вашего кода и данных (вам может потребоваться хранить данные по-другому на диске).

Возможно, стоит упомянуть, что SSE является 32-разрядным (или 64-битным, если вы используете удваиваете), тогда как FPU составляет 80 бит (независимо от поплавка или двойной), поэтому при использовании SSE вы получите несколько разные результаты по сравнению с использованием FPU. Только вы знаете, если это будет проблемой.

Answer 2

Вы можете включить использование SSE и SSE2 в параметрах программы в новых версиях VS и, возможно, в 2005 году. Скомпилировать с использованием экспресс-версии?

Кроме того, ваш код в SSE, вероятно, медленнее, потому что, когда вы компилируете серийный C++, компилятор умный и делает очень хорошую работу по его очень быстрой настройке, например, автоматически помещая их в нужные регистры в нужное время , Если операции происходят последовательно, компилятор может уменьшить влияние кэширования и подкачки, например. Однако встроенный ассемблер может быть оптимизирован в лучшем случае, и его следует избегать, когда это возможно.

Кроме того, вам необходимо будет выполнить ОГРОМНЫЙ объем работы для SSE/2, чтобы принести заметную пользу.

Answer 3

Вы используете нестандартные инструкции, которые очень медленные. Возможно, вы захотите выполнить правильное выравнивание данных, 16-байтовую границу и использование перемещений. Лучшей альтернативой является использование встроенных функций, а не сборка, потому что тогда компилятор может свободно заказывать инструкции, как представляется необходимым.

Answer 4

Это старая тема, но я заметил ошибку в вашем примере. Если вы хотите, чтобы выполнить это:

float x = a*b; 
float y = c*d; 
float z = e*f; 
float w = g*h; 

Затем код должен быть таким:

Vector4 aceg, bdfh, result; // xyzw 
abcd = [float a, float c, float e, float g]; 
efgh = [float b, float d, float f, float h]; 
_asm { 
movups xmm1, abcd 
movups xmm2, efgh 
mulps xmm1, xmm2 
movups result, xmm1 
} 

И получить даже немного больше скорости, я бы предположить, что вы не используете отдельный регистр для «результата».

Для начала не все алгоритмы будут полезны при перезаписи в SSE. Алгоритмы, управляемые данными (например, алгоритмы, управляемые поисковыми таблицами) не очень хорошо переходят в SSE, потому что много времени теряется при упаковке и распаковке данных в векторы для SSE.

Надеюсь, это все еще помогает.

Answer 5

Во-первых, если у вас есть что-то 128 бит (16 байт), вы должны использовать MOVAPS, поскольку это может быть намного быстрее. Компилятор обычно должен давать вам выравнивание по 16 байт, даже на 32-битных системах.

Ваши линии C/C++ не делают то же, что и ваш sse-код.

Четыре поплавка в одном регистре xmm умножаются на четыре поплавка в другом регистре. Давать вам:

float x = a*e; 
float y = b*f; 
float z = c*g; 
float w = d*h; 

В SSE1 вы должны использовать SHUFPS, чтобы изменить порядок поплавков в обоих регистрах, прежде чем умножения.

Также для обработки данных, которые больше, чем кэш-памяти процессора, вы можете использовать невременные хранилища (MOVNTPS) для уменьшения загрязнения кэша. Обратите внимание, что в других случаях не временные хранилища намного медленнее.