У меня возникла проблема с методом SSE, который я пишу, который выполняет обработку звука. Я выполнил случайную функцию SSE, основанную на работе компании Intel здесь:SSE intrinsics вызывает нормальную операцию float для возврата -1. # INV
У меня также есть метод, который выполняет преобразование из Float в S16 с использованием SSE также, преобразование выполняется достаточно просто следующим образом:
unsigned int Float_S16LE(float *data, const unsigned int samples, uint8_t *dest)
{
int16_t *dst = (int16_t*)dest;
const __m128 mul = _mm_set_ps1((float)INT16_MAX);
__m128 rand;
const uint32_t even = count & ~0x3;
for(uint32_t i = 0; i < even; i += 4, data += 4, dst += 4)
{
/* random round to dither */
FloatRand4(-0.5f, 0.5f, NULL, &rand);
__m128 rmul = _mm_add_ps(mul, rand);
__m128 in = _mm_mul_ps(_mm_load_ps(data),rmul);
__m64 con = _mm_cvtps_pi16(in);
memcpy(dst, &con, sizeof(int16_t) * 4);
}
}
FloatRand4 определяется следующим образом:
static inline void FloatRand4(const float min, const float max, float result[4], __m128 *sseresult = NULL)
{
const float delta = (max - min)/2.0f;
const float factor = delta/(float)INT32_MAX;
...
}
Если sseresult != NULL
__m128
результат возвращается и result
не использовался. Это отлично работает в первом цикле, но в следующем цикле delta
становится -1.#INF
вместо 1.0
. Если я прокомментирую строку __m64 con = _mm_cvtps_pi16(in);
, проблема исчезнет.
Я думаю, что FPU попадает в неизвестное состояние или что-то в этом роде.
_mm_cvtps_pi16 - плохая идея. Используйте комбинацию _mm_cvtps_epi32, _mm_packs_epi32 и _mm_store_si128/_mm_storeu_si128, чтобы преобразовать 8 поплавков в 8 int16_t, и ваша проблема исчезла! –