fpu

1зной

1ответ

Сохранять битовые точные вычисления с плавающей запятой на AArch64 с O2

Я сравниваю выходы библиотеки обработки сигналов с использованием математики с плавающей запятой, которая была построена для AArch64 (ARMv8), например, gcc 4.9. Различия происходят в зависимости от ур

0зной

1ответ

Как очистить стек в сопроцессоре masm32 (FPU)?

Выполнение некоторых операций в masm32FPU. Но я не могу очистить стек FPU, например. ST (0) -ST (7). Есть ли инструкция для очистки стека. Можете ли вы предложить что-нибудь? P.S. Предположим, чтобы о

3зной

1ответ

Как скомпилировать node-v4.2.4 с armv7 без fpu?

У меня есть устройство, чей процессор является armv7, но без fpu. Я могу скомпилировать узел с опцией --with-arm-float-abi = soft, но когда я запустил «узел», произошла «Незаконная инструкция (core du

1зной

1ответ

Диапазон чисел с плавающей запятой

Я читал «Что каждый компьютерный ученый должен знать о арифметике с плавающей точкой» и наткнулся на то, что я не понимаю. Бумага утверждает, что для данных B и E (базового и экспоненциального) максим

3зной

1ответ

Плавающая точка сборки на процессоре Intel

Я изучаю, как операции с плавающей запятой выполняются на 32-битной Intel-машине. Я разобрал следующие строки кода C, чтобы получить, как компилятор переводит эти строки на сборку. a = 13; b = 5; d

3зной

1ответ

Маскировка деление на 0 исключение сборки MASM

TITLE Unmasking an Exception (Exceptions.asm) ; This program shows how to mask (set) and unmask (clear) the divide by zero ; exception flag. INCLUDE Irvine32.inc .data ctrlWord WORD ? val1 DW

0зной

1ответ

Можно ли изменить режим округления FPU из процесса Python другим процессом Python?

Я использую большую библиотеку libqd, которая требует установки режима округления FPU перед любыми вычислениями. До сих пор я в основном использовал его в программах на C, но я хотел бы использовать е