floating-point

0зной

1ответ

Как использовать _controlfp_s при использовании SEH?

Я пытался написать некоторые пункты защиты от ошибок для выявления проблем в dll, которые предоставляются нам третьей стороной. В этой DLL могут быть проблемы (исключения памяти, ошибки с плавающей за

c++ floating-point seh 2017-01-06

---

4зной

2ответ

Objective-C отливать тип блока в другой получил неожиданный результат

typedef (void (^blockType)()); мне нужно отливать блоки с различными типами аргументов в тот же тип blockType и вызывать его как позже тип оригинала. Но есть проблема при выборе типа блокировки. Следу

ios objective-c floating-point objective-c-blocks forecasting 2017-01-07

---

-2зной

1ответ

Почему python отображает 0, когда результат вычисления меньше 1?

я следующий код: a = 0.0 b = 0.0 c = 1.0 while a < 300: a = a + 1 b = b + 1 c = c * b d = (3**a) e = (a+1)*c f = d/e print a, f Момент е становится меньше 1, я

python variables floating-point 2017-01-07

---

4зной

1ответ

Понимание производительности команд FMA

Я пытаюсь понять, как можно максимизировать количество операций, которые я могу получить на своем CPU. Я делаю простую программу умножения матрицы, и у меня есть процессор Skylake. Я смотрел на страни

floating-point cpu-architecture instruction-set flops fma 2017-01-07

---

-3зной

1ответ

почему аргументы java Math.pow удваиваются?

Почему API Math.pow в java имеет двойные аргументы, что является обоснованием или использованием записи с двойным? Как скальпинг поплавков и двойных вовлекает точность, ошибки округления и т. Д .. свя

java api floating-point 2017-01-08

---

0зной

2ответ

уравнение с плавающей математикой не работает как ожидалось

print(String(Float(2 * (10/9)))) Почему этот код печатает «2.0»? С помощью калькулятора, «2 * (10/9)» равна 2,222222 бы .....

swift math floating-point swift3 2017-01-08

---

3зной

1ответ

VS2013: strtof не устанавливает ERANGE?

В Visual Studio 2013, у меня есть следующий код теста: #include <errno.h> #include <stdio.h> #include <stdlib.h> #include <string.h> int main (int argc, const char* argv[]) { static const ch

c string floating-point errno 2017-01-09

---

-2зной

1ответ

C Программирование - Anomaly поведение в то время цикла для состояния поплавковой

Я написал следующий код: #include <stdio.h> int main() { float x = 1.1; printf("%s\n", "Hello!"); while (x == 1.1) { printf("%s\n", "Hey there!"); printf("%f\n", x);

c while-loop floating-point 2017-01-09

---

0зной

1ответ

Получите yocto для сборки с TARGET_FPU = hardfp

Я создаю linux на основе yocto, и у меня есть проблема со строительством для жесткой с плавающей запятой. Я пробовал различные TUNE_FEATURES от here, но каждый раз, когда я запускаю битбак, он говорит

floating-point yocto openembedded 2017-01-10

---