floating-accuracy

-3зной

1ответ

Преобразование INT8 ... INT64, UINT8 ... UINT64, float, double, в WCHAR *

Я использую C/C++, есть ли какие-либо функции Windows или какие-либо очень быстрые способы конвертировать из любого типа в Title в const WCHAR *? Так что я большой случай, когда я проверить мои данные

c++ converter floating-accuracy wchar uint 2016-11-30

---

-2зной

2ответ

Какова разница точности между производными расчетами двух версий?

Ниже приведен код Python, предназначенный для вычисления производной данной функции f. версии один (раствор) x[ix] += h # increment by h fxh = f(x) # evalute f(x + h) x[ix] -= 2 * h fxnh = f(x) x[

python algorithm floating-accuracy 2016-12-03

---

3зной

1ответ

Как C++ вычисляет абсолютное значение комплексного числа, предотвращая переполнение?

В заголовке C++ <complex> приведены abs(z) и norm(z). Нормой комплексного числа z = x + iy является norm(z): = x^2 + y^2. Абсолютное значение z равно abs(z): = sqrt (norm (z)). Однако, следующий приме

c++ numeric floating-accuracy complex-numbers 2016-12-09

---

1зной

2ответ

Установить точность для поплавков в php для 15 чисел после запятой

Servus, У меня проблема с номерами float в PHP. Мой номер $cosVQ = 0.907424504992097 но когда я делаю некоторые математические операции $cosVQ, я буду получать различные результаты в Javascript и PH

php floating-point numbers precision floating-accuracy 2016-12-24

---