double-precision

0зной

1ответ

Двойные прецизионные вариации в OpenCL printf

У меня проблема, я хочу, чтобы кто-то мне объяснил, пожалуйста. У меня есть простое ядро OpenCL, которое просто берет в два раза, печатает его внутри ядра и затем копирует обратно на хост. Я заметил

1зной

1ответ

kCFNumberFormatter круглые разницы

Я нашел интересный вопрос, что не описано в Интернете, даже вводит в заблуждение в apple documentation. В чем разница между: kCFNumberFormatterRoundCeiling kCFNumberFormatterRoundFloor kCFNumberFo

1зной

2ответ

Различные значения при вычислении гармонической суммы слева направо и справа налево

При вычислении гармонической суммы чисел от 1 до 50000 в java в обоих направлениях полученные значения должны совпадать, но у меня на уме, что они этого не делают! Пожалуйста, скажите мне, почему это

2зной

3ответ

Функция return type несоответствие

Я пытаюсь перекодировать старую C++-программу в Fortran, чтобы использовать LAPACK (я знаю, что C++ имеет LAPACK ++, но у меня много проблем с его установкой, поэтому я дал вверх). У меня изначально н

2зной

2ответ

C++ точность - поведение setprecision

Как я понимаю, что функция setprecision определяет минимальную точность, но когда я запускаю следующий код я получаю только 3 номера после запятой: int main() { double a = 123.4567890; doub

0зной

2ответ

Почему exp (log (6)) == exp (log (3)) * 2 return FALSE в R?

В R, почему это неверно для y> 2? y <- c(1, 2, 3, 4, 5) x <- 2*y exp(log(x)) == exp(log(y)) * 2 [1] TRUE TRUE FALSE FALSE FALSE

-1зной

2ответ

Как использовать Bitxor для двойных номеров?

Я хочу использовать xor для своих двойных чисел в matlab, но bitxor работает только для чисел int. Есть функция, которая может преобразовать double в int в Matlab?

0зной

1ответ

Возможно ли отливать NaN из «NaN» (строка) (с использованием toFixed())

Итак, я получил почему to fixed returns a String, имея в виду, что можно нарисовать строку «NaN» в NaN, чтобы сохранить следующее выражение работоспособным ? var numberWithPrecission = (1*"A").ToFixed