double-precision

2зной

2ответ

Что случилось с этим запросом: Я получаю следующее сообщение об ошибке SQL Error: ORA-00905: missing keyword 00905. 00000 - "missing keyword" это говорит об ошибке в 4-м ряду. Пожалуйста посоветуйте C

1зной

2ответ

Как использовать FMOD и избежать проблем с точностью

Я собираюсь кипятить эту проблему вплоть до простейшей формы: Переберет из [0 .. 5,0] с шагом 0,05 и распечатать «X ' для каждого умножителя 0,25. for(double d=0.0; d<=5.0; d+=0.05) { if(fmod(d,0

1зной

1ответ

Существуют ли какие-либо встроенные .NET-альтернативы для использования мощности числа (Math.Pow) без ошибок?

Math.Pow, кажется, работает неправильно для больших результатов. Вероятно, это потому, что для расчетов используется double (How is Math.Pow() implemented in .NET Framework?). Например: public static

6зной

2ответ

Есть ли точная аппроксимация функции acos()?

Мне нужна функция acos() с двойной точностью в вычислительном шейдере. Поскольку встроенная функция acos() в GLSL с двойной точностью, я попытался реализовать свои собственные. Сначала я реализовал се

0зной

1ответ

Fortran Floating Error при выполнении суммирования в цикле DO?

У меня есть четыре действительных числа с двойной точностью (n1, n2, n3, & n4) в массиве (n). Странная вещь, когда я вычисляю сумму этих четырех чисел в пределах цикла DO, а затем вычисляю сумму напря

7зной

3ответ

Как вы обходите двойник в Дарте с заданной степенью точности ПОСЛЕ десятичной точки?

Учитывая двойное, я хочу округлить его до заданного числа точек точности после десятичной точки, аналогично функции round() PHP. Ближайшей вещь, которую я могу найти в документации дротика double.toSt