floating-accuracy

2зной

2ответ

Самая большая ошибка округления при вычислении чисел с плавающей запятой

Я разрабатываю критический по времени алгоритм в Java и поэтому не использую BigDecimal. Чтобы обрабатывать ошибки округления, я вместо этого устанавливаю верхнюю границу ошибки, ниже которой разные ч

0зной

1ответ

Ведение расчетов с NSDecimalNumber или Float

я должен сделать расчет в моем приложении, у меня есть formules как этот: result = Capital * rate/(1- 1/(1+ rate)^frequence) Я прочитал в Интернете, что делает расчет с поплавками может быть без пот

0зной

1ответ

Расщепление число с плавающей точкой в виде суммы с плавающей точкой фиксированной точности

Предположим, что у меня есть алгоритм, с помощью которого я могу вычислить бесконечно точное число с плавающей запятой (в зависимости от параметра N) позволяет сказать, что в псевдокоде: arbitrary_pre

-4зной

1ответ

Поплавок не преобразуется правильно

Я работаю над программой, которая будет конвертировать из долларов в центы. Я беру ввод пользователя как float с помощью предопределенной функции, тогда я пытаюсь умножить этот float на 100, но это да

1зной

4ответ

Значение поплавка не сохраняется правильно

Я пишу функцию, которая, предположительно, должна иметь поплавковую длину, а затем отображать выходные данные таймера. Длина «поплавка» должна составлять минуты. Когда я запускаю его, выход должен быт

1зной

1ответ

C99 - гарантии порядка упорядочения режимов округления с плавающей запятой

Существуют ли какие-либо гарантии (в стандарте C99 и/или IEEE-754), что результаты, полученные при использовании разных режимов округления, должны быть упорядочены определенным образом? Например, пуст

4зной

3ответ

Обработка экстремально малых чисел в C++

Пусть a и b - два числа между 0 и 1. Как рассчитать pow(a,10000)/(pow(a,10000)+pow(b,10000))? Ex: - Этот следующий код дает -nan в качестве выходного сигнала вместо 0,5 double a = 0.5,b = 0.5; cout<<

6зной

4ответ

Получение десятичной части двойника в Swift

Я пытаюсь разделить десятичные и целые части двойного в быстром. Я попробовал несколько подходов, но все они работают в том же номере ... let x:Double = 1234.5678 let n1:Double = x % 1.0 // n1 = 0.

4зной

5ответ

std :: string to float (via std :: stof) precision

Я пытаюсь понять это, рыночные данные возвращают денежные значения в виде строки, которая составляет 8 мест после цифры. money = "124.19000540" Мне нужно, чтобы это было 124.19, любая идея, как этог