double-precision

0зной

1ответ

В моем коде у меня есть эти умножения в C++ кода со всеми типами переменными, как двойной [] f1[0] = (f1_rot[0] * xu[0]) + (f1_rot[1] * yu[0]); f1[1] = (f1_rot[0] * xu[1]) + (f1_rot[1] * yu[1]); f1[

0зной

1ответ

Численная точность реализации для выпуклой квадратичной области

Я внедрил метод вычисления выпуклой квадратичной области в R3. Метод работает отлично, но у меня есть числовые задачи точности в восьмом десятичном разряде. Посмотрите на метод: internal static double

2зной

4ответ

Дифференциация между одинарной и двойной точностью

Тип данных Python float действительно использует с двойной точностью (64 бит). Тем не менее, для моей конкретной реализации (которая передает значения с типом значений через OSC), я хотел бы различать

0зной

2ответ

Java round() с двойным

im пытается запрограммировать небольшую программу java, которая находит нулевые точки в заданной функции f (x). Это моя идея: У меня есть X1 и X2 (вход пользователя), чтобы определить область, где иск

1зной

2ответ

точность в python до 50 знаков после запятой

Я пытаюсь код, чтобы узнать радиус внутренних дерных кругов, код работает нормально, но я не получаю требуемую точность, я хочу, чтобы ответ был усечен до 50 цифр Пожалуйста, предложите, как я могу по

0зной

2ответ

Как сравнить двойные числа?

Я знаю, что, когда я хотел бы проверить, если двойной == двойной я должен написать: bool AreSame(double a, double b) { return fabs(a - b) < EPSILON; } Но что, когда я хотел бы проверить, если

2зной

1ответ

Точные проблемы с MPI_REDUCE

Я сталкиваюсь с проблемами точности с MPI_REDUCE() в fortran. Я проверил два метода суммирования чисел двойной точности, хранящихся на каждом узле. Линии MPI_REDUCE() я использую call MPI_REDUCE(num,t