double-precision

0зной

1ответ

Mysql DOUBLE данных столбца с усеченным исключением с использованием Java Double

У меня есть таблица MySQL с столбцом Double datatype, когда я вставляю значение, содержащееся в Java Double. Я всегда получаю ошибку усечения. Mrz 19, 2015 11:26:00 AM databaseimport.MyImport ExecuteQ

-3зной

1ответ

FORTRAN - Правильные значения рассчитываются в простой точности, но ошибочные решения с двойной точностью?

У меня есть следующий код, относительно метода Ньютона для вычисления нулей в многофакторных векторных функций: program Newton_Method_R_N_R_N_1_Numeric use Inverse_Matrices implicit none integer

2зной

1ответ

Как получить мантиссою и экспоненту двойника силой 10?

Я видел функцию double frexp (double x, int* exp);, которая разбивает двойное на мантиссою (m) и показатель степени (e) с мощностью 2 (1.m * 2^e). Есть ли аналогичная функция, которая возвращает значе

3зной

4ответ

Java DecimalFormat потери точности при форматировании двойной

Когда я выполнить следующий код: public class Test { public static void main(String args[]){ DecimalFormat format = new DecimalFormat(); Double value = new Double(-1350825904190559999

0зной

2ответ

Как преодолеть неточность двойной точности?

Моя функция, чтобы избавиться от дробной части двух дублей при сохранении их соотношения: void enlarge(double &a, double &b) { while (a != trunc(a) || b != trunc(b)) { a *= 10;