double-precision

0зной

2ответ

Matlab и C++ матричный продукт: тот же вход, разные выходы

Я использую Matlab 2010 в моем ubuntu 12.04 на компьютере x86 и g ++ 4.6.3. это, как я делаю производство и входы: #include <Src/Tools/Math/Matrix_nxn.h> #include <iostream> using namespace

0зной

1ответ

Как перевести значение% a, данное printf?

Какова ценность 0x1.921fb82c2bd7fp+1 в удобной для человека презентации? Я получил это значение на printf, используя %a.

-2зной

2ответ

Visual Express 2010 двойная переменная точность

Я только что начал кодирование в C++, но имею довольно немного предыдущего опыта с MATLAB и MySql. Я пытаюсь вычислить некоторые составные числа, поэтому точность является ключевой. Я попытался сделат

0зной

3ответ

Объяснение 1 - 3 * (4/3 - 1) = 2.2204e-16 в Matlab

Я пытаюсь понять номера двойной точности в Matlab. Почему этот 1 - 3 * (4/3 - 1) не равен нулю?

0зной

2ответ

Понимание двойной точности операций в C

Я хотел бы понять, почему этот код: double r,d,rc; scanf("%lf %lf", &r, &d); rc = (r * r) - (d/2) * (d/2); printf("%.2f\n", M_PI * rc); возвращает более точный результат, чем этот (без rc присваи

0зной

2ответ

Как сопоставить двойное значение с плавающей точкой В Java?

На первый взгляд мой вопрос может показаться немного странным; но приведение значения double к float не является тем, что я хочу. Поскольку, когда вы его применяете, вы просто теряете определенную точ

3зной

3ответ

Переключение между поплавком и двойной точностью во время компиляции

Где я должен смотреть, хочу ли я переключаться между поплавком и двойной точностью во время компиляции. Например, если пользователь хочет, чтобы все в плавающей позиции вместо двойной точности, как я

2зной

1ответ

Порядок величины для двойной точности

Какой порядок разницы в величине следует ожидать для вычитания двух теоретически равных чисел двойной точности? У меня есть два массива с двойной точностью. Ожидается, что они будут теоретически таким

0зной

1ответ

Добавление контрольного ограничения для типа double precision в postgres

У меня есть координаты с двойной двойной точностью в столбце. Я хочу проверить длину (она должна быть 7) до десятичной точки (до десятичных знаков). Числа могут быть десятичные до 4. Моей первой мысль

0зной

1ответ

Двойные десятичные знаки для координат

Я пытаюсь преобразовать строку в двойное значение, чтобы использовать ее в качестве координаты в аннотации. Мне нужно двойное значение, чтобы на карте было размещено 5 знаков после запятой. Скажем, ст