double-precision

-1зной

1ответ

Я хочу установить точность столбца в моей таблице hive, чтобы иметь точность 11 (11 мест после десятичной). Так что у меня есть двойной вар: var = 215.6666666666667 Я хочу, чтобы получить это до дву

1зной

2ответ

For-loop with double in Java

Проблема. У меня строка двойная «0.4 0.3 2.1 и т. Д.». Мне нужно зациклиться на этом списке и подсчитать случаи каждого числа. Я использовал StringTokenizer stokens = new StringTokenizer(values); whi

0зной

1ответ

Mixed точность присваивание

Я работаю с большим Fortran кода, который использует XLF компилятор для POWER7 Он использует эти флаги, чтобы установить точность до 64 бит: -qrealsize=8 -qintsize=8 Однако недавно импортировала кусок

-1зной

1ответ

Как использовать дважды, чтобы получить ожидаемый результат

Я пытался из вычитания чисел в Java, и это дает мне неожиданный результат public class FloatWeird { public static void main(String[] args) { double n = 1; for(int i = 0;i<10;i+

-2зной

1ответ

контроль переполнения и потери точности в то время как умножение парного

Ques: У меня есть большое количество чисел с плавающей точкой (~ 10000 номеров), каждый из которых имеет 6 цифр после запятой. Теперь умножение всех этих чисел даст около 60 000 цифр. Но двойной диапа

0зной

1ответ

Почему точность задач в числе с плавающей запятой зависит от значений?

мне было интересно, почему точность проблемы чисел с плавающей запятой отличаются с различными значениями: #include <iostream> #include <iomanip> int main() { std::cout << std::setprecision(2

-2зной

1ответ

Двойная печать с поплавком

Почему моя двойная переменная хранится и печатается как поплавок. Использование Xcode. #import <limits.h> #import <Foundation/Foundation.h> long double doubleTest = .123456789101112; float floatTe

-1зной

1ответ

C# double multiply получает дополнительную точность

после умножения на 2 двойника, он получает так много дополнительной точности. Затем он вызывает округление (до 2 десятичных). Где я должен получить 37.34, но вместо этого он дает 37.33. (Просмотр в ре

0зной

4ответ

Поплавок лучше, чем двойной, иногда?

Я решал эту проблему на spoj http://www.spoj.com/problems/ATOMS/. Я должен был представить интегральную часть log (m/n)/log (k) в качестве вывода. Я долго ждал m, n, k. Когда я вычислял это с использо