double-precision

2зной

5ответ

Мне хорошо известно разницу между 0 и 0.0 (int и double). Но есть ли разница между 0. и 0.0 (обратите внимание на.)? спасибо заранее, Axel

17зной

4ответ

Имитация разрыва двойника в C#

Я работаю на 32-битной машине, и я могу подтвердить, что длинные значения могут разорвать, используя следующий фрагмент кода, который очень быстро попадает. static void TestTearingLong() {

1зной

4ответ

двойная гранулярность, влияющая на числовые сравнения C++

Ниже приведен тестовый блок кода, который должен определять эквивалентность 2 двухместных номеров в пределах допуска. double lhs_1 = 0.02; double lhs_2 = 0.04; double rhs = 0.03; double tolerance =

20зной

8ответ

Как правильно и стандартно сравнивать поплавки?

Каждый раз, когда я начинаю новый проект, и когда мне нужно сравнить некоторые терки или двойные переменным я пишу код, как этот: if (fabs(prev.min[i] - cur->min[i]) < 0.000001 && fabs(prev.max[i

1зной

1ответ

Сравнение с двойной точностью в сравнении изображений

Я действительно слаб с математикой и имею проблему с алгоритмом изменения размера изображения. Я пытаюсь изменить размер изображения до определенного соотношения. double neededRatio = 1.6d; while (!A

1зной

1ответ

Matlab: Сохранение больших чисел в Matlab

Для хранения большого числа Я ссылаюсь к следующему: 2.7182818284590455348848081484902650117874145507812500 Я не могу сохранить это с double precision floating-point format (IEEE754) Спасибо.

10зной

3ответ

Почему программа C++, скомпилированная для платформы x64, медленнее, чем скомпилирована для x86?

Я написал программу и скомпилировал ее для платформы x64 и x86 в Visual Studio 2010 на Intel Core i5-2500. Для версии x64 требуется около 19 секунд, а x86 занимает около 17 секунд. Что может быть прич