double-precision

0зной

2ответ

Точность Matlab linspace и range по сравнению с алгоритмом суммирования Kahan

Я использую функцию Matlab linspace и диапазон оператора : для получения равномерно расположенных векторов, но я не ожидаю получения неравномерно расположенных номеров. Мой код выглядит следующим обра

matlab parallel-processing floating-point vectorization double-precision 2013-04-19

---

1зной

2ответ

Интерпретировать распечатку денормализованного двойника в C++

Что это значит, когда программа на C++ печатает следующий номер, и в чем смысл H в конце? -6.38442e-86H Вся система является слишком большим, чтобы добавить здесь, однако вот код, который печатается к

c++ double-precision 2013-05-07

---

0зной

1ответ

Несоответствие типа данных в fortran

Я написал рудиментарный алгоритм в Fortran 95, чтобы вычислить градиент функции (пример которой предписан в коде), используя центральные различия, дополненные процедурой, известной как экстраполяция Р

floating-point gradient double-precision fortran95 2013-05-08

---

3зной

2ответ

String.Format (формат, doubleValue), точность потерял

У меня есть эта double значение: var value = 52.30298270000003 и когда я преобразовать его в string, она теряет свою точность: var str = string.Format("{0} some text...", value); Console.WriteLine(

c# double string.format double-precision 2013-05-09

---

2зной

1ответ

Модуль python, скомпилированный SWIG, возвращает неверный результат

Я просто играю вокруг SWIG, чтобы создать модуль python для конкретной библиотеки C. У меня возникли проблемы с двойными и плавающими переменными. Вот пример: /***** simple.c *****/ #include <stdio.h

python module swig double-precision 2013-04-07

---