double-precision

1зной

3ответ

двойной точности ошибка при использовании DISLIN

я получаю следующее сообщение об ошибке при попытке компиляции: call qplot (Z, B, m + 1) 1 Error: Type mismatch in argument 'x' at (1); passed REAL(8) to REAL(4) Все вроде бы в двойной точно

2зной

2ответ

iOS: предельная точность типа данных «double» без преобразования в NSString

Здесь у меня есть запрос о том, как double работает с их точностью. Я создал образец где я вошел двойные значения, как показано ниже: double d = 2.0126161; double d1 = 2.0126162; double d2 = 2.01261

1зной

2ответ

Библиотеки с двойной точностью DISLIN

Я пытаюсь скомпилировать программу, написанную в FORTRAN, которая графически отображает графики с использованием библиотек DISLIN, но все данные имеют двойную точность. Я не могу потерять эту точность

-2зной

1ответ

Точность вычислений

Я делаю расчет в Fortran на переменной с двойной точностью, а после вычисления переменная получает значение -7.217301636365630e-24. Однако, когда я делаю то же вычисление в Matlab, переменная получает

0зной

1ответ

Как получить точность Fortran в MatLAB

У меня есть часть кода, написанная в Фортране и в Matlab. Они делают точно такой же расчет, а именно Построить tanh -поле и найти ее лапласианом Multiply некоторые термины вместе В результате этого ум

-2зной

1ответ

Таблица Excel не дает того же ответа, что и программа C#

У меня возникли проблемы со следующим кодом. Он не дает того же ответа в excel, что и C#, и я уверен, что правильный ответ правильный. Я уже пытался изменить целочисленные значения на двойные, добавив

5зной

1ответ

Путаница о видах в FORTRAN

Я уже более двух лет пишу код FORTRAN для численного моделирования прикладной физики, и я попытался выполнить соглашения, описанные в Fortran Best Practices. Более конкретно, я определил параметр как

1зной

2ответ

Понимание DBL_MAX

Я только что прочитал о стандарте IEEE 754, чтобы понять, как реализованы плавающие точки single-precision и double-precision. Так что я написал это, чтобы проверить мое понимание: #include <stdio.h>