double-precision

0зной

2ответ

определить текущую точность/эпсилон переменной с плавающей запятой

Я пытаюсь отделить два удвоения равного значения на минимальную сумму. Контекст - это симуляция событий. Я не хочу, чтобы события происходили в одно и то же время, поэтому я увеличиваю время, в течени

1зной

3ответ

Прецизионная потеря с java.lang.Double

Скажем, у меня есть 2 double значений. Один из них очень большой, и один из них очень маленький. double x = 99....9; // I don't know the possible max and min values, double y = 0,00..1; // so just as

3зной

1ответ

Как вы используете double в OpenCL на MacPro?

У меня есть Mac Pro (конец 2013 года), и я хочу сделать математику в двойном использовании с помощью OpenCL. Когда я использовал Mavericks, CL_DEVICE_EXTENSIONS для моего графического процессора FireP

2зной

1ответ

Какова точность std :: erf?

C++ 11 представил очень полезные математические функции в стандарте, такие как erf и erfc. Существуют упоминания о «гарантированном недоиспользовании» для ввода большего или меньшего, чем определенные

0зной

1ответ

Найти исходный номер (идентификатор пользователя Facebook), который был изменен путем двойного округления данных. C#

Я разработал приложение, в котором имя пользователя и идентификатор пользователя пользователя сохранено в качестве системы аутентификации. Я сохранил идентификаторы как двойные значения в сценарии C#.

1зной

3ответ

Наиболее эффективный алгоритм для поиска максимума значений двойной точности

Каков наиболее эффективный способ нахождения максимального значения в наборе переменных? Я видел решения, such as private double findMax(double... vals) { double max = Double.NEGATIVE_INFINITY; for

1зной

1ответ

Oracle 11g -> Клиент Oracle -> Pro * C Программа двойной точности представления

ЧИСЛО (12,3) поле в 11g R2 Oracle DB например хранит число 271,448 Это извлечена из курсора в a double переменная в 32-битном Pro * C (версия 11.1.0.6). Предварительно обработанная программа C с Visua

21зной

4ответ

Почему добавление double.epsilon к значению приводит к тому же значению, совершенно равному?

У меня есть модульное тестирование, тестирование границы: [TestMethod] [ExpectedException(typeof(ArgumentOutOfRangeException))] public void CreateExtent_InvalidTop_ShouldThrowArgumentOutOfRangeExcep

1зной

2ответ

Оцените размер двоичного файла

Я очень смущен об этом. Я вывожу 3D-массив размером 16000 * 4 * 2, все элементы которого являются DOUBLE PRECISION, и я подумал, что должен получить файл размером: 16000 * 4 * 2 * 8 байт/дп = 1 024 00