floating-accuracy

1зной

2ответ

У меня возникли проблемы с пониманием некоторых результатов, которые я получаю при работе с Python 2.7. >>> x=1 >>> e=1e-20 >>> x+e 1.0 >>> x+e-x 0.0 >>> e+x-x 0.0 >>> x-x+e 1e-20 Это копир

1зной

2ответ

Payne Hanek в C

Я изо всех сил, чтобы понять, как реализовать алгоритм сокращения диапазона, опубликованный Payne и Hanek (уменьшение диапазона для тригонометрических функций) Я видел там эта библиотека: http://www.n

1зной

3ответ

Больше cttypes c_float() precision

Я использую библиотеку ctypes Python для вызова своего кода на C. Моя проблема в том, что когда я пытаюсь создать c_float, я, кажется, получаю немного другое значение для того, что я установил. Наприм

1зной

2ответ

PHP floatval странный парсинг

У меня есть несколько расчетов на стороне клиента с JavaScript. var total = (((3 * 24)/100) + 3); // результат 3.7199999999999998 Мне нужно сохранить этот номер 3.7199999999999998 в базе данных, как е

2зной

4ответ

Использовать более высокую точность, чем требуется при вычислении суммы

Полезно ли использовать большую точность при вычислении суммы и уменьшении точности в конце алгоритма? Как float average(const float* begin, const float* end) { double sum=0; size_t N=e

-2зной

1ответ

Вызов текстового файла

, если у меня есть текстовый файл, который имеет три колонки сказать 1 2 1 3 1 1 2 3 1 , а также имеют матрицу s = [0.3 0.4 0.6 0.1 0.5 0.7

2зной

1ответ

Разделение числа с плавающей запятой на сумму двух других чисел без ошибок округления

Я не знаю, можно ли это сделать, но мне нужно разбить число с плавающей запятой в сумме двух чисел ... Например предполагающей х этого число с плавающей точкой, и мы хотим, чтобы разделить это в х = I

5зной

1ответ

Может ли исполняемый файл в Linux влиять на точность с плавающей запятой в связанной динамической библиотеке?

Мы столкнулись с проблемой точности с плавающей точкой в динамической библиотеке. Множество вверх выглядит следующим образом: Мы имеем динамическую библиотеку, которая выполняет вычисления X на боль