floating-accuracy

2зной

1ответ

Почему 9.0 + 4.53 + 4.53 дают 9.05, когда β = 10 и p = 3?

Я читаю этот параграф в Что каждый ученый должен знать о арифметики с плавающей точкой: (6) (Предположим, что треугольник является очень плоской, то есть, ≈ b + c. Затем s ≈ a, и член (s-a) в формуле

floating-point precision floating-accuracy 2016-01-23

---

1зной

1ответ

Сериализация поплавков в PHP - Неожиданные результаты

Я пишу serialize() синтаксический анализатор/валидатор, и я наткнулся на это (несколько неожиданное поведение): $float = 875.6745; echo "serialize({$float}) === " . serialize($float) . "\n"; echo "(

php serialization floating-point floating-accuracy 2016-01-25

---

4зной

1ответ

Точность JavaScript

Многое было сказано по теме, однако я не смог найти точный ответ на мой вопрос. JavaScript не может точно представлять десятичные числа, такие как 0,1, и это понятно. Например это верно из-за ошибки о

javascript precision floating-accuracy ieee-754 2016-02-13

---

21зной

6ответ

Эффективное вычисление (a - K)/(a ​​+ K) с улучшенной точностью

В различных контекстах, например, для уменьшения аргумента для математических функций, необходимо вычислить (a - K)/(a + K), где a является аргументом положительной переменной, а K является постоянная

c algorithm floating-point floating-accuracy 2016-02-16

---

3зной

3ответ

Java BigDecimal - объяснение необходимости

я использую BigDecimal, но я все еще получаю разные результаты для двух различных (математически идентичных) выражений: Первое выражение: PI - (10^(- 14)/PI) Второе выражение: (PI^2 - 10^(- 14))/PI Вы

java floating-point bigdecimal floating-accuracy 2016-02-17

---

0зной

1ответ

Потеря точности в stringstream

В одном из моих приложений я пытаюсь поставить значение с плавающей запятой в строке поток, как это: stream << static_cast<float>(double value); Вместо того, чтобы все значения с плавающей точкой я

c++ floating-point floating-accuracy stringstream static-cast 2016-02-18

---