floating-accuracy

0зной

1ответ

Как определить ошибку при вычислениях с плавающей запятой?

У меня есть следующее уравнение я хочу реализовать в арифметики с плавающей точкой: Уравнение: SQRT ((аb)^2 + (CD)^2 + (ФЕ)^2) Я мне интересно, как определить, как ширина мантиссы влияет на точность р

math binary floating-point floating-accuracy ieee-754 2015-10-03

---

2зной

1ответ

32-разрядный номер IEEE с одиночной точностью

Что такое десятичное значение для 32-разрядный IEEE номер компьютера с одной точностью 10111000111001100110011001100110? Я понимаю, что я должен разделить двоичный файл: 1 01110001 и 11001100110011001

floating-point precision floating-accuracy 2015-10-10

---

0зной

2ответ

MySQL Множество столбцов с плавающей точкой: 1 * 7.6 дает 7.599999904632568?

Когда я сделать запрос SELECT 1*7.6, это Гав мне 7.6 Но когда я делаю колонки умножения (products.commision * sold.amount): SELECT *, (products.commision*sold.amount) as fee FROM sold RIGHT JOIN pr

mysql floating-accuracy multiplying 2015-10-14

---

4зной

2ответ

Почему пол (0.99999999999999999) = 1 и пол (0.9999999999999999) = 0?

Функция пола в PHP ведет себя странно. Для 16 десятичных значений оно дает значение полов, но при увеличении на 1 десятичный округ. $int = 0.99999999999999999; echo floor($int); // returns 1 $int =

php rounding floating-accuracy floor ceil 2015-10-23

---

1зной

1ответ

Использование масштабированной толерантности для сравнения поплавков

Мне пришло в голову, что хорошим способом сравнения поплавков является масштабирование допуска с помощью поплавков. Это хорошая идея? Эта рутина должна быть расширена для специальных величин, таких ка

python floating-point compare floating-accuracy 2015-10-25

---