ieee-754

5зной

6ответ

Как сохранить число с плавающей запятой в 2 байта?

Да, я знаю стандарт полуточности IEEE-754, и да, я знаю о работе, выполненной в этой области. Проще говоря, я пытаюсь сохранить простой номер с плавающей запятой (например, 52.1, или 1.25) всего за 2

c# binary floating-point ieee-754 numerical 2012-05-02

---

3зной

4ответ

Как определить последнюю отличную от нуля десятичную цифру в поплавке?

Я пишу библиотеку для печати и форматирования с плавающей точкой и хочу избежать печати завершающих нулевых цифр. Для этого я хотел бы точно определить последнюю ненулевую цифру в пределах первых N де

c++ floating-point ieee-754 2012-05-11

---

10зной

3ответ

Переносная сериализация значений с плавающей запятой IEEE754

Я недавно работал над системой, которая должна хранить и загружать большое количество данных, включая значения с плавающей запятой с одинарной точностью. Я решил стандартизировать сетевой порядок байт

c floating-point portability ieee-754 endianness 2012-05-16

---

8зной

1ответ

Расчеты с плавающей точкой IEEE-754, равенство и сужение

В следующем коде функции foo1, foo2 и foo3 должны быть эквивалентными. Однако, когда запуск foo3 не заканчивается из цикла, есть ли причина, почему это так? template <typename T> T foo1() { T x

c++ floating-point undefined-behavior ieee-754 2012-05-23

---

1зной

2ответ

Как преобразовать float в BCD

Как преобразовать положительный поплавок (т.е. 754, одинарная точность 32 бит) в BCD в C#? UPDATE Если я не ошибаюсь, то, что мне нужно, называется упакована BCD. Я уже делаю int для конверсий BCD. В

c# floating-point ieee-754 bcd 2012-05-23

---