fixed-point

38зной

9ответ

Каков наилучший способ сделать математику с фиксированной точкой?

Мне нужно ускорить программу для Nintendo DS, у которой нет FPU, поэтому мне нужно изменить математику с плавающей запятой (которая эмулируется и медленно) на фиксированную точку. Как я начал было я и

c++ fixed-point 2008-09-17

---

11зной

8ответ

Инвертировать матрицу 4x4 - Нужно числовое наиболее стабильное решение

Я хочу инвертировать матрицу 4x4. Мои номера хранятся в формате с фиксированной точкой (точнее, 1.15.16). С арифметикой с плавающей запятой Я обычно просто строил сопряженную матрицу и деля по детерми

language-agnostic matrix linear-algebra fixed-point matrix-inverse 2008-10-01

---

1зной

3ответ

Ошибка CASTing значение для FLOAT в SQL Server 2005

Я пытаюсь получить хранимую процедуру для работы сослуживца, который из-за болезни (и, следовательно, не может быть предложено руководство). У меня есть база данных SQL Server 2005 с такой точной проц

sql-server-2005 casting floating-point fixed-point 2008-11-21

---

20зной

6ответ

Преобразование с плавающей точкой в ​​фиксированную точку

В C++, каков общий способ преобразования любого значения с плавающей запятой (float) в fixed point (int, 16:16 или 24: 8)? EDIT: Для уточнения значения фиксированной запятой имеют две части: целую час

c++ fixed-point 2008-10-09

---