floating-accuracy

0зной

1ответ

CPU против точности плавающей запятой GPU матрицы MVP

У меня есть проблема, которая, как я полагаю, связана с ошибками с плавающей запятой в CPU. В настоящее время я работаю над shadowmaps и сначала я имел расчеты MVP на GPU, например layout(location = 0

opengl math floating-accuracy glm-math shadow-mapping 2015-07-17

---

0зной

1ответ

Невозможно установить NSNumber numberWithFloat

Я не могу установить атрибут объекта, как это: NSLog(@"setting: %f", tempVal); self.device.mainProperty.wanted = [NSNumber numberWithFloat:tempVal]; NSLog(@"set: %f", self.device.mainProperty.wanted

ios objective-c floating-accuracy nsnumber 2015-07-28

---

-1зной

2ответ

IEEE754 поплавок точка точность теряется вычитание

Вот вычитанием Первый номер Decimal 3.0000002 Hexadecimal 0x4040001 Binary: Sign[0], Exponent[1000_0000], Mantissa[100_0000_0000_0000_0000_0001] второй номер вычесть: Decimal 3.000000 Hexadecima

c++ floating-point floating-accuracy floating-point-precision 2015-07-28

---

5зной

1ответ

Почему два поплавковых переменные со значениями PHP_INT_MAX одинаковы, если один из них не добавляют значение больше, чем 1025

<?php $x=PHP_INT_MAX; echo ((float)($x+1026)==(float)($x))?'EQUAL':'Not Equal'; Я знаю арифметику с плавающей точкой не является точным и $ х и $ х + 1 так близко друг к другу, что они закруглены

php floating-point floating-accuracy floating-point-precision 2015-08-02

---

0зной

1ответ

дополнение breaks «if» statement в фрагменте shader

Я испытываю странное поведение в своих шейдерах фрагментов. Если я тест 3 значения отдельно, мой «если» заявление проходит, как и ожидалось, и рисует зеленый квадрат правильно: if(column == 324. && ro

glsl webgl precision floating-accuracy fragment-shader 2015-08-14

---