mantissa

3зной

2ответ

vb.net mantissa и подсчет экспонентов из double

Может ли кто-нибудь предложить какие-либо советы о том, как получить мантиссы и экспонента из двойника в VB.net? Я знаю, что могу выполнить синтаксический анализ строки и некоторое преобразование в in

vb.net math exponent mantissa 2010-10-18

---

2зной

1ответ

Shader Время Uniform - clock_gettime усекается

Возьмите эту функцию время, получая в качестве двойного использования clock_gettime: // return current time in milliseconds static double time_get_ms(void) { struct timespec res; #ifdef ANDRO

time glsl clock mantissa 2012-03-01

---

2зной

4ответ

Каков наиболее эффективный способ преобразования целого числа в дробную часть числа в javascript?

Я хочу преобразовать целое число в дробную часть числа с помощью javascript. Например: 10030 -> 0,10030 123 -> 0,123 Я придумал два способа сделать это: var convertIntegerPartToFractionalPart1 = funct

javascript node.js integer decimal mantissa 2013-05-24

---

3зной

1ответ

В Matlab как использовать переменные для чисел в научной нотации (matissa и exponent)?

Я использую Matlab и используя номера в scientific notation, которые обозначены буквой e для экспоненты. Пример в Matlab: >> 2e5 ans = 200000 Теперь хотел бы работать с числами в научной нотации,

matlab exponent mantissa 2012-03-11

---

1зной

2ответ

Анализ числа с плавающей запятой с мантиссой в Java

Использование стандартного класса Java Double для разбора числа с плавающей запятой с мантиссой, кажется, пропускает знак + из показателя экспоненты. Например: Double.parseDouble("1258124354E-28") ret

java floating-point double bigdecimal mantissa 2012-06-22

---

1зной

1ответ

Какао: NSDecimalNumber с мантиссой и показатель 0

Математически любое число с показателем 0 должно равняться 1 (мое коррекционное математическое исследование уверяет меня). Но этот код производит 5: [NSDecimalNumber decimalNumberWithMantissa:5 expone

objective-c cocoa exponent nsdecimalnumber mantissa 2010-01-13

---

6зной

1ответ

GCC Обработка поплавков по-разному на разных уровнях оптимизации

У меня есть простой код, который сравнивает два значения float, чтобы проиллюстрировать проблему, которую я вижу при оптимизации GCC, и надеюсь, что кто-то может помочь мне понять, почему вывод, котор

linux gcc floating-point equals mantissa 2010-09-21

---

4зной

5ответ

Упаковка 32bit плавает в 30 бит (C++)

Вот цели я пытаюсь достичь: мне нужно упаковать 32 бит IEEE парит в 30 бит. Я хочу сделать это, уменьшив размер мантиссы на 2 бита. Сама операция должна быть как можно быстрее. Я знаю, что некоторая т

c++ floating-point ieee-754 packing mantissa 2010-10-02

---