floating-point

2зной

1ответ

Является ли экспоненциальный синтаксис (1e2) в литературных числах JavaScript частью спецификации IEEE 754?

Является ли экспоненциальный синтаксис (например, 1e2) в литературе JavaScript в части спецификации IEEE 754 или специфичной для JavaScript функции?

javascript floating-point 2016-12-26

---

0зной

1ответ

Как вывести значение float в C++?

Я пытаюсь сделать программу, которая использует последовательность Тейлора, чтобы приблизиться к e. Однако, я столкнулся с проблемой, которая заставляет меня чувствовать себя совершенно noobish на C++

c++ floating-point cout 2016-12-26

---

0зной

2ответ

Как удалить поплавки или уменьшить фактический размер файла функции кода? (Arduino)

Я пытаюсь получить код arduino для gemma, с неопикселями, который имеет 5310 байт памяти меньше, поэтому я могу получить больше вещей в программе. В настоящее время я пытаюсь удалить поплавки/уменьшит

arduino floating-point filesize 2016-12-26

---

3зной

3ответ

Кастинг между междунар, поплавком и двойной в C

Я не понимаю литье в C. Может кто-нибудь помочь мне с вопросом в книге Computer Systems: A Programmer's Perspective: Мы генерируем произвольное целое число значений х, у, и г, и преобразует их в значе

c floating-point ieee 2016-12-28

---

2зной

1ответ

Почему мой поплавок 999999999 стал 10000000000?

Когда я выполнить следующий код, он имеет проблему: float number = 999999999; printf("%lf", number); Результат является 10000000000 вместо 999999999. Почему это не так? 999999999?

c floating-point 2016-12-28

---

2зной

2ответ

G ++ видит float как незаконную инструкцию

В моем файле «six.cpp», я пытаюсь напечатать float, но компилятор продолжает выдавать ошибку. Вот файл «six.cpp»: #include <iostream> #include <iomanip> using namespace std; int main(){ doubl

c++ gcc floating-point g++ gnu 2016-12-29

---

1зной

1ответ

Понимание ulps в катастрофической отмены

Я читаю what every computer scientist should know about floating point, и я не понимаю следующее заявление: Катастрофическое сокращение происходит, когда операнды подлежат ошибки округления. Например,

math floating-point ieee-754 2016-12-29

---

0зной

3ответ

Почему функция пола дает разные результаты в этом случае?

В этом примере поведение floor различен, и я не понимаю, почему: printf("floor(34000000.535 * 100 + 0.5) : %lf \n", floor(34000000.535 * 100 + 0.5)); printf("floor(33000000.535 * 100 + 0.5) : %lf \n"

c floating-point rounding 2016-12-30

---