floating-accuracy

1зной

1ответ

std :: pow не возвращает ожидаемое значение int

Следующий код возвращает 99 в качестве вывода. #include<iostream> #include <math.h> using namespace std; int Solve(int a) { return (pow(a,2)); } int main() { int a=10; cout<<Solv

c++ floating-point rounding floating-accuracy c++-standard-library 2015-08-15

---

58зной

4ответ

Неточность в дробной .NET

Вчера во время отладки что-то странное случилось со мной, и я не могу это объяснить: Так может быть, я не вижу очевидного здесь или Я неправильно понял что-то о десятичном значении в .NET, но не долже

c# .net decimal floating-accuracy 2015-08-25

---

16зной

3ответ

C++ sqrt гарантированная точность, верхняя/нижняя граница

Я должен проверить неравенство, содержащее квадратные корни. Чтобы избежать неверных результатов из-за плавающей точкой неточность и округление, я использую std::nextafter() получить верхний/нижний пр

c++ c++11 floating-point floating-accuracy sqrt 2015-08-25

---

0зной

2ответ

Как обеспечить целочисленное деление дает правильные результаты?

Мне известно о том, что расчет с плавающей запятой, скорее всего, будет неточным. Например: var x = 100*0.333; Здесь х получает значение 33.300000000000004, а не 33. Это может показаться второстепен

javascript floating-accuracy integer-division 2015-08-26

---

16зной

1ответ

Когда использовать `зОго :: hypot (х, у)` `над стандом :: SQRT (х * х + у * у)`

documentation of std::hypot говорит, что: Вычисляет квадратный корень из сумма квадратов x и y без излишнего переполнения или недостаточного потока на промежуточных этапах вычисления. борется зачать т

c++ c++11 floating-accuracy 2015-09-07

---