floating-accuracy

4зной

2ответ

Завершает ли Java Math.pow результат?

Сегодня я натолкнулся на своеобразное поведение Math.pow(). Я не могу понять, вывод следующего кода Java: long N1 = 999999999999999999L; System.out.println("N1 : " + N1); long N2 = (long) Math.pow(

java math floating-accuracy pow 2014-12-28

---

9зной

2ответ

Почему эти два float64 имеют разные значения?

Рассмотрим эти два случая: fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01) (Go Playground link) второй отпечатки 9.120000000000001, что на самом деле хорошо, I understand why that is happe

go floating-point floating-accuracy 2015-01-07

---

2зной

2ответ

PHP Printf As Float Precision

Я пытаюсь использовать функцию PHP printf, чтобы распечатать емкость хранилища. Полная формула выглядит следующим образом: echo printf("%.02f", ($size/(1024*1024))) . " GB"; Учитывая, что $size == (

php floating-point printf floating-accuracy 2015-01-11

---

0зной

1ответ

Добавление нескольких чисел с десятичной показывает длинный след цифр

я пытаюсь добавить несколько десятичных чисел от поля ввода формы, которая, как: var total = Number(11000.2)+Number(10000.1)+Number(10762.4); consol.log(total); пультовой показывает 31762.700000000

floating-point numbers floating-accuracy 2015-01-16

---

0зной

3ответ

Ошибка Java при простом умножении

В настоящее время я изучаю Java. Я просто запустить следующую строку в Eclipse, в Win7 с помощью jre1.8.0_25: System.out.println(4.5 * 7.9); Выход консоли: 35.550000000000004 Я просто интересно, поч

java floating-accuracy 2015-01-30

---