rounding-error

1зной

1ответ

Math.pi vs Double and rounding через printf в java

Я чувствую, что здесь что-то не хватает, но я не совсем уверен, что и я относительно новый, поэтому у меня возникают проблемы с поиском точно, что может быть вызывая это. ява фрагмент следующим образо

2зной

1ответ

Каков наилучший способ объединить двойной или плавающий в Scala?

// Purpose: Determine attendance based on ticket-price // Example: attendance(4.90) == 135 def attendance: Double => Int = { (ticket_price: Double) => { 120 + math.ceil(150 * (5.0

1зной

1ответ

SQL Server не удается найти запись, содержащую Float значение, которое он Возвращается

У меня есть запрос, похожее на это: SELECT SpecimenID, TestPeriodID, Grams, ConsumptionRate FROM LabData WHERE TestPeriodID = 255 AND TestID = 1 AND Grams = 728560 Рекорд, который возвращается им

2зной

1ответ

Почему некоторые дубликаты автоматически округляются при печати на консоль?

Скажем, у меня есть следующий код: double factor; double num = 4.35; BigDecimal y = new BigDecimal(num); BigDecimal n = new BigDecimal(factor); BigDecimal asBigDecimal = y.multiply(n); double asD

0зной

2ответ

Java делает математику не так, как ожидалось

У меня эта действительно странная проблема с Java. Основном, это то, что происходит: int i = (int) Math.ceil((30 * 50)/1000); который был бы таким же, как int i = (int) Math.ceil(1.5); но он не во

1зной

1ответ

Perl округления ошибка для PRINTF/Sprintf

Может кто-нибудь объяснить, как это так: #!/usr/bin/perl -w my $amount = 74.32 * 100.00; printf "Unformatted Amount:${amount}:\n"; printf " Formatted Amount:%.11d:\n", $amount; Выходы этот: $ ./

0зной

3ответ

Ошибка ошибки с плавающей запятой

Я пытаюсь понять эту проблему с плавающей точкой в javascript. Это пример того, что я хочу сделать: var x1 = 0 for(i=0; i<10; i++) { x1+= 0.2 } Однако в таком виде я получаю ошибку округл