rounding

0зной

7ответ

ASP Round функция не ведет себя, как и ожидалось

Я округление моих десятичных значений целых значения Ex: У меня есть 5 чисел,% сумма должна в конечном итоге 100%, но я получаю 101% мои ценности 11.11111, 80.55555, 5.55555, 2.77777 и округление их

2зной

4ответ

Согласованное округление плавающих точек в Ruby

Я понимаю из-за неточного представления плавающих точек, следующий код «чувствует» непоследовательность. "%.1f" % 1.14 # => 1.1 "%.1f" % 1.15 # => 1.1 "%.1f" % 1.16 # => 1.2 "%.0f" % 1.4 # => 1 "%

1зной

1ответ

Как мне «округлить» число до конца на определенные цифры?

Мне нужна математическая функция/формула/выражение, чтобы взять число как параметр и найти наименьшее число, заканчивающееся на определенные цифры, которые больше, чем параметр. Например, если конечны

32зной

7ответ

Почему языки программирования округляются до 0,6?

Если вы поместите десятичную дробь в формате, где нужно округлить до ближайшего 10-го, а это: 1.55, оно будет округлено до 1.5. 1.56 округляется до 1.6. В школе я вспоминаю, что вы собрались, когда до

1зной

1ответ

Проблема округления SQL Server Ищете объяснение

Я решил эту проблему, но мне просто интересно, почему это работает так, как она. У меня есть временная таблица, которую я выбираю, и я ищу для отображения имени, количества записей, соответствующих эт

8зной

2ответ

Ruby BigDecimal Round: Это ошибка?

При написании теста со значением, которое представляется в виде BigDecimal, я столкнулся с чем-то странным и решил в него разобраться. Короче говоря, «0.00009» при округлении до двух знаков после запя

125зной

9ответ

Округление поплавка в рубине

У меня проблемы округления. У меня есть float, который я хочу округлить до сотых десятичных знаков. Тем не менее, я могу использовать только .round, который в основном превращает его в междунар, что о

2зной

6ответ

PHP округления чисел

Я не могу понять, как всегда округлить в PHP. ceil() был бы очевидным выбором, но мне нужна такая же функциональность, что и round() имеет второй параметр «точность». Вот пример: // Desired result:

9зной

4ответ

Как лучше всего аппроксимировать округление десятичных знаков в C#

У меня десятичное значение 18.8. Значения, которые хранятся в этой переменной, могут быть любого типа. Например, это может быть 1.0000000 или 1.00004000 или 5.00000008. Я хотел бы написать метод, чтоб

2зной

6ответ

Как округлить DateTime в MySQL?

Я хочу дискретировать DateTime с разрешением 5 минут. Я сделал это на C#, но как преобразовать следующий код в MySQL? DateTime Floor(DateTime dateTime, TimeSpan resolution) { return new DateTime