rounding-error

14зной

2ответ

Я прочитал данные, хранящиеся в формате DECIMAL из таблицы MySQL. Я хочу, чтобы делать расчеты по этим номерам R. Я использовал, чтобы бросить их в Numeri represaentation с помощью as.numeric(), но до

9зной

4ответ

Как справиться с бесконечно повторяющимися числами как десятичными знаками?

Когда деление приводит к бесконечно повторяющемуся числу, число, очевидно, усекается, чтобы вписаться в размер десятичной дроби. Так что что-то вроде 1/3 становится чем-то вроде 0.3333333333333333333.

0зной

1ответ

Округление до 2 знаков после запятой с использованием VBA

Я пишу программу, которая суммирует информацию, которую я вводил в месяц (столбец) и человеком (рядом), но у меня возникают проблемы с проблемой округления. Я видел другие места, которые можно назвать

2зной

1ответ

Quarterion мгновенный числовой дрейф

Я разворачиваю кватернион с небольшими изменениями, созданными с пользовательского ввода мыши, где я создаю кватернион для добавления вращения по оси X и один для оси Y и объединяю эти вращения в один

0зной

1ответ

Excel 2003, не дающий мне 1 десятичный знак, когда

Я положил функцию «если», чтобы дать мне никаких десятичных знаков, если результат равен> 200, если не дать мне 1 десятичный знак. Он отлично работает, если только десятичный результат не равен .0, то

1зной

2ответ

Как я могу избежать смещения на уровне пола во время ориентации мыши на малых скоростях?

У меня есть простой алгоритм для объекта, который следует за указателем мыши при заданной максимальной скорости в Java. Суть алгоритма такова: // Set up displacement trackers for later. // (These are

-1зной

5ответ

Округление чисел в C#, создающих слишком много знаков после запятой

Я пытаюсь округлить float до 6 знаков после запятой. Преобразование из double в float, похоже, в значительной степени делает это, однако в процессе я заметил некоторые странности. Независимо от того,