floating-accuracy

3зной

3ответ

номера печати с постоянной или фиксированной точностью

Эти три номера 1.2, 0.0034, 56000 все имеют одну общую черту: две цифры точность. Допустим, я хочу сообщить расчетную полосу пропускания нескольких очень разных устройств, которые колеблются от килоба

0зной

1ответ

Java float to long explicit cast

Я хотел бы понять, как i в этом фрагменте кода составляет 99999904? long i = (long)(99999900f); System.out.println(i); Я понимаю, что поплавки хранятся с десятичными знаками и не точное значение он

1зной

3ответ

Является ли неточность двойного значения гарантированной согласованностью на одной машине?

Мы знаем, что double s теряют точность их значения при увеличении числа десятичных точек. Но если я использую одно и то же значение double дважды на той же машине, я буду гарантированно, чтобы иметь т

3зной

2ответ

Является ли 32-разрядное нормализованное число с плавающей запятой, которое не было включено, то же самое на любой платформе/компиляторе?

Например: float a = 3.14159f; Если бы я был проверять биты в этом номере (или любое другое нормализованного число с плавающей точкой), каковы шансы того, что биты различны в какой-либо другой комбин

3зной

1ответ

Точность, потерянная при использовании read_csv в pandas

У меня есть файлы ниже формата в текстовом файле, который я пытаюсь прочитать в dataframe pandas. 895|2015-4-23|19|10000|LA|0.4677978806|0.4773469340|0.4089938425|0.8224291972|0.8652525793|0.682994286

4зной

3ответ

Почему 1 // 0.05 приводит к 19.0 в python?

Я новичок в Python и я нашел запутанным результат при использовании Python3.5.1 на мой макинтош, я просто запустил эту команду в моем терминале 1 // 0.05 Однако, напечатанное 19,0 на моем экране. С