floating-accuracy

7зной

1ответ

Могу ли я использовать pandas.dataframe.isin() с числовым параметром допуска?

Я рассмотрел следующие сообщения заранее. Есть ли способ использовать DataFrame.isin() с коэффициентом аппроксимации или значением допуска? Или есть другой способ? Filter dataframe rows if value in co

0зной

2ответ

Почему round (4.5) == 4 и round (5.5) == 6 в Python 3.5?

Похоже, как 4.5 и 5.5 имеют точное представление всплывают в Python 3.5: >>> from decimal import Decimal >>> Decimal(4.5) Decimal('4.5') >>> Decimal(5.5) Decimal('5.5') Если это так, то почему >

1зной

2ответ

Можем ли мы использовать строки для чисел с плавающей запятой с высокой точностью?

В настоящее время я программирую программное обеспечение, которое требует высокоточных чисел с плавающей запятой. Иногда мне нужна более высокая точность, чем может дать мне double. Я знаю, почему кла

2зной

2ответ

точность float32

Чтобы уменьшить размер файла, я пытаюсь сохранить данные float64 в файл в float32. Значения данных обычно варьируются от 1e-12 до 10. Я тестировал потери точности при преобразовании float64 в float32.

1зной

1ответ

Точность в делении и произведение на инверсию

Я пытаюсь оптимизировать кусок кода C, который я пишу, и я заметил, что продукты быстрее, чем деления. Это хорошо известная проблема и очень хорошо объясняется повсюду. С учетом этой оптимизации, учит

1зной

1ответ

Логарифм для целочисленной базы целого числа

Я хотел бы найти обратное округленное значение логарифма целого числа n для целочисленной базы b. Код: result = int(ceil(log(n, b))) Проблема в том, что иногда значение не может быть точно представл

0зной

1ответ

Как повысить точность итерации?

Я пытаюсь создать код, C++, чтобы построить набор Мандельброта. Однако всякий раз, когда я запускаю свой код, см. Ниже, конвергенция оставляет желать лучшего. Как это исправить? Я привел некоторый код