precision

2зной

5ответ

Я создаю функцию, чтобы определить, является ли число корнем (не уверен, является ли это правильным термином) другого числа. def isRoot(n, root): return not math.log(n, root)%1 По большей части

0зной

3ответ

Работа с повышенной точностью иррациональных чисел в python

Я пытаюсь сделать continued fraction derivation иррациональных чисел, например. sqrt (13), с Python. Я получил довольно хорошее решение, которое является точным в течение первых 10 или около того итер

-2зной

1ответ

В C как работает плавающий или двойной тип?

Теперь я изучаю C в университете. Я создаю непредвиденное поведение в float-типе. Это пример кода: #include <stdio.h> int main(void) { float f = 100.0/3; printf("%.20f", f); } Истинный р

0зной

1ответ

максимальное число битов допускается после десятичной точки в длинных двойной в C++

я решил проблему посещения http://www.spoj.com/problems/CHI_ROOT/ (найти п-й корень из числа и напечатать первые 101 значащие цифры результата , без десятичной точки, конечные и ведущие нули) с исполь

2зной

1ответ

float (0.0) vs 0.0f в CUDA

Я хочу написать код, действительный как для float, так и для двойной точности. я делаю что-то вроде этого: typedef real float; //typedef real double; __global__ void foo(real a, real *b){ b[0]

0зной

1ответ

Реализация __eq__ с использованием numpy isclose

Я боюсь, что это может быть закрыто как вопрос мягкий, , но, возможно, есть очевидный идиоматический путь. У меня есть класс, который содержит много информации, хранящейся в числах с плавающей запятой

0зной

2ответ

Как отправить несколько разных значений с плавающей запятой или десятичной точкой последовательно в Arduino?

Я пытаюсь отправить два разных десятичных значения последовательно Arduino. Значения, которые отправляются в Arduino, разделяются запятой (,): . 1.23.4.56 Моя проблема в том, что, когда значения прини