integer-overflow

0зной

1ответ

Python float overflow, что происходит при переполнении float?

Я смотрел вывод из кода ниже. Когда я увеличиваю 1 до максимального значения float, результат, похоже, будет тем, что я ожидал бы, но когда я делаю x = x * 1.5, тогда я вижу inf как вывод, который я б

python integer-overflow 2016-03-06

---

1зной

1ответ

Integeroverflow при попытке больших значений - алгоритм факторизации

Я пытался реализовать метод факторизации Ферма (см https://en.wikipedia.org/wiki/Fermat%27s_factorization_method), вот код: import math def is_square(apositiveint): x = apositiveint // 2 se

python python-3.x rsa integer-overflow 2016-03-09

---

3зной

3ответ

Можно ли разрешить Integer Overflow в Excel VBA?

Довольно просто, но я не нашел ничего от Google. Пример того, что я хочу, чтобы это произошло: Function myFunc() Dim a As Integer Dim b As Integer Dim c As Integer a = 20000

excel vba excel-vba integer-overflow 2016-03-15

---

-1зной

4ответ

переполнение целочисленного и разница между Pow() и умножением

Когда я попытался это умножение компилятор дал ошибку Целочисленного переполнения int main(){ long long int x; x = 55201 * 55201; printf("%lld", x); return 0; } Но когда я сдела

c integer-overflow 2016-03-29

---