integer-overflow

109зной

6ответ

(А + В + С) ≠ (А + С + В) и компилятор переназначения

Добавление двух 32-битных чисел может привести целое переполнение: uint64_t u64_z = u32_x + u32_y; Это переполнение можно избежать, если один из 32-разрядные целые числа сначала добавляются или доба

c++ c compiler-construction integer-overflow 2016-07-25

---

0зной

1ответ

Ошибка переполнения 6 Excel VBA

Я использую счетчик, чтобы отслеживать истинные/ложные условия в диапазоне, со значением этого счетчика, используемым для определения дальнейших действий. Тем не менее, я получаю ошибку переполнения д

vba excel-vba integer-overflow 2016-08-05

---

0зной

1ответ

Должен ли я использовать формат шестнадцатеричного числа в C для выполнения арифметики?

У меня есть вопрос о числах с цифрами и шестнадцатеричных числах и их использовании в арифметике в C. Из того, что я понимаю, подписанные числа обычно могут хранить меньшие числа, чем их неподписанные

c hex integer-overflow twos-complement 2016-07-07

---

1зной

2ответ

Почему -0x80000000 + -0x80000000 == 0?

Во время чтения книги о programmign трюков я увидел, что -0x80000000 + -0x80000000 = 0. Это не имеет смысла для меня, так что я написал быстро программу C ниже, чтобы проверить и действительно ответ 0

c integer-overflow 2016-07-10

---

3зной

4ответ

разность двух больших чисел C#

Там уже находятся решения этой проблемы для малых чисел: Здесь: Difference between 2 numbers Здесь: C# function to find the delta of two numbers Здесь: How can I find the difference between 2 values i

c# math difference integer-overflow 2016-08-01

---