precision

1зной

2ответ

Где мой недостаток в определении того, существует ли такое int N, что x1 + v1 * N = x2 + v2 * N

Итак, я пытался решить проблему, когда вы определяете, будут ли два кенгуру в конечном итоге приземляться в одной точке на в то же время, когда один начинается с позиции x1 и перемещается на расстояни

c# algorithm casting precision 2016-08-01

---

5зной

1ответ

Python scikit изучает многоуровневые метрические метрики производительности?

Я запустил классификатор Random Forest для моей многоклассовой многоэлементной выходной переменной. Я опустился ниже результата. My y_test values Degree Nature 762721 1 7 548912 0

python machine-learning scikit-learn precision multilabel-classification 2016-08-01

---

1зной

1ответ

Точность с плавающей запятой с временем - умножить на divide

Будут ли эти выражения выполняться с точно такими же результатами на разных платформах? currentTime = System . nanoTime () * 0.000000001f ; // 01 currentTime = System . nanoTime ()/1000000000f ;

java android precision 2016-08-01

---

14зной

3ответ

Как работает целочисленное деление C++ для предельных и отрицательных значений?

Я столкнулся с некоторыми странными результатами с целым делением на C++. Я пытаюсь вычислить это: -2147483648/-1. Что я получаю 3 разные результаты в 3-х различных сценариев: int foo(int numerator, i

c++ integer precision 16-bit integer-division 2016-08-04

---

0зной

2ответ

Представление с плавающей запятой (с использованием побитовых операторов)

Это решение проблемы для печати представления точки с плавающей точкой (т. Е.: X = (-1)^знак · (1.m 22 m 21 m 20 .... m 0) · 2^(e -bias)), и я не понял некоторых вещей в нем: 1) Использование союза, п

c floating-point precision 2016-08-07

---

8зной

1ответ

Результаты литья поплавкового умножения приводят к разным результатам, если первый поплавок сохраняется в переменной?

код здесь прямо вперед, но я не понимаю, результаты: float percent = 0.69f; int firstInt = (int)(percent*100f); float tempFloat = percent*100f; int secondInt = (int)tempFloat; Debug.Log(firstInt

c# casting precision floating-accuracy 2016-08-08

---

2зной

6ответ

Есть ли «стандартный» способ вычисления численного градиента?

Я пытаюсь вычислить численный градиент гладкой функции в C++. И значение параметра может меняться от нуля до очень большого числа (возможно, от 1 до 10 ... 1 020) Я использовал функцию f (x, y) = 10 *

c++ math precision numerical-methods 2016-08-09

---

1зной

1ответ

Интеграл с двойным интегралом Matlab с сильно подавленными экспонентами

Я недавно пытался вычислить двойной интеграл функции fun = @(v,x)(10^4)*0.648*(1+v*0.001).*( exp(-2.83./(10^-8+(sqrt(1+2*v*0.001)).*(x.^2))) -1).*(exp(-(v.^2)*0.33)) в диапазоне (-1000,1000) для v и (

matlab precision integral 2016-08-11

---