2016-02-19 6 views
-1

У меня есть переменная, значение которой приходит к числу до числа, которое использует десятичное место. пример 257.85, однако, когда я обрабатываю это значение в следующем уравнении, он удаляет десятичное число, а число становится 25785, что неверно.vb.net держит удаление десятичного числа в уравнении

Уравнение, используемое в vb.net:

Dim ITEM2b As Integer = DataGridView1.Item(2, 0).Value '<--This case senario the value came to 257.85 

Dim ITEM15 As Integer 

If item1B = 4 Then 
    ITEM15 = ((ITEM2b/10) - (ITEM5b/10))/2 
ElseIf item1B = 3 Then 
    ITEM15 = ((ITEM2b/10) - (ITEM5b/10))/3 
    'MsgBox(ITEM2b & " " & ITEM5b) '<-- This line helped reveal the problem 
    'ITEM15 = ((257.85/10) - (50/10))/3 
ElseIf item1B = 2 Then 
    ITEM15 = ((ITEM2b/10) - (ITEM5b/10))/2 
End If 

Я попытался установить переменную Item2b, как целое число, строка и Double, но безрезультатно!

+0

Вы пробовали настройку как 'Десятичный'? –

ответ

1
Dim ITEM2b As Integer = DataGridView1.Item(2, 0).Value '<--This case senario the value came to 257.85 

Dim ITEM15 As Integer 

Вы передаете значение целому числу, которое приведет к тому, что значение будет удалено после запятой.

Попробуйте использовать Двойной.

Dim ITEM2b As Double= DataGridView1.Item(2, 0).Value '<--This case senario the value came to 257.85 

Dim ITEM15 As Double 
+0

Я использовал двойной и десятичный, но он все равно продолжает его удалять ... Я думаю, что доза изменяет значение из-за datagridview? hoever я также попытался изменить эквациональную линию тоже ITEM15 = ((Convert.ToDouble (ITEM2b)/10) - (ITEM5b/10))/3, но опять же он не работает –

+0

Странно, что возвращаемый результат равен 25785, а не 258, что должен быть возвращен в случае, если переменная Integer. –

+0

@Crush Sundea Я могу связать Item15 как двойной тоже ... теперь у меня неправильный результат с десятичной точкой (правильный результат должен быть 6.9), ответ insect продолжает отображаться как 857 после вашего sugestion, я получаю 857.833 одинаковый для десятичного –