Версия для печати темы
Нажмите сюда для просмотра этой темы в оригинальном формате
Форум программистов > VB .NET > Беззнаковые числа


Автор: bankuss 1.2.2006, 13:20
Нужно было замутить большое число (для bitboard) ну и пишу:
Dim A as Ulong=976534543.... тут число вобщем.
Ну а барсик мне выводит overflow!
Uint64 тоже самое...
я так понимаю проблема в самом барсике... недоделки smile
или в чем то другом?

Автор: Exception 1.2.2006, 15:56
Можно полностью число и эээ... кодик smile с указанием, где и какая ошибка выходит (Exception, complie-time?).
PS Какая студия?
PPS Модератор: Название темы должно отражать ее суть!

Автор: bankuss 2.2.2006, 12:52
Пожайлуста полностью: dim a as ULong=9 729 292 949 192 433 632

знаковые числа +9 223 372 036 854 775 807 -9 223 372 036 854 775 808, беззнаковое соответственно 0...18 446 744 073 709 551 615, данное число входит в эти границы.

после введения строки, число сразу подчеркивается синей кривой и при наведении мышой появляется надпись overflow.
студия: Microsoft Visual Basic 2005 Version 8.0.50215.44 (beta2.050215-4400)
фрейм такой: Version 2.0.50215

в С# таких проблем нет, так как там такие числа изначально заложены.

Автор: Exception 2.2.2006, 13:59
И правда, странно. Но так работает:Dim A As ULong = ULong.Parse("9729292949192433632")
Dim B As ULong = CULng(A + 1)
[/code]

Powered by Invision Power Board (http://www.invisionboard.com)
© Invision Power Services (http://www.invisionpower.com)