![]() |
Модераторы: Partizan, gambit |
![]() ![]() ![]() |
|
Agafon |
|
|||
Новичок Профиль Группа: Участник Сообщений: 14 Регистрация: 12.12.2007 Репутация: нет Всего: нет |
Есть код:
diff должен быть равен 0.056, но он становится равен 0.0559999943. Почему так происходит? что сделать чтоб считалось точно? |
|||
|
||||
VictorTsaregorodtsev |
|
|||
Опытный ![]() ![]() Профиль Группа: Участник Сообщений: 274 Регистрация: 28.7.2006 Репутация: нет Всего: 8 |
Потому
![]() Потому что формат представления плавучих данных в компе такой. Чтобы считалось точно - или переходите на символьную арифметику (библиотеки классов для этого должны быть), или при выводе результатов на печать/экран используйте спецификаторы формата (наличествующие, например, у обычного сишного принтфа) для округления результата до меньшего числа цифр после запятой. |
|||
|
||||
jorikdima |
|
|||
Шустрый ![]() Профиль Группа: Участник Сообщений: 107 Регистрация: 18.1.2008 Где: Там, где Зенит Репутация: нет Всего: нет |
Никто никому ничего не должен. Ответ получился в соответствии с точностью предсталения данных в формате float. Не устраивает точность? Используйте double. |
|||
|
||||
Agafon |
|
|||
Новичок Профиль Группа: Участник Сообщений: 14 Регистрация: 12.12.2007 Репутация: нет Всего: нет |
jorikdima, точность меня не устраивает не из-за количества знаков после запятой, а из-за того, что я получаю немного не то значение, которое хотелось бы. Прежде чем давать советы вникните в суть проблемы. А такие философские изречения как: "Никто никому ничего не должен." не дадут мне ответ. И кстати с double такая же ситуация как и с float.
VictorTsaregorodtsev, спасибо большое! Я обошелся простым округлением Math.Round. |
|||
|
||||
jorikdima |
|
|||
Шустрый ![]() Профиль Группа: Участник Сообщений: 107 Регистрация: 18.1.2008 Где: Там, где Зенит Репутация: нет Всего: нет |
jorikdima, точность меня не устраивает не из-за количества знаков после запятой, а из-за того, что я получаю немного не то значение, которое хотелось бы.
Это и называется точностью. И кстати с double такая же ситуация как и с float. Приведите пожалуйста код с double. |
|||
|
||||
![]() ![]() ![]() |
Прежде чем создать тему, посмотрите сюда: | |
|
Используйте теги [code=csharp][/code] для подсветки кода. Используйтe чекбокс "транслит" если у Вас нет русских шрифтов. Что делать если Вам помогли, но отблагодарить помощника плюсом в репутацию Вы не можете(не хватает сообщений)? Пишите сюда, или отправляйте репорт. Поставим :) Так же не забывайте отмечать свой вопрос решенным, если он таковым является :) Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, mr.DUDA, THandle. |
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей) | |
0 Пользователей: | |
« Предыдущая тема | Общие вопросы по .NET и C# | Следующая тема » |
|
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности Powered by Invision Power Board(R) 1.3 © 2003 IPS, Inc. |