Модераторы: Partizan, gambit
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Странная арифметика при работе с float 
:(
    Опции темы
Agafon
Дата 11.4.2010, 14:14 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 14
Регистрация: 12.12.2007

Репутация: нет
Всего: нет



Есть код:

Код

float oldQty = 1.256F;
float NewQty = 1.2F;
float diff = oldQty - NewQty; 


diff должен быть равен 0.056, но он становится равен 0.0559999943.
Почему так происходит? что сделать чтоб считалось точно?

PM MAIL   Вверх
VictorTsaregorodtsev
Дата 11.4.2010, 14:45 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 274
Регистрация: 28.7.2006

Репутация: нет
Всего: 8



Потому smile 
Потому что формат представления плавучих данных в компе такой.
Чтобы считалось точно - или переходите на символьную арифметику (библиотеки классов для этого должны быть), или при выводе результатов на печать/экран используйте спецификаторы формата (наличествующие, например, у обычного сишного принтфа) для округления результата до меньшего числа цифр после запятой.
PM MAIL WWW   Вверх
jorikdima
Дата 12.4.2010, 09:35 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 107
Регистрация: 18.1.2008
Где: Там, где Зенит

Репутация: нет
Всего: нет



Цитата(Agafon @ 11.4.2010,  14:14)
diff должен быть равен 0.056, но он становится равен 0.0559999943.
Почему так происходит? что сделать чтоб считалось точно?

Никто никому ничего не должен. Ответ получился в соответствии с точностью предсталения данных в формате float. Не устраивает точность? Используйте double.
PM MAIL   Вверх
Agafon
Дата 12.4.2010, 16:09 (ссылка)    | (голосов:2) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 14
Регистрация: 12.12.2007

Репутация: нет
Всего: нет



jorikdima, точность меня не устраивает не из-за количества знаков после запятой, а из-за того, что я получаю немного не то значение, которое хотелось бы. Прежде чем давать советы вникните в суть проблемы. А такие философские изречения как: "Никто никому ничего не должен." не дадут мне ответ. И кстати с double такая же ситуация как и с float. 


VictorTsaregorodtsev, спасибо большое! Я обошелся простым округлением Math.Round. 
PM MAIL   Вверх
jorikdima
Дата 13.4.2010, 09:00 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 107
Регистрация: 18.1.2008
Где: Там, где Зенит

Репутация: нет
Всего: нет



jorikdima, точность меня не устраивает не из-за количества знаков после запятой, а из-за того, что я получаю немного не то значение, которое хотелось бы.

Это и называется точностью.

И кстати с double такая же ситуация как и с float. 

Приведите пожалуйста код с double.
PM MAIL   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Прежде чем создать тему, посмотрите сюда:
mr.DUDA
THandle

Используйте теги [code=csharp][/code] для подсветки кода. Используйтe чекбокс "транслит" если у Вас нет русских шрифтов.
Что делать если Вам помогли, но отблагодарить помощника плюсом в репутацию Вы не можете(не хватает сообщений)? Пишите сюда, или отправляйте репорт. Поставим :)
Так же не забывайте отмечать свой вопрос решенным, если он таковым является :)


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, mr.DUDA, THandle.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Общие вопросы по .NET и C# | Следующая тема »


 




[ Время генерации скрипта: 0.0684 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.