Модераторы: bsa
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> проблема с float 
:(
    Опции темы
daemonaz
Дата 20.9.2013, 15:19 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 160
Регистрация: 4.5.2008

Репутация: нет
Всего: нет



Программирую в Qt SDK, столкнулся с такой проблемой, нужно было вычислить по некой формуле число с плавающей точкой с обратным преобразованием в целое число появляются ошибки, выявил ошибку в присваивании float tmp = 0.35, но в пошаговом режиме когда стал смотреть, то увидел что число не ровно 0.35, а 0.349999999999, а на единицу прибавил, то есть 0.36, отладчик показывает 0.360000003 . Как с этим бороться? 
PM MAIL   Вверх
baldina
Дата 20.9.2013, 17:28 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Завсегдатай
Сообщений: 3433
Регистрация: 5.12.2007
Где: Москва

Репутация: 15
Всего: 101



путем изучения матчасти.
числа с плавающей запятой представляются в компьютере с конечной точностью (в силу конечного размера отведенной под число памяти).
для чисел float это заметнее чем для double: их размер (в битах) меньше.
т.к. используется двоичная арифметика, дробная часть представляется с точностью до степени двойки. т.е. числа 0.5 и 0.25 представляются точно, а 0.1 и 0.3 - приближенно. это нужно учитывать при вычислениях и сравнениях чисел с запятой: в вычислениях, если возможно, не использовать накопление результата, сравнения производить не ==, а с требуемой точностью:
Код

bool isEqual (float a, float b, float epsilon) {
  return fabs (a-b) < epsilon;
}

PM MAIL   Вверх
vinter
Дата 25.9.2013, 12:40 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Explorer
****


Профиль
Группа: Завсегдатай
Сообщений: 2735
Регистрация: 1.4.2006
Где: Н.Новгород

Репутация: 8
Всего: 56



в Qt есть средства для сравнения float/double: qFuzzyCompare


--------------------
Мой блог
PM MAIL WWW   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "C/C++: Для новичков"
JackYF
bsa

Запрещается!

1. Публиковать ссылки на вскрытые компоненты

2. Обсуждать взлом компонентов и делиться вскрытыми компонентами

  • Действия модераторов можно обсудить здесь
  • С просьбами о написании курсовой, реферата и т.п. обращаться сюда
  • Вопросы по реализации алгоритмов рассматриваются здесь


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, JackYF, bsa.

 
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | C/C++: Для новичков | Следующая тема »


 




[ Время генерации скрипта: 0.0636 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.