Добрый день!
Возникла проблеммка с double. Операции умножения, деления приводят к появлению лишних знаков после запятой, например:
3*0.01 возвращает что, то вроде 0.030000001
5*0.02 = 0.0499999998
Немогу разобраться в чем дело, может кто встречался с подобным

дело в машинном представлении чисел с плавающей запятой в компьютере.
погугли, там все очень неплохо написано....
вкратце : потому что компьютер сохраняет число как 2^М

Интересно сколько миллионов раз этот вопрос задавался?  

P.S. FREEDEV, открой для себя округление...

округление хорошо ну вот если нужно посчитать точное значение?

Округлять по-разному можно, например до 8-го знака после запятой.

Точные значения в обыкновенных дробях считаются, а не в десятичных, это ещё в 5-ом классе средней школы проходят, тут даже механизмы хранения вещественных чисел в памяти компьютера непричём...

Можно еще при расчетах использовать преобразование в другую систему счисления. В моем проекте, например, в одном месте из-за таких же проблем используются вычисления над 64-разрядными целыми числами. Правда это не я делал, но автор уверяет, что избавился от многих проблем .

Нет округление не пойдёт, просто сдесь приведёт пример когда значение уменьшается(то и есть его нужно увеличить), бываю сдучаи года 123.00000017
послу огругления будем иметь 123.0000002, ну или 123.0000001, а когда прибавим 0.00000001 будет совсем другое значения вобщемто очень приблезительное, единственное что вижу, так это то что можно реализовать класс, но он будет совсем не производителен!!

Lycifer, используй тип decimal.

Это сообщение отредактировал(а) Дрон - 6.5.2008, 13:19

не бывает таких случаев, если ты их сам специально не создаёшь, так что не гони...

Дрон, только вот тормознутый он, этот decimal, жутко... 

А так конечно если бывает что вылезет погрешность, нужно её округлять. Других вариантов нет, AFAIK.

Ну так про требования к быстродействию автор ничего не сказал  

Это сообщение отредактировал(а) Дрон - 6.5.2008, 19:28

Как же нет, я уже ещё 1 вариант назвал - вычисление в обычных дробях, так практически все математические пакеты поступают и никаких проблем с погрешностями не знают... другой вопрос, что это на много порядков более сложная задача, чем простое округление...

не все числа представляются в виде обыкновенных дробей.... и такая задача становится еще сложнее)


и мат пакеты страдают порой и очень сильно от погрешности... сам один раз попал на это в матГаде.. тогда как Maple посчитал лучше (ну а руками так вообще хорошо посчиталось))....

Ну я Maple имел в виду, остальными я практически не пользуюсь... А Maple как раз на аналитических расчётах специализируется  

теоретически все. Другое дело что число может представлять собой бесконечный ряд обыкновенных дробей и даже не один, а также в состав дробей могут входить любые арифметические операции(+ - * / ^), ну да ленивые вычисления никто не отменял...

P.S. Ну и в конечном итоге, можно посмотреть чему примерно равен полученный в виде громадной дроби результат, и тут за дело вновь берётся округление...