ВОПРОС:



На выходе у меня получается, что:
MX = 9
MX0 = 10

Как это объяснить? И что делать? Хотелось бы отправлять в Trunc (или другую подобную функцию) любые формулы, и чтобы таких багов не было.

ОТВЕТ:

 Ну скажем число 2.34367 - без периода, а скажем число 2 / 3 = 0,66666(6) число с периодом, т.е. сколько десятичных чисел не добавляй, все равно будет погрешность. Но это десятичные числа, двоичные числа тоже бывают дробные, например 110,10001110. Так вот дробные числа в компутере принято представлять именно двоичной форме (как в последнем примере). Но вот есть незадача, не все числа без периода, такие как "2.34367" (т.е. точное число) можно представить в виде точной последовательности нулей и единиц как 110,10001110, часто получаются последовательности типа 110,10001110(101), т.е. что было точным стало неточным. Т.е. точность результата зависит от метода вычисления того или иного выражения. Вот и получилось, что результат в одном случае получился точнее чем в другом из-за того что при компиляции получился разный код.

Для положительных чисел можно исправить так.



Для отрицательных