Долго искал ошибку в программе наконец нашел и офигел.
программа делает некоторые вычисления и в процедурке неправильно вычисляет вот процедура:

Код

Result:=2*Gam*Ksi*Kap/(sqr(Gam)-sqr(Xv)); if xv<S then Result:=Result-Kap*p/S; // здесь ставлю брекпоинт

вижу что
xv = 0.5
S = 0.5
однако программа входит в условие и выполняет строчку
Result:=Result-Kap*p/S;

КАК ЭТО МОЖЕТ БЫТЬ?
ЧТО ТЕПЕРЬ НЕЛЬЗЯ ПОЛЬЗОВАТЬСЯ УСЛОВИЕМ < ?
Выручайте, а то у меня пошатнулась уверенность в том, что я делаю и вообще в программировании......

Значения xv и S, откуда берутся? Они рассчитываются или вводятся пользователем?

Bes
Покажи всю процедуру и как её вызываешь.


Это сообщение отредактировал(а) ~FoX~ - 1.3.2005, 09:59

Такое поведение дробных чисел в программе вполне объяснимо, хотя человека может ввести в ступор. Чтобы понять, почему так происходит, почитай эту статью: http://delphi.olympus.ru/dk/helloword/reals.htm

2~FoX~:

function TForm1.GetVR: real;
begin
{Result:=2*Gam*Ksi*Kap/(sqr(Gam)-sqr(Xv));
if xv<S then
Result:=Result-Kap*p/S; }
Result:=2*Gam*Ksi*Kap/(sqr(Gam)-sqr(Xv));
if xv<S then
Result:=Result-Kap*p/S;
end;

вызваю так
RVerh:=GetVR;

2Alex:
фишка в том, что когда вводится пользователем - то все нормально, а когда вычисляется:

Кусок кода (по сути перебор - весь диапазон значений делится на 5 часткей и для каждого расчитывается значение ф-ии)
Yv:=0.7-(2.1-0.7)/4;
Repeat
Yv:=Yv+(2.1-0.7)/4;

D:=1.4+(1.4-0.4)/4;
Repeat
D:=D-(1.4-0.4)/4;

Yn:=Yv+D;

Xv:=Yv/D;//здесь вычисляется х и S далее таким же образом
Xn:=Xv+1;

0.5 может быть и 0.50000000001, и 0.49999999999 - есссно они не равны...

Цитата(Bes @ 1.3.2005, 10:38)

вижу что xv = 0.5 S = 0.5 однако программа входит в условие и выполняет строчку Result:=Result-Kap*p/S;

Сделай следующее:

Код

Result:=2*Gam*Ksi*Kap/(sqr(Gam)-sqr(Xv)); Temp=xv-S; if Temp<>0 then Result:=Result-Kap*p/S; // вот тут поставь брейкпойнт и посмотри значение переменной Temp

Цитата(Akina @ 1.3.2005, 11:53)

if Temp<>0 then

по всей видимости получится то же самое, ведь Temp может быть и 0.00000001 например. Дело во внутреннем представлении вещественных чисел. В дебагере то будет "0" показываться, но при побитовом сравнении этот "0" <> 0
Может лучше так:

Код

Result:=2*Gam*Ksi*Kap/(sqr(Gam)-sqr(Xv)); Temp=xv-S; if Abs (Temp)>0.0001 then // тут задается точность сравнения Result:=Result-Kap*p/S;

Dimich имхо: if Abs (Temp)>1e-15 then ...

Цитата(Girder @ 1.3.2005, 12:12)

Dimich имхо: if Abs (Temp)>1e-15 then ...

согласен. Дельное замечание. Я не задался сразу этой мыслью, просто показал, в каком направлении копать

Цитата(Dimich @ 1.3.2005, 13:03)

В дебагере то будет "0" показываться

Что-то мне сомнительно... не может быть дебаггер настолько крив...

Может. :-( Причем когда как, не могу найти закономерность.
Проблема ВРОДЕ БЫ решилась когда поменял реал на екстендед, но подозреваю, что это в частном случае, а т.к. вычислений несколько десятков тысяч, то видимо придется переделать на АБС, (см. Димыч, Girder)
Просто я недоумеваю, неужели придется отказаться от операторов сравнения и воизбежания косяков поменять все условия в программе на АБС?

Это сообщение отредактировал(а) Bes - 1.3.2005, 13:04

Ребята, Вы почитайте статью, котрую я давал выше и поймете в чем состоит фича при сравнении вещественных чисел. Дебагер то показывает в принципе верно (число видно с точки зрения человека), а если рассматривать внутреннее представление числа, что происходит при сравнении (данные сравниваются то побитово)....... В общем, не поленитесь, достаточно интересно! Сразу все сомнения и неясности пропадут.

2Dimich:
Я посмотрел так, бегло, поскольку времени совсем не остается, в принципе эту подлость я и подозревал, только как ее лечить. Т.е. представления чисел в машинном виде - это конечно все хорошо, а как работать -то?

Цитата(Bes @ 1.3.2005, 14:03)

Может. :-( Причем когда как, не могу найти закономерность.

не понимаю... значит это бага дебаггера.
Вычитаем, получаем НЕ НОЛЬ. Это может быть корректное число (тогда дебаггер должен показать бы его) либо нечто некорректное (но тогда должно возникнуть исключение сопроцессора) - т.е. по-любому ненулёвость должна быть озвучена...

Цитата(Dimich @ 1.3.2005, 14:15)

Дебагер то показывает в принципе верно (число видно с точки зрения человека),

ни хрена не верно. он должен показывать что есть, а не то что по его мнению я хочу (или не хочу) увидеть... впрочем M$ любит за нас думать... мать... мать...

Цитата(Dimich @ 1.3.2005, 14:15)

Вы почитайте статью, котрую я давал выше и поймете в чем состоит фича при сравнении вещественных чисел.

да со сравнением-то все ясно... неясно с результатом вычитания...