VPF::Косяк при обрезании числа - Форум программистов

Burka

Дата 10.11.2009, 10:10 (ссылка)

(нет голосов)

Загрузка ...

Опытный

Профиль
Группа: Участник
Сообщений: 429
Регистрация: 11.5.2007

Репутация: нет
Всего: 2

Вот часть кода

Код


tmpr:double;
...
  case i of
        1: del:=100;  //Температура воды
        2: del:=100;  //Температура воздуха
        3: del:=10;   //Давление
        4: del:=1;    //скорость ветра
        5: del:=1;   //направление
   end; //Case
  tmpr:=  DataArr[i,j] * del; //
  ShowMessage(FloatToStr(tmpr));
  ShowMessage(FloatToStr(Trunc(tmpr)));
  T.Edit;
  T.FieldByName('value').asfloat:=Trunc(DataArr[i,j] * del);//
  T.Post;
...

И так, пользователь вводит число, допустим это температура воды = -1,33
В базе данные хранятся в целом виде, поэтому умножаем это число на сто.
I - это номер параметра.

При выполнении выводятся такие сообщения

Код


-133
-132

Почему то этот косяк постоянно повторяется если вводится отрицательное число с двумя знаками после запятой или одним знаком. То есть при вводе -1,2 я получаю -1,19 и тп. Но если ввести -1,222 то я получу -1,22 - чего в принципе и жду от этого кода.
И вот хз как обойти этот баг

--------------------

Великие умы обсуждают идеи; средние умы обсуждают события; мелкие умы обсуждают людей.

amsoft

Дата 13.11.2009, 12:05 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 201
Регистрация: 17.10.2009
Где: KZ, Astana

Репутация: 3
Всего: 4

попробуй вместо double использовать currency

--------------------

"Кто бы ты ни был - не думай о себе слишком"Дельфин

0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема \| Delphi: Общие вопросы \| Следующая тема »