VPF::Умножение и деление чисел с плавающей точкой

ACMilian

Дата 26.9.2007, 12:52 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 189
Регистрация: 5.9.2006
Где: Беларусь

Репутация: нет
Всего: нет

Привет всем.
Туплюсь что-та. Как в Дэлфи умножать и делить очень маленькие десятичные числа?
Например 0.015 * 0.00031 / 0.05 ?

Rennigth

Дата 26.9.2007, 13:10 (ссылка)

(нет голосов)

Загрузка ...

Эксперт

Профиль
Группа: Участник Клуба
Сообщений: 1708
Регистрация: 21.6.2004
Где: Moscow

Репутация: 15
Всего: 76

Цитата(ACMilian @ 26.9.2007, 12:52

)

0.015 * 0.00031 / 0.05

так и делить... в чем проблема?

--------------------

(* Honesta mors turpi vita potior *)

Alix

Дата 26.9.2007, 13:16 (ссылка)

(нет голосов)

Загрузка ...

L45

Профиль
Группа: Участник
Сообщений: 581
Регистрация: 4.5.2005
Где: Pskov/Spb

Репутация: 8
Всего: 23

У тебя теряются знаки после запятой? Используй тип Double или Extended.

Цитата

десятичные числа

я так понял имелись в виду действительные? (aka вещественные)

--------------------

Знание только тогда знание, когда оно приобретено усилиями своей мысли, а не памятью (с) Л. Толстой
High tech. Low live. (с) Gardner Dozois

Alexeis

Дата 26.9.2007, 13:25 (ссылка)

(нет голосов)

Загрузка ...

Амеба

Профиль
Группа: Админ
Сообщений: 11743
Регистрация: 12.10.2005
Где: Зеленоград

Репутация: 34
Всего: 459

Extended сохраняет 19 значащих цифр, т.е. число типа 0,0000000000000000000000000000000000000000000000000000000000000000001234567890123456789 нормально храниться умножается делиться и т.д.

--------------------

Vit вечная память.

Обсуждение действий администрации форума производятся только в этом форуме

гениальность идеи состоит в том, что ее невозможно придумать

Guedda

Дата 26.9.2007, 13:40 (ссылка)

(нет голосов)

Загрузка ...

Подрывник

Профиль
Группа: Завсегдатай
Сообщений: 3137
Регистрация: 27.12.2005
Где: Ростов-на-Дону

Репутация: 1
Всего: 78

А если у тебя проблемы именно с плавающей точкой, используй SetDelimiter

--------------------

Ll 2

ACMilian

Дата 26.9.2007, 14:11 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 189
Регистрация: 5.9.2006
Где: Беларусь

Репутация: нет
Всего: нет

вот пример:

Код


procedureTfmMain.queryCalcFields(DataSet: TDataSet);
Var
 a,b,c,d : Extended;
begin
a := queryRas_Fakt.Value;  // 0.015
b := queryNorm.Value; // 0.00031
c := queryRes_Plan.Value; 0.05
d := (a * b) / c; 
end;

вот в d какая то фигня хранится.

Guedda

Дата 26.9.2007, 14:19 (ссылка)

(нет голосов)

Загрузка ...

Подрывник

Профиль
Группа: Завсегдатай
Сообщений: 3137
Регистрация: 27.12.2005
Где: Ростов-на-Дону

Репутация: 1
Всего: 78

У меня все нормально выводится, 0,000093. А у тебя что?
Пользовался этим кодом:

Код


var
  a,b,c,d: Extended;
begin
  a := 0.015;
  b := 0.00031;
  c := 0.05;
  d := (a * b) / c;
  ShowMessage(FloatToStr(d));
end;

--------------------

Ll 2

ACMilian

Дата 26.9.2007, 14:40 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 189
Регистрация: 5.9.2006
Где: Беларусь

Репутация: нет
Всего: нет

Цитата(Guedda @ 26.9.2007, 14:19

)

Пользовался этим кодом:

код Pascal/Delphi
var
  a,b,c,d: Extended;
begin
  a := 0.015;
  b := 0.00031;
  c := 0.05;
  d := (a * b) / c;
  ShowMessage(FloatToStr(d));
end;

а у меня ответ равен: 9.3E-5..
не понимаю.

Это сообщение отредактировал(а) ACMilian - 26.9.2007, 14:40

Guedda

Дата 26.9.2007, 15:02 (ссылка)

(голосов:1)

Загрузка ...

Подрывник

Профиль
Группа: Завсегдатай
Сообщений: 3137
Регистрация: 27.12.2005
Где: Ростов-на-Дону

Репутация: 1
Всего: 78

Значит используй FloatToStrF

Добавлено через 12 секунд
Ты просто неотформатированно делаешь вывод

Добавлено через 5 минут и 21 секунду

Код


var
  a,b,c,d: Extended;
begin
  a := 0.015;
  b := 0.00031;
  c := 0.05;
  d := (a * b) / c;
  ShowMessage(FloatToStrF(d, ffGeneral, 8,8));
end;

--------------------

Ll 2

ACMilian

Дата 26.9.2007, 15:29 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 189
Регистрация: 5.9.2006
Где: Беларусь

Репутация: нет
Всего: нет

а как мне засунуть это число в поле датасэта?
чтоб оно там правильно отображалось?

Alexeis

Дата 26.9.2007, 15:51 (ссылка)

(нет голосов)

Загрузка ...

Амеба

Профиль
Группа: Админ
Сообщений: 11743
Регистрация: 12.10.2005
Где: Зеленоград

Репутация: 34
Всего: 459

Цитата(ACMilian @ 26.9.2007, 15:29

)

а как мне засунуть это число в поле датасэта?
чтоб оно там правильно отображалось?

Например в виде отформатированной строки, полученной FloatToStrF, как это показал Guedda.

--------------------

Esperito

Дата 26.9.2007, 15:52 (ссылка)

(голосов:1)

Загрузка ...

Шустрый

Профиль
Группа: Участник
Сообщений: 147
Регистрация: 2.9.2007

Репутация: нет
Всего: 3

Это зависит от твоих настроек отображения поля. А присваиваться оно будет нормально, т.к. это просто такая научная форма записи числа.

ACMilian

Дата 26.9.2007, 16:01 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 189
Регистрация: 5.9.2006
Где: Беларусь

Репутация: нет
Всего: нет

ну к ,примеру, если я делаю так:

Код


q.FieldByName('Udel').AsString := FloaToStrF(q.FieldByName('R_Fakt').AsFloat * q.FieldByName('Norma').AsFloat / q.FieldByName('R_Plan').AsFloat, ffGeneral, 8, 8);

то в q.FieldByName('Udel').AsString заноситсо неправильное представление. а как по другому?

Guedda

Дата 26.9.2007, 16:55 (ссылка)

(нет голосов)

Загрузка ...

Подрывник

Профиль
Группа: Завсегдатай
Сообщений: 3137
Регистрация: 27.12.2005
Где: Ростов-на-Дону

Репутация: 1
Всего: 78

Цитата(ACMilian @ 26.9.2007, 17:01

)

заноситсо неправильное представление

Покажи, какое именно неправильное представление заносится?

--------------------

Ll 2

ACMilian

Дата 26.9.2007, 17:04 (ссылка)

(нет голосов)

Загрузка ...

Бывалый

Профиль
Группа: Участник
Сообщений: 189
Регистрация: 5.9.2006
Где: Беларусь

Репутация: нет
Всего: нет

вот такое: 9.3E-5..

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема \| Delphi: Для новичков \| Следующая тема »