Модераторы: Poseidon, Snowy, bems, MetalFan
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Точность вычислений вещественных чисел, Необходимо поднять точность вычислений 
V
    Опции темы
Rodeon
Дата 14.6.2018, 04:54 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 116
Регистрация: 28.8.2008
Где: Россия, Ухта

Репутация: нет
Всего: нет



Необходимо стало немного более точные вычисления.
Как пример самое простое:
Код

  Q_gid:=(FDQuery2.Fields.Fields[8].Value*0.001)/(FDQuery2.Fields.Fields[4].Value*60*24*1000);

Где:
Q_gid: Extended;
FDQuery2.Fields.Fields[8].Value := 3000
FDQuery2.Fields.Fields[4].Value := 60

для проверки добавил пару строк:
Код

  sMemo1.Lines.Add('G_p: '+FloatToStr(FDQuery2.Fields.Fields[8].Value));
  sMemo1.Lines.Add('G_p: '+FloatToStr(FDQuery2.Fields.Fields[8].Value*0.001));
  sMemo1.Lines.Add('G_p: '+FloatToStr(FDQuery2.Fields.Fields[4].Value));
  sMemo1.Lines.Add('G_p: '+FloatToStr(FDQuery2.Fields.Fields[4].Value*60*24*1000));

До деления обе половинки верные получаются.
Получаю в столбик:
3000
3
60
86400000

После деления в переменную Q_gid приходит 0.

Что не так?

Отбой, мой косяк по невнимательности.
Передал явный тип переменной из таблицы - все заработало.
Т.е.
Код

  Q_gid:=(FDQuery2.Fields.Fields[8].AsExtended*0.001)/(FDQuery2.Fields.Fields[4].AsExtended*60*24*1000);


Все, пора спать.

Это сообщение отредактировал(а) Rodeon - 14.6.2018, 04:58
PM MAIL   Вверх
Google
  Дата 20.10.2018, 07:00 (ссылка)  





  Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Delphi: Общие вопросы"
SnowyMetalFan
bemsPoseidon
Rrader

Запрещается!

1. Публиковать ссылки на вскрытые компоненты

2. Обсуждать взлом компонентов и делиться вскрытыми компонентами

  • Литературу по Дельфи обсуждаем здесь
  • Действия модераторов можно обсудить здесь
  • С просьбами о написании курсовой, реферата и т.п. обращаться сюда
  • Вопросы по реализации алгоритмов рассматриваются здесь
  • 90% ответов на свои вопросы можно найти в DRKB (Delphi Russian Knowledge Base) - крупнейшем в рунете сборнике материалов по Дельфи


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, Snowy, MetalFan, bems, Poseidon, Rrader.

 
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Delphi: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.0396 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.