Модераторы: Poseidon, Snowy, bems, MetalFan
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Округление вещественных чисел, Проблема с точностью 
:(
    Опции темы
Rodeon
Дата 9.8.2018, 20:42 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 116
Регистрация: 28.8.2008
Где: Россия, Ухта

Репутация: нет
Всего: нет



Имеем:
база данных: FireByrd 2.5
тип данных: DECIMAL(14,3) NOT NULL
данные как пример: 96.600

среда: Delphi Rad Studio 10.2
тип переменной: пробовал и Single и Double
присваиваю:
Sostav_gas.C3H8:=MainForm.FDQuery.Fields.Fields[4].AsSingle;

на выходе получаю: 96.5999984741211

Если присваиваю так:
Sostav_gas.CH4:=SimpleRoundTo(MainForm.FDQuery.Fields.Fields[2].AsSingle,-3);
то на выходе снова 96.5999984741211

Если присваиваю так:
Sostav_gas.CH4:=StrToFloat(FormatFloat('0.000',MainForm.FDQuery.Fields.Fields[2].AsSingle));
то на выходе нормальные: 96.6

я понимаю про округление вещественных типов, но блин конвертировать в текст и обратно - "костыли".
Подскажите более простой способ. Спасибо.


PM MAIL   Вверх
Snowy
Дата 10.8.2018, 00:33 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Эксперт
****


Профиль
Группа: Модератор
Сообщений: 11334
Регистрация: 13.10.2004
Где: Питер

Репутация: 192
Всего: 482



Варианты:
1. Используй numeric
2. Используй Round(x*1000)/1000
3. Не используй decimal - используй целые числа, умноженные на 1000 (замени единицы измерения на миллиграммы, и их уже конвертируй в граммы). Тебе точка нужна только для отображения. Считать можно в других единицах.
4. Смени FireBird на другую базу и там используй нормальный здоровый numeric некурильщика, который не пытается быть вещественным.

PM MAIL   Вверх
Rodeon
Дата 10.8.2018, 00:50 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Шустрый
*


Профиль
Группа: Участник
Сообщений: 116
Регистрация: 28.8.2008
Где: Россия, Ухта

Репутация: нет
Всего: нет



Вобщем вышел из пложения, перепробовал разные комбинации.
Переменная Double
присваиваю так:
Sostav_gas.CH4:=MainForm.FDQuery.FieldByName('CH4').AsExtended;
правда помогает только до 4-х знаков, 5 знаков уже опять начинается фигня.
Но меня это устраивает.

Добавлено через 2 минуты и 31 секунду
Но за совет спасибо, буду иметь ввиду. 
PM MAIL   Вверх
Google
  Дата 20.8.2018, 23:12 (ссылка)  





  Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Delphi: Общие вопросы"
SnowyMetalFan
bemsPoseidon
Rrader

Запрещается!

1. Публиковать ссылки на вскрытые компоненты

2. Обсуждать взлом компонентов и делиться вскрытыми компонентами

  • Литературу по Дельфи обсуждаем здесь
  • Действия модераторов можно обсудить здесь
  • С просьбами о написании курсовой, реферата и т.п. обращаться сюда
  • Вопросы по реализации алгоритмов рассматриваются здесь
  • 90% ответов на свои вопросы можно найти в DRKB (Delphi Russian Knowledge Base) - крупнейшем в рунете сборнике материалов по Дельфи


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, Snowy, MetalFan, bems, Poseidon, Rrader.

 
1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Delphi: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.0562 ]   [ Использовано запросов: 21 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.