Модераторы: Poseidon, Snowy, bems, MetalFan
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Ошибка при округлении 
:(
    Опции темы
ZufuS
Дата 20.12.2006, 23:36 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 237
Регистрация: 12.7.2006

Репутация: нет
Всего: нет



Код

Canvas.LineTo(Trunc(i*Form1.h*hsc), Trunc(cr_y - Form1.Vy[i]*hsc));
При вводе больших чисел в этой строке возникает ошибка. 
hsc: real;
Form1.Vy: array of real;
cr_y, Form1.h: int
Выяснилось, что ошибку вызывает функция Trunc, замена на Round не помогает.
PM   Вверх
aktuba
Дата 21.12.2006, 01:45 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Смышленный
***


Профиль
Группа: Завсегдатай
Сообщений: 1915
Регистрация: 24.4.2006
Где: Планета Земля

Репутация: 16
Всего: 38



Больших чисел - это каких? 


--------------------
user posted image
PM MAIL WWW Skype   Вверх
ZufuS
Дата 21.12.2006, 02:00 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 237
Регистрация: 12.7.2006

Репутация: нет
Всего: нет



Ввод чисел осуществляется не в аргументы Trunc'a, они получают значения через функции, но если это важно, то я попробую узнать.
PM   Вверх
aktuba
Дата 21.12.2006, 02:04 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Смышленный
***


Профиль
Группа: Завсегдатай
Сообщений: 1915
Регистрация: 24.4.2006
Где: Планета Земля

Репутация: 16
Всего: 38



Это важно. А еще важно, какая именно ошибка возникает.


--------------------
user posted image
PM MAIL WWW Skype   Вверх
ZufuS
Дата 21.12.2006, 02:38 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Бывалый
*


Профиль
Группа: Участник
Сообщений: 237
Регистрация: 12.7.2006

Репутация: нет
Всего: нет



В общем используя операцию x:=Trunc(число) я так понял, что при аргументе 4300000000 уже не работает функция
Ошибка: invalid floating point operation.



Это сообщение отредактировал(а) ZufuS - 21.12.2006, 02:38
PM   Вверх
Nicholas_S
Дата 21.12.2006, 02:56 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 486
Регистрация: 12.10.2006
Где: Санкт-Петербург

Репутация: 1
Всего: 19



ZufuS, открываем Delphi Help, находим описание функции Trunc(), читаем.

function Trunc(X: Extended): Int64;

Так что при аргументе X=4300000000 функция ведет себя корректно.
Ищи ошибку в другом месте.
Напиши точные значения всех переменных на момент ошибки (воспользуйся Watch-окном).



--------------------
...все в мире относительно
PM   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Правила форума "Delphi: Общие вопросы"
SnowyMetalFan
bemsPoseidon
Rrader

Запрещается!

1. Публиковать ссылки на вскрытые компоненты

2. Обсуждать взлом компонентов и делиться вскрытыми компонентами

  • Литературу по Дельфи обсуждаем здесь
  • Действия модераторов можно обсудить здесь
  • С просьбами о написании курсовой, реферата и т.п. обращаться сюда
  • Вопросы по реализации алгоритмов рассматриваются здесь
  • 90% ответов на свои вопросы можно найти в DRKB (Delphi Russian Knowledge Base) - крупнейшем в рунете сборнике материалов по Дельфи


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, Snowy, MetalFan, bems, Poseidon, Rrader.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Delphi: Общие вопросы | Следующая тема »


 




[ Время генерации скрипта: 0.0653 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.