 |
|
Модераторы: Sardar, Aliance |
 
|
|
точность при вычислениях с плав. точкой 
| AKS |
|
|||
|
Участник форума  Профиль Группа: Участник Сообщений: 725 Регистрация: 20.9.2006 Репутация: 27 Всего: 52 |
SelenIT, что-то я вчера поспешил, вызвавшись помошником. Я, оказывается, даже не могу понять, в чем тут смысл. Попробовал вот этому методу:
передавать разные параметры (от 2 и ...), а результат - один и тотже (2.215). Так что тут за "затея"? Сам не пойму... |
|||
|
||||
Загрузка ...
| SelenIT |
|
|||
 баг форума Профиль Группа: Завсегдатай Сообщений: 3996 Регистрация: 17.10.2006 Где: Pale Blue Dot Репутация: 49 Всего: 401 |
AKS, это безобразие пытается "угадать", где нормальная дробь, а где - ошибка округления. К последним относятся ситуации, когда после последней значащей цифры идет длинный ряд девяток, либо длинный ряд нулей с какой-то незначащей "мелочью" в конце. Параметр задает точность "угадывания" - сколько идущих подряд нулей или девяток считать результатом ошибки. Я посчитал, что задавать параметр меньше двух не имеет смысла.
-------------------- Осторожно! Данный юзер и его посты содержат ДГМО! Противопоказано лицам с предрасположенностью к зонеризму! |
|||
|
||||
|
|
| Форум для вопросов, которые имеются в справочниках, но их поиск вызвал затруднения, или для разработчика требуется совет или просьба отыскать ошибку. Напоминаем: 1) чётко формулируйте вопрос, 2) приведите пример того, что уже сделано, 3) укажите явно, нужен работающий пример или подсказка о том, где найти информацию. |
| 0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей) | |
| 0 Пользователей: | |
| « Предыдущая тема | JavaScript: Общие вопросы | Следующая тема » |
[ Время генерации скрипта: 0.1108 ] [ Использовано запросов: 22 ] [ GZIP включён ]
Реклама на сайте Информационное спонсорство
|
|
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности Powered by Invision Power Board(R) 1.3 © 2003 IPS, Inc. |