Модераторы: Partizan, gambit
  

Поиск:

Ответ в темуСоздание новой темы Создание опроса
> Повышение точности расчетов, Работа с типом double 
:(
    Опции темы
ctpexhih
Дата 13.12.2008, 23:58 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Новичок



Профиль
Группа: Участник
Сообщений: 15
Регистрация: 19.6.2008

Репутация: нет
Всего: нет



Всем привет. Появилась проблема, читал про нее здесь http://forum.vingrad.ru/topic-209613.html , но не помогло. Я работаю с типом double, причем почти во всем его диапазоне. Тип decimal не могу использовать из-за того, что у меня числа больше, что его диапазон. Какие методы и приемы повышения точности при работе с большими числами можете посоветовать ? Числа могут быть порядка 1E-200...1E+200
PM MAIL   Вверх
archeg
Дата 14.12.2008, 03:21 (ссылка) | (нет голосов) Загрузка ... Загрузка ... Быстрая цитата Цитата


Опытный
**


Профиль
Группа: Участник
Сообщений: 612
Регистрация: 6.1.2007
Где: Киев

Репутация: 11
Всего: 27



Когда-то в делфях или где-то еще работала фича - надо было поделить даубл на 100 и можно было получить еще 2 знака дополнительно (даубл всегда резервировал для себя 2 знака после запятой). Только не знаю это фича стандарта IEEE 754, или самого языка.
Можно посмотреть в сторону сторонних либ или самому что-то написать.

З.Ы. Не знал что у десимал меньше диапазон чем у даубла

Это сообщение отредактировал(а) archeg - 14.12.2008, 03:22


--------------------
ИМХО задница есть универсальный интерфейс. Ибо через задницу можно сделать абсолютно ВСЕ (bash.org.ru)

Дядька всегда можно спросить в аське, если не задалбывать - не откажет smile
И вообще, на самом деле я студент, и ненавижу обращение на "Вы") Тут все свои  ;)
PM MAIL ICQ Jabber   Вверх
  
Ответ в темуСоздание новой темы Создание опроса
Прежде чем создать тему, посмотрите сюда:
mr.DUDA
THandle

Используйте теги [code=csharp][/code] для подсветки кода. Используйтe чекбокс "транслит" если у Вас нет русских шрифтов.
Что делать если Вам помогли, но отблагодарить помощника плюсом в репутацию Вы не можете(не хватает сообщений)? Пишите сюда, или отправляйте репорт. Поставим :)
Так же не забывайте отмечать свой вопрос решенным, если он таковым является :)


Если Вам понравилась атмосфера форума, заходите к нам чаще! С уважением, mr.DUDA, THandle.

 
0 Пользователей читают эту тему (0 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема | Общие вопросы по .NET и C# | Следующая тема »


 




[ Время генерации скрипта: 0.0739 ]   [ Использовано запросов: 22 ]   [ GZIP включён ]


Реклама на сайте     Информационное спонсорство

 
По вопросам размещения рекламы пишите на vladimir(sobaka)vingrad.ru
Отказ от ответственности     Powered by Invision Power Board(R) 1.3 © 2003  IPS, Inc.