VPF::[Qt] Точная конвертация QString в double

wester

Дата 4.11.2010, 00:05 (ссылка)

(нет голосов)

Загрузка ...

Опытный

Профиль
Группа: Участник
Сообщений: 675
Регистрация: 27.2.2009

Репутация: нет
Всего: 13

Доброго времени суток.
возникла проблема, как можно перевести QString в double точно, без изменений.
поясню

Код


QString lastPart = "0.49";
double dlastPart = lastPart.ToDouble() // записывается 0.48999999999999999

а как можно сделать что бы в переменную dlastPart записалось 0.49 ?

null56

Дата 4.11.2010, 04:26 (ссылка)

(нет голосов)

Загрузка ...

Опытный

Профиль
Группа: Участник
Сообщений: 721
Регистрация: 19.3.2008

Репутация: 6
Всего: 12

double - это число двойной точности, проблема не в QString, а в том, как организована работа с вещественными типами в комьютере
попробуй сделай вот так вот и посмотри чего произойдет

Код


double val = 0.49;

borisbn

Дата 4.11.2010, 11:09 (ссылка)

(нет голосов)

Загрузка ...

Эксперт

Профиль
Группа: Завсегдатай
Сообщений: 4875
Регистрация: 6.2.2010
Где: Ростов-на-Дону

Репутация: 48
Всего: 135

Код


    double d = 0.49;
    unsigned long long * x = (unsigned long long *)(&d);
    printf( "d = %.20f x = %I64X\n", d, *x );
    *x = *x + 1;
    printf( "d = %.20f x = %I64X\n", d, *x );
    *x = *x - 2;
    printf( "d = %.20f x = %I64X\n", d, *x );

*x - двоичное представление числа d

вот, что выводится:

Цитата

d = 0.48999999999999999000 x = 3FDF5C28F5C28F5C
d = 0.49000000000000005000 x = 3FDF5C28F5C28F5D
d = 0.48999999999999994000 x = 3FDF5C28F5C28F5B

таким образом, получается, что просто не существеут двоичного представления для числа 0.49

Это сообщение отредактировал(а) borisbn - 4.11.2010, 11:12

--------------------

Женщины отличаются от программистов тем, что у них чары состоят из стрингов

wester

Дата 4.11.2010, 16:50 (ссылка)

(нет голосов)

Загрузка ...

Опытный

Профиль
Группа: Участник
Сообщений: 675
Регистрация: 27.2.2009

Репутация: нет
Всего: 13

null56,
borisbn,
тогда объясню для чего я это делаю.

мне необходимо перевести десятичное число в 16 ,2 или 8 систему счисления.
то есть 0.49 нужно что бы получить 0.01111 в двоичной С.С.

есть какой - то способ без придумывания велосипедов ?

wester

Дата 5.11.2010, 17:35 (ссылка)

(нет голосов)

Загрузка ...

Опытный

Профиль
Группа: Участник
Сообщений: 675
Регистрация: 27.2.2009

Репутация: нет
Всего: 13

http://forum.vingrad.ru/forum/act-ST/f-143...3/unread-1.html
разместил в ЦП тему.
пожалуй, помечу эту тему как "решено"

borisbn

Дата 6.11.2010, 09:36 (ссылка)

(голосов:1)

Загрузка ...

Эксперт

Профиль
Группа: Завсегдатай
Сообщений: 4875
Регистрация: 6.2.2010
Где: Ростов-на-Дону

Репутация: 48
Всего: 135

wester, неохота прыгать из темы в тему, тем более, что ты её разместил не в ЦП smile

Лови

Код


QString double_2_string( double d, int precision, int base, QChar separator = QChar( '.' ) )
{
    QString result = QString::number( (int)d, base );
    if ( precision == 0 )
    {
        return result;
    }
    d = d - (int)d;
    result = result + separator;
    for ( int i = 0; i < precision; i++ )
    {
        d *= base;
        result = result + QString::number( (int)d, base );
        d = d - (int)d;
    }
    return result;
}

...

qDebug() << double_2_string( 0.49, 9, 2 );

Это сообщение отредактировал(а) borisbn - 6.11.2010, 09:41

--------------------

Женщины отличаются от программистов тем, что у них чары состоят из стрингов

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)
0 Пользователей:
« Предыдущая тема \| С/С++: Кроссплатформенное программирование, Qt/Gtk+/wxWidgets \| Следующая тема »