Нужна БЫСТРАЯ библиотека (подробный алгоритм, исходник программы, т.д.) работающая с длинными числами.
Желательно на ассемблере.
Под Windows.

gmp - http://swox.com/gmp/
нутро sssl/ssh - там много криптографии и соответсвующих вычислений

И посмотри ещё FXT - http://www.jjj.de/fxt/fxtpage.html

Ну еще IBM-кий decNember http://www.alphaWorks.ibm.com/tech/decnumber
Но там decimals

Ну еще можно почитать Кнута - там это есть.

И книжку Чарльза "Для программистов", фамилию автора не помню.
С ссылкой на Дональда Кнута и подробным разбором одного из алгоритмов.

А странике FXT есть очень хорошее описание БПФ-алгоритма умножения целых чисел.
Дока в постскрипте и архив с примерами.

В библиотеке GMP тебе будет тяжело разбираться - там много ассемблера,
но в AT&T синтаксисе - для использования придется поставить GNU C (www.cygwin.com и www.mingw32.org).
Плюс использование тучи скриптов для генерации и сборки кода кода.
Хотя есть оптимция под разные процессоры x86 - от i486 до Pentium4 и Athlon.

Ты определись, что тебе нужно - целые, двоичные или десятичные с фикс. запятой.
Сложение/вычитание проблем не составляет, умножение/деление куда интереснеее.
Пределы по данными - насеолько длинные, скорость, ...

Основа этих алгоритмов - вычисление сверток через быстрое преобразованик Фурье.
Причем в конечных полях. Модулярная арифметика. Эту штуку за день не осилишь.
Плюс БПФ - это тоже не кислая теория и практика.

Если эти термины тебе ничего не говорят и решение нужно сразу - забей, ибо
"In Galois fields, full for flauers, primitive elements dances for hours"
(если не ошибаюсь в цитате эпиграфа из одной книжки по помехоустойчивому кодированию)

Полазь на algolist.manual.ru - там было умножение через БПФ, они
испоьзуют БПФ в поле комплесных чисел и боруются с выч. погрешносями.
Надо считать в полях Галуа. - смотри FXT.

в OpenSSL посмотри библиотеку bn - она достаточно простая,
хотя не Бог весть что.

А еще на форуме этим занимался Vit