Раньше под DOS писались обьемные программы с использованием сегментации кода. Пробуй обрабатывать порциями "на лету". Принял порцию - обработал - высвободил память для повторного использования (можно просто повторно использовать без освобождения). Результаты можешь скинуть в своп (по усмотрению).
Приведу пример. По терверу писал курсовую (щас невспомню было что то с мат. ожиданием),  обрабатывали очень большие данные (результат вычислений приходилось сбрасывать в файл, ибо писалось под DoS, на Borlan C++ 3.1). Каждую порцию приходилось доставать из файла несколько раз и заново результат сбрасывать. Так и сдавал результаты в файлах по 300-500 Мб. Ничего, приняли 

да, по умолчанию бросает