А чем GlobalAlloc + GMEM_FIXED не угодил?

Народ, вы чего? Преждевременная оптимизация - это вред. Не надо на это заморачиваться. Я уверен, если программа под буфер потребует менее половины ОЗУ, то проблем со свопом быть вообще не должно. А если выяснятся узкие места, то всегда можно будет разгрузить "узкое место" за счет чего-то другого. Например, во время граббинга проц простаивает (допустим загрузка 5%), при этом памяти потребляется 2 ГБ из 4-х. Отсюда следует вывод, что можно сжимать данные перед укладкой в буфер. В итоге, проц загрузится на 50-80%, зато памяти будет расходоваться 256 МБ (для случая jpeg, например; в любом случае, числа "взяты с потолка").