У меня с течнием веремени появляется это исключение, PictureBox-ы грузят. На них, вместо статичной картинки или меняющеося битмапа - крест красный наискосок и всё! Что мне  надо сделать, чтобы память не заполнялась со временем? Вроде же должен быть "сбор мусора2 и все такое.
Жду советов. Спасибо.

Поставить .NET Memory Profiler и посмотреть, куда утекает память. Стопудово, где-то остаются долгоживующие объекты ссылающиеся на тяжёлые ресурсы (как битмап), и не убиваются GC из-за ссылок на них - например подписка на события и т.п.

Использовать метод Dispose() всех без исключения графических объектов, сразу же после их использования. И даже если сохранятся лишние ссылки - вылетит ексепшен на обращение к уничтоженному объекту - будет видно откуда эти ссылки тянутся.

2DUDA: .Net Memory Profiler где можно скачать? Ссылкой поделишся?
2iad: делаю dispose() в конце цикла.

http://memprofiler.com/

Там есть триальная версия.