А если приложение при завершении должно.. ну хотябы в реестр или в файл что-то писать?

А это уже нужно спросить у автора.
Если да, то все эти прописывания нужно делать перед килянием процесса.

для своего процесса

После вызова ExitProcess будет выполняться деинициализация подключеных библиотек. Поэтому вполне возможно что проблема возникает при выгрузке твоей ДЛЛ уже после какого-нить "внутреннего" для VCL вызова ExitProcess. 
Единственный првильный подход в данном случае - дебажить весть проект и искать ошибку. Вполне возможно что еще задолго до попытки завершиться ты приводишь программу в такое состояние, что при завершении начинают появляться неожиданные исключения.

Наблюдая серъезное обсуждение варианта с TerminateProcess я вспоминаю афоризм "Если бы строители строили дома так, как программисты пишут программы, то первый залетевший в окно дятел разрушил бы цивилизацию". Хочу посоветовать автору темы не быть дятлом и искать ошибку прежде всего у себя, потом у Борланда, но но забыть про TerminateProcess

bems, а если у себя ошибок нет? У борланда слишком муторно ковыряться, а дебаггинг (пошаговое выполнение) ничего не дает?

Такого не бывает. Любой тестер тебе подтвердит.

"Слишком" понятие субъективное. Может програминг это вообще "слишком" для данного чела?
Дебагинг это далеко не только пошаговое выполнение.
И вообще, оно как женщина - кому не дает, а кому очень даже   

Создай в библиотеке глобальную переменную и функции инициализации и финализации:


Инициализацию вызываешь до начала работы с фреймами, финализацию - перед завершением приложения. И соответственно, перед финализацией Free всех созданых фреймов.